Kaiserの看護師ら「AI監視が業務と患者ケアを悪化させている」
(localnewsmatters.org)- Kaiser Permanenteの相談・トリアージ看護師たちは、15分以上の通話、通話間隔、ガイドライン順守状況を追跡する成果管理が、専門的判断と患者ケアを萎縮させていると話している
- 2024年に試験導入されたAIは、看護師の共感や声のトーンまで評価しており、看護師たちは、業務の文脈を理解しないまま誤ったスコアを付けていたと批判している
- 自殺リスクのある患者、複雑な症状を持つ患者、通訳が必要な患者のように長時間の相談が避けられなくても、月間スコアや評価面談を意識せざるを得ず、忙しい時間帯には通話後の記録・回復時間が30秒以下に縮まる
- Kaiserは、平均処理時間で成果を評価しておらず、すべてのツールに人によるレビューと監督があると反論したが、内部システムの具体的な一覧や運用方法は公開していない
- 労組は、25,000人規模の契約交渉でAIを主要議題として扱っており、California州議会も、自動化された勧告を拒否した医療従事者の保護や、感情予測AIの制限などを盛り込んだ法案を検討中である
15分通話基準が生む成果プレッシャー
- Kaiserの相談・トリアージ看護師7人は、患者と15分を超えて通話すると、経営陣から批判されたり、成果評価面談に呼ばれたりすることが繰り返されていると話している
- 通話時間は、看護師が毎月受け取る成果スコアに反映される
- ソフトウェアは毎日、看護師が非生産的かどうか、電話に十分素早く応答しているかどうかを予測しようとしている
- Vallejoで2010年から勤務するRaquel Alvarez Sanchezは、自殺リスクのある患者と、警察が到着するまで1時間以上通話した
- 長時間通話が数週間にわたって平均通話時間を悪化させ、経営陣からの問いただしにつながる可能性を意識しながらも、電話を切らなかった
- 労組幹部として同僚と評価面談に出席した際、通話対応自体はすべて適切だったにもかかわらず、15分を超えたことだけを理由に問題視された事例を目撃した
- このために解雇された看護師は見ていないが、圧力が続けば退職や早期引退につながりかねないと懸念している
- 看護師たちは通話中、定められたガイドラインに従い、助言を2〜3個以下に制限するよう指示されている
- 必要な助言を控えるか、成果評価への影響を受け入れるかの選択を迫られる状況が生じうる
患者ケアへの不確かな影響
- アルゴリズムベースの管理と通話時間制限が実際の患者アウトカムに与える影響は明確ではない
- 相談看護師は通話終了後に患者を追跡しないため、否定的な結果が発生したか確認しにくい
- CalMattersが2024年にCalifornia Department of Managed Health Careへ情報公開請求を行ったが、Kaiserの通話時間に関連する患者苦情は見つからなかった
- 看護師たちは、次のような相談には15分以上が必要だと話している
- 複数の症状や慢性疾患をあわせて見極めなければならない患者
- 助言と安心感を必要とする新米の親
- 追加の健康教育を望む患者
- 人生を変えるような診断を受け、ショックや不安に陥っている患者
- 通訳が必要な通話で、通常30分以上かかることがある
- California州民のおよそ10人に4人は英語以外の言語を使用しており、そのうち半数は英語を十分に話せない
- ある看護師は、末期がんと診断された高齢患者について、当初は自殺リスクがあると考えたが、実際にはショックの中で話し相手を必要としているのだと把握した
- もっと共感や慰めを提供したかったが、月間スコアの低下や管理者からの叱責を恐れて言葉を減らした
- 定められたガイドラインを外れたり、必要以上に話したりした場合に懲戒を受けるのではないかと、自分で判断しなければならなかった
- Consumer WatchdogのMichele Ramosは、多くのKaiser患者が相談電話から診療を始めるため、通話段階での制約が、その後の問題の出発点になりうると見ている
- Kaiserは、メンタルヘルス受診予約を法定期限より遅らせ、個別治療の代わりに集団治療を過度に活用していたとの調査結果を受け、5,000万ドルの記録的な罰金を含む和解を結んだことがある
- 2002年には、非看護師のコールセンター職員に短時間通話の見返りとしてボーナスを支給し批判を受けたが、現在の看護師たちは同様の慣行は経験していないと話している
共感と声のトーンを採点したAI
- Kaiserは2024年夏、看護師と患者の声から共感とトーンを評価しようとするAIツールを試験導入した
- 看護師たちは、患者の個人情報保護、透明性、専門的判断権、技術導入プロセスへの看護師参加を求める請願に署名した
- 同年、病院外での抗議で使った「Trust nurses, not AI」というスローガンをキャンペーンにも用いた
- 試験は2024年11月に終了したが、労組関係者は、経営陣が今後このプログラムを再導入する可能性があると聞いている
- Sanchezは、従来の監視だけでも看護師は嫌がらせのように感じており、AIが通話を評価してスコア化する計画がそれを悪化させたと話している
- 匿名の看護師によれば、AIは看護師の業務を理解しておらず、継続的に誤採点していた
- Kaiserは、このツールや、看護師の成果評価に使われる自動化システム、共感・トーン評価の事実を患者に知らせていたかどうかに関する質問には答えていない
通話の合間の30秒と感情的消耗
- 看護師たちは以前、通話後に患者記録を整理したり、つらい相談から立ち直ったりする時間として約10分を与えられていた
- 現在は、通話量が多いと次の電話まで通常30秒以下しか与えられない
- 深夜のような比較的暇な時間帯には、もっと長いこともある
- 特につらい相談の後には、管理者の許可を得て追加時間を確保できることもある
- 自殺リスク、メンタルヘルス危機、終末期に近い患者と通話した後でも、ほとんど時間がなく、このようなスピードが患者状態の重要な手がかりを見落とすミスにつながるおそれがあるとの懸念が出ている
- 4つの先進国のコールセンターを調べた2023年の研究は、AIベースの管理・監視を使う従業員では、通話間の時間がより少なく、感情的消耗もより多く見られたことを確認している
- 回答者のほぼ半数は、AIツールが業務ストレスを高めたと答えた
- 同じ研究チームの以前の研究は、成果監視と高い感情的消耗率の関連を確認している
- Cornell UniversityのVirginia Dolleghastは、Kaiserの事例は、複雑で感情的な問題を解決する労働者を絶えず監視する産業全体の流れの一部だと見ている
- 医療現場では、ストレスやバーンアウトによるミスが人の生命や健康に直接結びつくため、危険性がより大きい
- 業務の速度やタイミングを自分で決められる裁量が大きい労働者は、職務満足度が高く、欠勤も少ない
アルゴリズムと医療従事者の専門的判断
- National Nurses Unitedが2024年に看護師約2,000人を調査した結果、半数は雇用主が健康記録を分析するアルゴリズムシステムを使っていると答えた
- こうしたシステムは、患者の脆弱性や必要なケア時間を予測できる
- 回答者の3分の2は、自分の判断がコンピュータの予測と食い違ったことがあると答えた
- 10人中6人は、雇用主がAIを使う際に患者安全を優先すると信頼していない
- Kaiserの看護師Pa Vueは、通話効率について管理者と定期的に話し合い、毎月評価スコアを受け取っている
- 特異な症状と心臓の問題の可能性が懸念され、患者への助言を繰り返したところ、スコアが下がったことがある
- ソフトウェアの勧告を専門的判断に基づいて退けたり、医師に相談せず患者の予約を取ったりすると、スコアが下がる事例も目撃した
- Vueは、患者の利益になるAIそのものには反対していないが、共感・トーン監視は生産性向上とコスト削減に焦点が合っていると見ている
- 全米でAI導入が増える中、労組は新たな契約交渉で、AIが引き起こす問題に対処するよう雇用主に求めている
- KaiserのNorthern Californiaのメンタルヘルス労働者2,400人も契約交渉中である
- 治療セッションの録音を書き起こしてAIモデル訓練に使う問題や、AIが雇用を代替する可能性を懸念している
Kaiserが医療プロセスに導入したAI
- Kaiserは相談センター以外にも、医療プロセスの複数の領域でAIを使う、または試験している
- 電子健康記録を分析して、入院患者の有害事象リスクを特定している
- Preventusで患者の退院時期を判断している
- 医師とセラピストは、Abridgeで対面診療を録音し、音声をテキスト化している
- Bay Areaの施設では、追加ケアが必要な患者向けのAI遠隔モニタリングを試験している
- National Nurses UnitedおよびCNAのCathy Kennedyは、共感検知AIを、看護師の自律性を制限し効率を高めようとする一連の措置の延長線上にあるものだと見ている
- AIは看護業務を自動化し分断できるため、開発・導入企業は配備前にシステムの有効性と公平性を証明すべきだと求めている
- Kaiserと看護師労組の契約には新技術導入の通知が含まれているが、CNAによれば通知が漏れることがある
- 労組指導部は、会員に新技術を見つけたら知らせるよう求めており、Kaiserで使われるAIモデルの数を追跡している
- この方法で共感・トーンAIに対応し、混乱状態の患者のベッドサイド看護師をカメラで置き換えようとした試験も中止させた
- Coalition of Kaiser Permanente Unionsも、現場労働者がAI導入を報告する「see something, say something」キャンペーンを運営している
- 組合側は、経営陣が労働者への通知や意見聴取なしにAIを業務フローへ組み込むことがあまりに多いと話している
- 放射線技師Debru Carthanは、声のトーン検知器が文化的背景の異なる看護師を差別する可能性を懸念している
Kaiserの反論と労使交渉
- Kaiserは、**平均処理時間（Average Handle Time）**で相談スタッフの成果を評価したり、通話時間基準を強制したりはしていないと反論している
- コールセンターツールは品質保証を支援するものであり、人によるレビューと監督を経ていると説明している
- AI利用では患者安全、プライバシー、公平性を優先しているが、セキュリティと運用上の理由から、内部技術システムの具体的情報は公開していない
- KaiserはCalifornia州最大の民間雇用主で、州内900万人と、他地域の米国人300万人に医療サービスを提供している
- California Nurses Associationは2026年7月にKaiserとの新契約交渉を開始し、対象はコールセンター看護師1,000人を含む25,000人である
- 看護師たちは3月、AIに反対して1日のストライキを行った
- 前年秋にもAI利用に反対するピケを実施した
- CNAは交渉前の段階ではAI関連の詳細な要求条項を公表していない
California州の職場AI規制
- CNAが支持したAB 1018とSB 7は、昇進、懲戒、成果評価などに自動化システムを使う前に、雇用主が労働者へ通知することを求めていた
- Gavin Newsom知事はSB 7に拒否権を行使した
- Kaiserを含む企業の強い反対の中、AB 1018は3年連続で成立しなかった
- 議員たちは、SB 7の新バージョンであるSB 947を再提出している
- 別の法案では、次のような規制が進められている
- 雇用主がAIで従業員の感情状態を予測する行為を禁止する
- 医師や看護師が自動化システムの勧告を無視しても報復されないよう保護する
- 医療提供者に、毎年従業員へ自動化システムの一覧を提供するよう求める
- CNAとCalifornia Labor Federationは、職場でのAI利用を規制するおよそ6本の法案を支持している
- 看護師たちは、監視とスコア化が、人をケアする看護師をチェックボックスを埋める自動機械に変えてしまうと懸念している
- 通話が録音されるため、患者にユーモアや個人的な共感を表現しにくくなっている
- 定められたガイドラインにない人間的なやり取りが減ることで、看護業務の本質と、患者が期待するケアが損なわれると見ている
1件のコメント
Hacker News のコメント
記事を読む限り、不満の大半はコールセンターの成果指標と診療を制限するよう求める圧力に関するもので、指標の誤用の問題であって、AI そのものの問題ではない。AI で共感力を評価したのは2024年の試験事業で、すでに中止されている。
妻は Kaiser で医療用 LLM を使っているが、リアルタイム通訳、診療記録の要約、包括的な回答検索のおかげで時間を節約でき、より良い診療を提供できているという。高齢の患者は、心臓の異常を検知した Apple Watch の通知をよく持ってくる。
効果もリスクも大きく異なる技術をひとまとめに呼ぶのではなく、用途ごとに個別評価すべきだ。
経営陣やアナリストが「AI」ブームを利用して、一般的な自動化・コンピュータ化や解雇まで推し進めているのだから、それに反対する人々も同じ呼称を使うのは自然なことだ。
こうした不正確な言葉遣いは議論を曇らせ、人間の責任の隠蔽、自律性の侵食、組織の柔軟性低下、脱専門職化といった核心的な問題に怒りとエネルギーを集中しにくくするが、その責任が AI 批判者から始まったわけではない。
機械で人間がどれほど共感しているかを評価するのを良い発想だと思うなら、権力を持たせるべきではない。
報酬と評価は必要だが、アルゴリズムが算出した指標で管理するのが最善なのかは疑問で、その過程で共感と常識が失われている。
主治医は、AI 記録ツールが大きな安心感をもたらしたと言っていた。以前は患者の話を聞きながらすべて入力しなければならなかったが、今は患者に集中して聞き、必要な内容だけを具体的に記録できるため、ストレスが大幅に減ったという。
ただし、運用ルールで診療方法を強制し、患者をどう治療すべきか指示し始めた瞬間に強い反発を招くし、臨床判断を AI で置き換えるという発想は愚かだ。
職場の指標と監視は容易に副作用を生むが、看護業務にも他の職務と同様、一定の安全監督は必要だ。
複数の女性医師から、入院時には看護師とのやり取りに注意するよう助言されたことがあり、すべての看護師が献身的というわけではなく、怠慢だったり口実を作って患者に害を与えたりする場合もあるという。
医療も神聖な使命だけではなく職業なので監督は必要だが、企業が強制した指標であれば、グッドハートの法則に従ってひどく歪む可能性が高い。
看護師組合の契約交渉を控えて出てきた研究なので、動機づけられた推論のように見える。実際の問題は多いが、この研究はそれを適切に扱えておらず、もっと効果的な批判が必要だ。
AI は、選択的に医療サービスを過剰利用している患者を特定し、根本原因を解決して利用を減らすために活用できるはずだ。そうすれば患者の診療品質と医療従事者の生活の質を改善し、予防医療が必要な過少利用者にアプローチする時間も確保できる。
Marshall Brain の Manna が、まだ未来の話のように聞こえるのか疑問だ。
https://marshallbrain.com/manna
看護師が患者に対する医療上の義務を果たす際に職場の AI が介入する問題は Kaiser に限らず、UHC も同様の AI 監視ツールを導入して使っている。
ほとんどの看護師は、人生最悪の日を過ごしている人々の世話をしている。
記事は AI の使用に言及しているが、AI による具体的な被害はほとんど示していない。むしろ Kaiser が診療品質よりコスト削減のために通話を最適化している例は具体的だ。
長い通話を問題視したり、3つを超える助言をした看護師に不利益を与えたりする方針は、診療品質を下げる可能性が高い。
地域の田舎の病院では、看護師に追跡装置を付け、院内でのすべての移動を記録し、1カ所に滞在した時間まで評価に反映している。
数年前は病室ごとに15〜20分ずつ滞在していたが、今は素早く出入りしている。患者数は増えておらず、看護師数はむしろ増えているため、誤った評価指標が診療水準を下げたのだと思う。
米国の膨大な医療の過剰利用がコストを押し上げているが、それを率直に認めようとしていない。
Kaiser はすでにサービスがひどい方なので、今回の変化はさらに懸念される