私たちの職場におけるLLM集団妄想
(blog.avas.space)- 資金難に苦しむ職場で、基幹業務の予算は削られるのに AI導入 には資金が流れ込むという矛盾した状況を、実際に経験した記録
- 数年にわたりボーナスが取り消され、人員・ライセンス・データベースが削減される一方で、コンサルタント、LLMワークショップ、ChatGPT・Copilotライセンス の費用は即座に承認された
- 数百人が参加した全社会議でさまざまなチームがLLMプロジェクトを試みたが、成功したものは一つもなかった
- 発表された一般的な活用事例は、ボットに気分を尋ねる、1ページの昼食メニュー要約、不審メールをChatGPTにアップロードするなど、無意味または危険なレベルにとどまった
- この現象を 制御不能な集団妄想 と位置づけ、リーダーシップがその気になれば可能だったことがこれまで意図的に阻まれていたのだと悟る 信頼崩壊 の瞬間だったと評価
矛盾した財政状況とAI導入の背景
- 雇用主は慢性的な 資金難 に陥っており、空席は補充されず、そのまま消滅していく構造
- 2年前に優秀な従業員向けの ボーナスが恒久的に廃止 された
- 必須リソースが削減され、「各自で何とかしろ」との通達だけが下された
- 複数部門が人員補充なしで過重労働の状態にあり、コスト削減のため 重要なライセンスとデータベースが削除 された
- こうした背景にもかかわらず、AI関連支出だけは例外的に執行された
- 「全面的に賭けるべきだ」と勧める コンサルタント雇用 の費用を確保
- 数年分の 外部LLMワークショップ・セミナー の費用を確保
- ChatGPTとCopilotの両方のライセンス 費用を確保
- 従業員ボーナスや業務支援の予算が、詐欺師、セキュリティリスク、役に立たないワークショップ、テック・ファシストに流れていると指摘
全社LLMプロジェクトの全面的失敗
- 部署ごとにLLMプロジェクトを登録・試験運用し、その結果を発表する 定例会議 が行われた
- すべての会議に出席したが、実際に成功した事例は一件もなかった
- 数百人、複数チーム、AIに熱心な人々、あらゆる種類のプロジェクトが試された
- すべてのプロジェクトが「動作しない」「時間短縮にならない」「むしろ複雑になる」に行き着いた
- ワークショップ、「プロンプトエンジニアリング」、カスタムGPT、事前準備した文書やテンプレートを使っても、再現可能な効果 は作れなかった（コーディング分野ではない）
- 毎回 雑な賭け にすぎず、微調整・反復・出力検証・エラー修正にかなりの時間がかかった
- 特定文書が反映されない、ハルシネーション、文書を正しく埋めたり編集したりできないことが最大の不満だった
- Enterpriseライセンス でも制約が大きすぎた
無意味な一般活用事例のデモ
- 特定プロジェクトとは無関係な日常業務向けの 一般活用事例 発表会議も存在した
- ボットに「今日の気分はどう？」と尋ねる機能が 真面目にデモ された
- 冗談や風刺ではなく、未来的で人間的だという名目で発表された
- 5年前なら、何千ドルもするサブスクリプションでボットと無意味な会話をしようという提案は嘲笑されただろうし、その反応は 今でも正しい と強調
- イントラネット上の 1ページの社員食堂メニュー（Excelシート）をChatGPTにアップロードして「水曜の昼食は何か」と尋ねる事例をデモ
- ボットの回答はシート全体を読むより長かった
- ダウンロード・アップロード・プロンプト作成は、シートを直接読むより時間がかかった
- ひと目で確認できる情報 にボットは不要
- IT責任者 自らが示した事例として、スパム・フィッシング・不審な添付メールをデスクトップに保存したうえでChatGPTにアップロードして確認するよう勧めた
- 技術に不慣れな従業員に 怪しいファイルを業務用ノートPCに保存 させる危険性を指摘
AIが増幅するダニング＝クルーガー効果
- AIが人々の ダニング＝クルーガー効果（Dunning-Kruger-Effect） を増幅し、試みるすべてのことがより賢く、正当なものに見えるようにしてしまう
- 平凡で無価値な作業をしていても、重要で画期的なことをしているかのように装えてしまう
- 技術の擁護者たちは巨大な革命の一部だと感じ、批判者がいつか謝罪する日を想像している
- 責任感があり有能な人々が、はっきりした理由もなく AI企業の宣伝係 に変わっていく現象を懸念
- 適格な人物が、洗剤の効能を偽って売り込む訪問販売員レベルにまで落ちる
純粋なハイプと信頼崩壊
- 解決すべき具体的問題がなく、従業員の 少なくとも90% がCopilotなどで利益を得られる業務ではないのに、導入を強行している
- 問題のない場所に問題を作り出し、トークンを消費し、サブスクリプションを正当化するための試みが繰り返される
- 上層部に「少なくとも試した」と見せるためのアリバイ的行為だと規定
- あらゆる利用が「探索」と「遊び」という理由で正当化され、時間の浪費・費用の浪費・背後の権力 の影響が矮小化される
- AI導入の速さへの疑問
- いつも金がないと言っていた場所で、巨額の初期費用 を要する不安定な技術が即座に通過した
- 公共部門では素通りされがちだった新技術が、今回はあらゆる注目を集めた
- 変化導入に数年から十年かかっていた組織が、一瞬で AIインフラと組織能力を整えた
- これは、組織の遅い変化がデフォルトではなく 意図的な設計 だったことを示す「仮面が剥がれた瞬間」
- 障害が本質的なものではなく、恣意的な嘘だったことが暴露された
- 従業員にとって 信頼を完全に崩壊させる瞬間 として作用した
今後の課題
- 「進歩」の名のもとで尊敬されていた組織の大人たちが、自ら恥をさらした経験をどう忘れてやり過ごせばよいのかという根本的な問いを提起
- 数か月にわたり繰り返し ガスライティング されているような文化が形成され、自分がおかしいのではないかと疑うようになった
- この経験は忘れられないと述べ、「私の第二のコロナ」 と表現
- 結びとして、このようなことのない職場なら本当に幸運だとし、AIを賢く活用して良い結果を出している業界や人々には拍手を送ると述べる
- ただし、このような状況は現実に存在するのだから、その狂気についてともに語れるよう、この経験自体を否定しないでほしいと求める
3件のコメント
結果はなくても、どうにかして組織を維持し、生き残ろうとする努力なのではないだろうか……
その努力が「資金が詐欺師、セキュリティリスク、役に立たないワークショップ、テック・ファシストに流れていると指摘」されてしまうなら、うまくやった努力とは言えない気がします
Lobste.rsの意見
うちの職場もここまでひどくはないが、方向性は同じ。新規採用や昇給分の予算はないのに、ビジネスコンサルタント、巨大なエンタープライズ向けCOTSソフトウェアのライセンス、AIサブスクリプションにはいつも金がある
多少の皮肉は差し引いても、政府ほど硬直していない組織でも、「物を買う」予算のほうが「従業員に支払う」予算より取りやすいことは、今でもよくある
筆者が描写しているのは、経営陣が事業運営においてほとんど致命的なほど 無能な状態 だということ
筆者はもっと無能でない経営陣のいる新しい職場を探すべきだ。それが難しいなら、生存とメンタルヘルスのために別の対策を取る必要がある
これはFAANGが致命的な無能さと無縁だという意味ではなく、「おお、メールとランチメニューを要約してくれるって？！」みたいな空気が、思っているよりずっと広く浸透しているということだ
私の経験は全体としてはもう少し前向きなほうだと思う
だが空港を通るときに経営層向けのAI広告を見ると、ああ、外の状況は本当に深刻なんだなと思う
LLMの利用もその点でとてもよく似ていると感じる。ツールが何をできて、どう効果的に適用するかを理解していれば、実際に時間を節約してくれるが、とにかく最速でコードを吐き出すことだけを目指すと、入り込むのも難しい混乱で終わる