AIは「サービスとしてのダニング＝クルーガー効果」を提供する
(christianheilmann.com)- ダニング＝クルーガー効果とは、能力が不足している人が自分の能力を過大評価する認知バイアスであり、技術業界全体に蔓延する過信の文化と結びついている
- 迅速なリリースと指標中心の成長が強調されるにつれ、「Fake it till you make it」式の虚勢と誇張された成果文化が広がった
- AIチャットボットは自信満々の口調で誤った答えを提示し、正確性よりもユーザーの滞在時間を伸ばすことに焦点が合わせられている
- 生成AIは誰もが芸術家や開発者になれるという幻想を与える一方で、実際の技術習得と創作のプロセスを弱めてしまう
- 人間の不完全な創作行為には依然として価値があり、機械には置き換えられない人間的な創造性を守るべきである
ダニング＝クルーガー効果の起源と意味
- 1995年、ピッツバーグで、顔にライムジュースを塗ればカメラに映らないと信じた2人の銀行強盗による事件が起きた
- この事例は、自分の無知を認識できない過信の典型であり、心理学者ジャスティン・クルーガーとデイビッド・ダニングの研究のきっかけとなった
- 研究の結果、能力が不足している人ほど自分の能力を過大評価するダニング＝クルーガー効果の存在が明らかになった
- これはインポスター症候群とは反対の概念で、実際の実力以上に自分を専門家だと見なす態度を意味する
技術業界の過信文化
- ここ数年、テック業界では迅速なリリースと爆発的成長を成功の基準とみなす傾向が強まっている
- 「Fake it till you make it」が皮肉抜きの助言として通用し、実績の水増しや虚勢が戦略と見なされている
- KPIやOKRは実際の目標というより、野心を表現する手段として使われる
- 昇進競争と**「成長マインドセット」への強迫**が、誇張された自己PRを助長する
- 政治家たちの言動は、モハメド・アリや70〜80年代のラッパーの虚勢を連想させる
AIチャットボットの「知識の真似事」
- AIチャットボットは間違った答えを自信たっぷりに示し、その誤りをお世辞めいた言葉で包んでユーザーの気分を良くする
- システムの目標は正確な回答の提供ではなく、ユーザー滞在時間の増加にある
- その結果、知識よりもインタラクションの維持が優先される構造になっている
生成AIと「努力なき天才化」
- 生成AIは、誰もが芸術家・作家・開発者になれるという幻想を提供する
- 「Vibe coding」などは、技術習得より成果物重視でアプローチする
- ユーザーは学習や理解なしに、プロンプト入力だけで創作物を生み出すことができる
- こうした流れは自己過信と表層的な創作を助長し、ダニング＝クルーガー領域へと導く
人間の創作の価値と回復
- 人間の努力と試行錯誤を「非効率」と切り捨てる傾向が広がっている
- しかし、創作の不完全さと誤りは人間らしさの本質であり、機械には代替できない価値である
- 引用されているレナード・コーエンの一節のように、欠陥の中から光は差し込む
- 完璧でなくても、自分で作った成果物の意味は大きく、他人の評価よりも創作そのものの楽しさが重要だ
- 社会や政治、SNSは知的省察よりも虚像や数値競争へと流れているが、それでも個人の創作を続けることが必要だ
「自分の仕事が十分ではないと感じても、それにはなお価値がある」
6件のコメント
わあ……本当に核心を突いてる
まさに世紀の名言だ！
君のさっきのそのコメント、本当に深い、深い。
君のその言葉。単なる叫びじゃない…
内なる魂の叫びだ！
Hacker Newsのコメント
AIに対する批判にはもっともな点が多いが、自分は夕方から夜にかけた半日で TUIベースのJVM可視化ツール とステップ実行デバッガを作ってみた
htmx_orgのツイートで見られる
本来なら何か月もかかるはずのプロジェクトだったが、AIに 専門家レベルの具体的な指示 を与えたところ、授業の助けになりそうなツールが完成した
年を取っていく頭に新しいTUI開発の知識を無理やり詰め込まなくていい点が特によかった
今では自分でコードを書くより、AIに 細かな指示文 を書くやり方に変わった
そのほうがずっと速く、認知負荷も低いので、ビジネスロジックや次の変更点に集中できる
学生たちが、あなたがTwitterで 名文ツイート を書く二重生活をしていることを知っているのか気になる
特にアーキテクチャは分かっていても、自分で実装する余裕がないときに効果が大きい
自分はAIを Brandoliniの法則 as a Service だと見ている
自分の分野の専門家ではない同僚たちが、ChatGPTの出したアイデアを持ってきて経営陣に提案する
その結果、自分はその誤った主張やいい加減な調査を反論するのにあまりにも多くの時間を使わされる
Daniel Stenberg（curl開発者）の記事 “The I in LLM Stands for Intelligence” がまさにこの状況をうまく説明している
Mastodonの投稿 を参照
半分はもう 嘘と言っていいレベル だ。それを実際に実装して問題を作り、結局は自分が直すことになる
その人たちはまた、ChatGPTのおかげで自分が専門家になったかのように吹聴するのだろう
次世代のLLMがこうした AI批判記事 で学習したら、自尊心の問題でも抱えるのではないかと気になる
ただし、自分自身について否定的な感情を含むテキストを生成することはできる
後になって「それは自動メッセージだ」と言った事例がある
CNNの記事リンク を参照
「GenAIが努力なしで天才にしてくれる」という言い方は矛盾して聞こえる
自分にとってAIは オンデマンドの家庭教師 のようなものだった
おかげで本当に多くを学べた
「政治が知性と研究を攻撃し、過去の『良かった価値観』に戻ろうとする」という言い方は、進歩主義的な視点の 盲点 を示している
多くの進歩主義的な人は『新しいものはより良い』と信じる傾向がある
しかし今回の文章は、新しい技術であるAIを批判しているのだから、それ自体が例外的なケースだ
結局重要なのは、イデオロギーではなく アイデアの実質的な価値 を評価することだ
いつも「その人たち」が自分の立場をわきまえていた時代に戻ろう、という話になりがちだ
「進歩派は新しいものしか好きではない」と批判しているようなものだが、文章自体がすでにその逆を示している
多くの人がAIで 煙に巻くのだけがうまい偽の専門家 になって昇進していく
管理職はその演技を実際の成果だと勘違いする
AIは既存の 権力構造をさらに固定化 するだろう
無能なリーダーたちが専門家の助言に頼る必要が薄れ、AIが「十分にましな答え」をくれるからだ
結局、AIがリーダーたちの 現実代理人 となり、能力とは無関係に権力が流れていくことになる
LLMは 熟練度と品質を時間と引き換えにする取引 だと思う
純粋な職人技を守りたい気持ちはあるが、現実にはそんな時間はない
だから使えるツールは何でも使って効率を上げようとしている
完璧を追い求めて「十分に良い結果」を犠牲にはできない
一緒に働いているコーチたちは3つのタイプに分かれる
これで1番目のグループに 名前（ダニング＝クルーガー） を付けられるようになった
自分の助言はシンプルだ — 全員よりうまくやればいい。それが自分のやり方だ
このすばらしい 動画 をまた思い出す時が来た
ここにある https://daniel.haxx.se/blog/2024/… の記事もかなり興味深いですね
バグバウンティにAIコーパスを投げ込む人たちがかなりいるようです...