またAIの話をしたらファイルドライバーしてやる
(ludic.mataroa.blog)"最近のGPT-4などAI分野の革新は、社会に広範な影響を及ぼすだろう。単調な仕事をなくすユートピアから、芸術家たちの生計を脅かすディストピア、人類そのものへの実存的脅威までさまざまだ。"
- 筆者はデータサイエンティストとして正規の教育を受け、オーストラリア有数の大学の一つで開かれたML大会で優勝するほどの高い実力を持っている
- ただし最高峰ではなく、エリート機関が作成したライブラリを使い、高級言語で知られたソリューションを実装できる程度である
- だが再びAIに言及する人には、"首をへし折る"ような脊椎矯正を無料で施すことになるので、あらかじめ心から謝っておく
I. でも俺たちは機械学習でとてつもない効率性を実現するんだ-
"今なんて言ったか聞こえなかったのか？"
- 2019年からデータサイエンティストとして働いていたが、2021年にはこの分野が大きい一方で詐欺も多いと気づいた
- ほとんどのリーダーはAIについて30分も読んだことがないのに、AIに注力すべきだと主張していた
- AIイニシアチブを始める企業数が、実際のユースケース数をはるかに上回っていた
- 市場は詐欺師と無能な人間であふれていた
- 筆者はデータ/ソフトウェアエンジニアリングへ転向した
- 開発者にとって誇大広告は有害だ
- 誠実な友人と魂は持っているが、分野を簡単に変えることはできない
- データサイエンスの仕事は消え、誇大広告のサイクルはデータエンジニアリングへ移っていった
- ついにAIは終わったと思っていたのに…
- ところが誰かがChatGPTを作り、今やあらゆるアプリケーションにチャットボット対応を追加するために莫大なエンジニアリング労力が注ぎ込まれている
- 業界の半分は定期的にデータベースのバックアップをテストする方法すら知らないのに…
- AIがビジネスの未来だと提案する次の間抜けに暴力を振るうべき理由は、彼らがもはや何億人もの意図的な愚か者たちと見分けがつかないからだ！
II. でも競争力を維持するにはAIが必要なんだ-
"ああ慈悲深き主よ、どうかもう黙ってくれ。自分たちがAIを正確にどう使うか分かっている少数の企業でないなら、あなたにAIは必要ない"
- 現在存在していて有用な人工知能は、すでにビジネスソフトウェアのサプライチェーンに統合されている可能性が高い
- マネージドセキュリティ事業者は、おそらく異常トラフィックを検知するためにラボのソフトウェアに組み込まれたアルゴリズムを使っている
- 彼らもAIの仕事を大してしておらず、実際にデータサイエンティストを雇う必要がある小さな市場セグメント向けのソフトウェアを買っただけだ
- スティーブ・ジョブズのようになりたくて革新的な能力について語りたいのだろうが、だからといってタートルネックを着られるわけではない
- 仮に着られたとしても、筆者の猛攻から生き延びるにはセーターではなく鎧を着る必要があるだろう
- ほとんどの会社は、最も単純なCRUDアプリケーションですら予算内かつ期限通りに成功裏に開発・配備できない
- 賢い人たちと協力し、合理的な要件を提示すれば、有能なチームは毎回それをやり遂げられる
- 筆者が今働いている顧客たちは、技術にまったく詳しくなくても互いの知性を尊重し、"大人のように会話"して一緒に問題を解決している
- だがほとんどの会社は、運用面でも文化面でも機能不全に陥っており、それができない
- エンジニアの中位在籍期間は1〜2年ほどで、組織は制度的な逆行性健忘にかかっている
- 誰かがエンジニアリングチームのリモート勤務特権を取り消そうとすると、最高のエンジニアたちが去っていく
- ランサムウェア攻撃が起きるたびに、6か月間バックアップをテストした人がいないことや、レガシーシステムの半分を復旧できないことが明らかになる
- 4年で2回も直接見た。どれほど狂っているか分かるだろうか？
- ほとんどの組織は最も基本的なアプリケーションすら一貫して提供できないのに、ここであなたは実験的技術を導入するのが競争力維持の最善策だと言っている
- IT部門が運用しているどんなものより一段高いレベルで、採用経験もなく、GPUを使ったこともない、そんな技術のことだ
- たとえ全部うまくやったとしても、データやビジネス特性のために問題を解決できない可能性すらある
- これは災厄のレシピではなく、12コースの大惨事を用意しようとする人のための料理本だ
- ただ"自分の仕事をきちんと直すこと"で競争力を維持したらどうだろう？
- 筆者は、機密の顧客記録にアクセスできるシニアデータサイエンティストが、デスクトップのテキストファイルにパスワードを保存することを許されているのを見た
- それなのに、まだ思いついてもいない仕組みを通じてAIを使ってセキュリティを改善することが顧客にとって最善だと心配しているのか？
- あなたは"間抜け"のようなことを言っているので、医者があなたの顎をワイヤーで固定して皆を安心させ、私たちが"実際の問題を解決"できる祝福された10秒の沈黙を与えてくれるまで、筆者はあなたの顎を蹴り上げるだろう
III. 俺たちはもう広範な利益を得ているのに-
"子どものころ、R.A.サルバトーレの古典ファンタジー小説『クリスタル・シャード』を読んだ。その中で主人公ウルフガーが、自分の民を世界を救う戦争へ導くため、蛮族の族長に決闘を申し込む場面がある。戦いは、ウルフガーが武器を捨て、素手で族長の頭をつかみ、殺人者にならないために降伏してくれと『懇願』して終わる"
- さて、これがまさに今の自分だ。嘘はやめろとあなたに懇願している。本当にあなたの頭蓋を砕きたくはない。
- "だが、お前がそうさせるならそうする"。
- 昨日Scaleの"2024 AI準備レポート"を見たが、チャートではAI導入に生産的な結果がなかったという会社は8%だった
- AIプロジェクトに失敗した企業がたった"8%"だと信じるほど愚かでなければならないのか？
- CRUDアプリでさえこれを安定して管理できないのに、この数字が滑稽でないと思うのか？
- LLMブームの間に"一部の"企業は恩恵を受けただろうが、"92%"ではない
- 34%の企業が生成AIは戦略的意思決定に役立っていると報告したって？
- いったい何を言っているんだ？ GPT-4はPython並みに高品質で一貫したElixirすら書けない
- なのにあなたは、"時々、家族が摂取する致命的な毒素を醸造しろと人々に言う"それに意思決定を任せていると認めているのか？
- 筆者は信じない。正気の人間なら誰も信じない
- 取締役会があなたのアンケート回答を信じるなら、あなたを解雇すべきだ
- 友人たちの一部がリーダーシップの座に"ぜひとも"就くべきだと感じる理由が、今になってようやく分かった
- あなたが私たち全員をまとめて崖から追い落とす前に、誰かが権力の手綱をあなたのトカゲのような爪から引きはがさなければならないからだ
- 数年前、ある友人がFAANG組織に招待されて米国を訪れたが、多くの発表は印象的な人工知能製品の技術デモだった
- ソフトウェアエンジニアである彼は、開発者たちと舞台裏で時間を過ごし、"デモの大半がやらせだった"ことを知った
- 製品は動作しておらず、"実際に予測すべきものを予測する"といった些細な問題すら解決できていなかったのだ
- それでも、息をのむ聴衆に1時間にわたって絶対的なナンセンスをまくしたてるのを止めることはなかった！
- ソフトウェアエンジニアである彼は、開発者たちと舞台裏で時間を過ごし、"デモの大半がやらせだった"ことを知った
- 別の友人は救急サービス向けソフトウェアを評価していたが、営業担当たちは救急サービスの購買担当者が熱心なプログラマーだとは予想していなかった
- この杜撰なセキュリティ意識のせいで、彼らは"うっかり、そのサービスが結局はインドのどこかの男にすぎないことを明かしてしまった"
- 筆者もインドのいとこたちと席を替えれば、ただのインドのどこかの男になるだけなので、個人的には気にしない
- だが、"AIという言葉を使って、私のような見た目の人々の労働を外国政府に売り渡そうとすること"は最悪で、あなたは非倫理的な怪物だ
- そのまま"try { thisBullshit(); }"を続けるなら、"catch (theseHands)"を食らうことになるだろう
IV. でも未来に備えなければならない-
"ChatGPTに首輪の準備方法を聞いて、それでお前を絞め殺してやる。そしてお前は、ChatGPTが10%の確率で狂って、首輪は紙と悪意だけでできていなければならないと言うことを『祈る』しかない。"
- 役員たちが、将来の業務に備えて今すぐ生成AIを導入すべきだと議論しているのを見た
- 演説はどれも同じに聞こえるのに、身振り手振りをし、話し、よだれを垂らさないようにしているあたり、かなり練習したのは明らかだ！
- 少し真面目に話すと:
- 筆者は、生成AIには世界を急激に変える潜在力などないという、同じくらい真面目ではない陣営には"属していない"
- GPT-2の初期デモを見たとき、どうにか細工されたものだと半ば確信していたが、自分が間違っていたことを覚えている
- だからもう、何が起きているのか確信が持てない
- しかし、技術の中核原理を理解できるだけの技術的背景はあり、私たちは次の3つの方向のいずれかに進んでいるように見える
- 知能爆発が起き、AIが再帰的に自己改善し、私たちは構成原子として刈り取られる
- 人間がコーヒーマシンを直す需要の高い宇宙人のために、「グルーブナ」という新しいエポキシに転換できると市場アルゴリズムが見いだすからだ
- このシナリオでは、筆者は会社の収益などあまり気にしない
- 現在のアプローチは期待されたほどスケールしないことが判明する。データ不足やアーキテクチャ上の問題など、理由はいろいろある
- この宇宙では、「一部の」産業、たとえば顧客サポートのような分野は大きく混乱するだろう
- こういう形で漸進的な利益が出続けるとしても、会社は単に生成AIを必要としない。本当に必要なら、"正確に"なぜ必要なのか分かるはずだ
- Todoistの自然言語フィルターを内部のフィルタリング言語に変換する機能のようなものは実際に役立つ。だが、"ユースケースがないなら"、こうした広範な機能は実際にはそれほど有用ではない
- やるべきことは"運用と文化を改善する"ことだけで、そうすればAIが意味を持つようになったときに使える能力を備えられる
- みんな検索拡張生成について話しているが、ほとんどの会社には実際に検索する価値のある社内文書がない。頼むから"ちゃんと仕事しろ"。
- こうした根本的な問題が解決され、今日私たちが知るプログラミングを置き換えるもの、あるいは広範な汎用知能と見なせるものに行き着く
- 生成AIがロケットのように軌道を駆け上がるなら、"適当なチャットボットを作ることが未来への備えにはならない"
- "import openai"と打ち込んだからといって、人工知能の最先端にいることにはならない
- ビジネスは、何もしなかった場合と"まったく同じレベルで"混乱に陥るし、基本に忠実であったならそうなった場合より、はるかに深刻になるだろう
- 従業員に、利害関係者へのメールを書くのにChatGPTを使うよう教えたところで、"企業がこれを生き延びられるようにはならない"
- 穏当な影響と、小惑星が恐竜を絶滅させるレベルの影響との間の針の穴を通るような事態になれば、すべてが"永遠に変わる"のであって、あなたの生ぬるい準備など、巨大な津波の影の中で"必死に"踏ん張るアリほどの影響力しかないだろう
- 生成AIがロケットのように軌道を駆け上がるなら、"適当なチャットボットを作ることが未来への備えにはならない"
- 知能爆発が起き、AIが再帰的に自己改善し、私たちは構成原子として刈り取られる
- "基準を引き上げるために"LLMベースのコードレビューを実装しろなどと言う代わりに、人に少しでも規律を教えろと言い出す、また別のバカ野郎が現れたら、柔道を十分に学んでそいつらを太陽に投げ込んでやる
- いくら強調してもし足りないが、"絶対的な最先端にいて新しい研究を出すか"、さもなければLLMを統合する些細な譲歩を除いて、5年前にやっていたのとまったく同じことをするべきだ
- "その中間はまったく意味をなさない"。あなたの業界が、"まさに今完全に混乱に陥っている"まれな分野で働いているのでない限り。
V. でもみんな使っているって言うけど-
"退屈な官僚が家に帰って芝生でも触る前に、ChatGPTが実際にどれだけ多くの政府政策を書いているのか想像できるか？ 人々がくだらない話にうんざりし、メールのやり取りを延々と続くスレッドに貼り付けることで、LLM同士がぐるぐる回っている部署がどれほどあるだろう？ 私の半径10km以内で、症状をチャットボットにぶち込んで患者を誤診した医者がいると『断言』する"
- 私たちは社会として、"何を"しているんだ？
- 人命を救う可能性のある仕事や、移民法への適合性を確認するために使われる重要な資格を学生に与える機関の役員に、学生の不正行為を検出できるかと尋ねた
- "いいえ、おそらく無理でしょう"と言おうとしたが……疑念が湧いたので、代わりにこう言った
"できるとは思いますが、現在学生の50%以上が不正をしているので、彼らを停学にする必要があり、収益に深刻な影響が出ると思います。それでも調査しますか？"
- それ以来、この件については話していない
- 現在公共部門で働いているメンターに、目撃した中でも特に気まずい会話について聞いてみた
私: 真面目な質問なんですが、人々は本当にあんなバカげた話を信じているんですか？ それとも、AI詐欺師から金を引き出そうとする哀れな試みとして、大半は手の込んだ芝居をしているだけなんですか？
メンター: できるだけ政治的に答えるなら……クールエイドを飲んだ人たちがいる。飲んでいない人たちもいる。そして、できるだけ多くのクールエイドをかき混ぜようとしている人たちもいる。誰がどこに属するかは、自分で判断してくれ。
- 私はもう判断したし、クールエイドを武器のようにがぶ飲みしている連中と、大量生産している連中を見分けることはできないが、当局に捕まる前に"そのうち何人かは"始末してやる
- 運が良ければ、LLMに私の居場所を尋ねるのに数か月無駄にするだろう
- フィジーで休暇を過ごしていて、最後のリゾートでの朝食のとき、ウェイトレスが会員登録フォームを持ってきた
- 完全無料で、無料の品まで付いてくると言う。レストランにいた全員が即座に署名していた
- 利用規約をざっと見ると、私が提供したすべてのデータをAIモデルの学習に使う権利があり、そのモデルを系列会社の不特定多数の企業と共有する権利もあると書かれていた
- 私はただ静かにパンケーキを食べたいだけなんだ、このバカども
VI.
"私が激怒している理由は、LLMや生成AIブームそのものが『嫌い』だからではない。Copilotで楽しんだことはあるが、結局のところ自分をよりバカにすると判断した。印象的ではあるが、決まり文句を吐き出す以外には実際には"適していない"。プログラミングとは設計であり、これらのツールはまだそれを本格的に助けるには十分ではないので、思っていたような凄まじい生産性向上はもたらさなかった。"
- 私が嫌いなのは、血を吸って盲目的にうごめくヒルのようにAIに群がる連中だ
- 人気がなかった頃は、ビジネスのためのブロックチェーンの可能性を語るのが好きだった手合いだ
- 最近カンファレンスに参加したときには「『量子』の可能性」について息せき切って議論していたが、いったいそれが何なのかはっきり分かっていないようだった
- 先週読んだ記事の下に小さなアンケートが出てきた。セキュリティ幹部向けのものだったが、何を聞いているのか見たくて素早くクリックしてみた
- さて、これです。親愛なるリーダーの皆さん、あなたが最も関心を持っているのは何ですか？ 人工知能、ブロックチェーン、それとも量子コンピューティング？
- 彼らはターゲット市場が誰なのかを正確に分かっている。何にでも微笑む術を身につけ、「他人の金」を預かる権力者であり、次の投機的ブームに便乗して金を生み出せると知っている連中だ
- 私の知る有能なセキュリティ専門家で、こんなものに関心を持っている人は一人もいない。彼らはファイアウォールが正しく設定されているか、組織がリポジトリにパスワードをコミットしていないかを突き止めるので忙しい
- 量子コンピューティングが暗号技術に与える影響を見極める人は必要だが、それは「シナジー・グレッグ」ではない
- ものすごく早口で話し、人数を増やすこと以外に識別できる技能のない人間だ
- シナジー・グレッグには、機械学習運用から靴ひもを素早く結ぶ方法に至るまで、重要な問題について絶対に助言を求めてはいけない
- 最後にシナジー・グレッグのアバターの一人と話したとき、彼は「ほとんどのコインはゼロになるが、一つはドルになる」と言って、Moneroという暗号通貨に金の大半を投じるべきだと主張していた
- 「これがエンタープライズAIの顔だ」。そのぞっとする顔を見て震え上がれ。悪魔のように血走った目をして、葉巻を楽しんでいるふりをしているのだから
- 私のコンサルティング会社には「かなり優秀な」データサイエンティストが3人いる。実際、そのうち2人は実験研究を行うグループを除けば国内最高レベルと言って差し支えないが、謙虚なので本人たちはそうは言わないだろう
- それでも私たちは、いかなる種類のAIサービスも販売して「いない」。市場が歪みすぎていて、暗号資産の世界に足を踏み入れるのと同じくらい「ほとんど」ひどいからだ
- まだ「import tensorflow」と打ち込んだことがある人は誰でもクソ野郎だとまでは思っていないが、「私たちはそっちへ向かっている」
- こういう類いの人間は、要するにまともな感覚を持つ人たちにとって嫌悪の対象だ
- 実際にこの分野で前進を成し遂げている人々にとっては恥であり、技術を賢く使って世界を良くする方法を知る人々にとっては不名誉な存在だ
- そしてまた、教訓を学ぶまで思想的リーダー監獄にぶち込むべき、退屈で無知なクソ野郎どもでもある。私が資金を集めている監獄だ
- 毎朝、墓碑を刻んでいるようなしわがれ声の黒いフードの人物が、収監された管理職たちに向けて、この施設が体罰をどう革新しているかについて60分のTedX講演を行い、その革新とは毎日ものすごく強く腹を蹴ることだと明かす
- 自分の選んだ職業のせいで、私はこういう連中に近すぎるところにいる。その悪臭を放つ音節で耳を汚されないよう必死に勉強しているという事実にも吐き気がする
- まともな人々と付き合うために必死で逃げなければならない。彼らはOSSに貢献し、一日中アジャイルについて語ることを、人間の生産性に関する本を読んだ宇宙人のための運動だと思っている
- ついさっき、はるかに発展していない国への旅から戻ってきたのだが、実際にしばらく「生きてみる」ことで、その金がどれほど多くの人生を改善できるかを「見ることができた」
- なのに信じられないほどの額がMicrosoft Fabricという下水溝に注ぎ込まれているのだから、歯ぎしりしたくなる
- 誓って言うが、私は勉強し、書き、ネットワークを築き、そうでなければ「問題に力を加える」つもりだ
- そうした資源が、にやにや笑う道化の財布ではなく、社会のために何かを成し遂げられる場所へ向かうようになるまでだ！
VII. ああ、ではあなたはAI悲観論者の一人なんですね-
"神に誓って言いますが、もしあなたが自分で機械学習システムを書いてもいないのにAIについてもう一度でも口を開くなら、レンガと『プロンプトインジェクション』と書かれた紙を郵送して、それで自分の顔を殴るように言いますよ。そして、たぶんもう一人では読めないのでしょうから、それをChatGPTに読み込ませるのを私は座って待つことにします、この怪物じみたバカめ。"
PS
- 新しい読者がたくさん来たので、下の文章も楽しめると思います:
- 技術関連の話題を友人たちと率直に語るポッドキャスト「カエルにはサソリの本性があるのか」もあります。楽しんでいただけたなら幸いです！
3件のコメント
AIが誇張されていると言うには、すでにGoogle検索の利用頻度が半分以上減っている。
「私たちは構成元素として収穫される」
Hacker Newsの意見