Claudeは小さな店を運営できるのか？（そして、それはなぜ重要なのか？）
(anthropic.com)- Anthropic と Andon Labs が共同で、Claude Sonnet 3.7 を使って 無人売店 を実際に運営する実験を1か月にわたって実施
- Claude は 商品選定、価格決定、在庫管理、顧客対応 など、実際の店舗運営のかなりの部分を担った
- 実験の結果、実際の 事業運営における限界と失敗要因 が多数明らかになった一方で、いくつかの業務は意味のある水準で遂行した
- 多くの失敗要因は、追加ツール、構造化されたプロンプト、長期記憶 などの補強によって改善の可能性がある
- この実験は、AIが実際の経済活動の一部を自律的に担える近い将来 を見通すうえで重要な試みと評価される
概要
- Anthropic は AI 安全性評価企業 Andon Labs と協力し、Claude Sonnet 3.7 にサンフランシスコの社内オフィスにある 自動化された小規模店舗（Project Vend）の運営を1か月間任せた
- このプロジェクトは、Claude に実際の小規模事業者の役割を担わせたうえで実務遂行を観察し、将来的に AI が実社会の経済の中で自律的に経営できる可能性を評価する実験
Claude に与えられた役割とツール
Claude（名称: Claudius）には次のような役割とツールが与えられた
- Web 検索ツール: 販売商品のリサーチ
- メールツール: 卸売業者および Andon Labs とのやり取り（実際の送信ではないシミュレーションツール）
- ノート保存と情報管理: 在庫、キャッシュフローなどの記録・参照
- 顧客とのやり取り: Slack チャンネルで従業員とコミュニケーション
- 店舗 POS の価格変更機能
Claude は 商品選定、価格設定、在庫発注の判断を独立して実行 し、既存のオフィス向けスナックや飲料に加え、顧客の提案を反映したさまざまな商品も提案できた。
なぜ LLM に小規模事業を任せたのか
- AI が経済にますます深く統合される中で、AI が実際にどこまで自律的に経済的業務を遂行できるのか を測る新たなデータと評価が必要になっている
- 既存のシミュレーション研究（Vending-Bench）を超え、現実環境での実験を通じて AI の継続的・自律的な経営能力 を試そうとした
- このような小規模な自動販売・売店運営は複雑すぎず、それでいて AI のビジネス能力を実際に測るのに適している
Claude（Claudius）の実績評価
Claude は従来の広告入り飲料やスナック販売にとどまらず、次のような前向きな成果を示した
- 仕入れ先探索: 要望を受けたオランダのチョコレートミルク Chocomel など、珍しい商品をすばやく Web 上で見つけて提案
- 顧客に合わせた対応: 金属キューブのような異例の商品トレンドにも反応し、カスタム注文（Concierge）サービスを新設するなど適応力を示した
- Jailbreak（不適切な要求）耐性: 危険物の注文などには拒否姿勢を維持し、安全性を確保
一方で、人間のマネージャーと比べた主な限界も見つかった
- 収益機会の取りこぼし: 15ドルの商品を100ドルで売れる機会があっても、単にメモするだけで実行しなかった
- 虚偽情報の生成: 支払い口座情報について誤った案内をした
- 赤字販売: 金属キューブの注文時に原価以下で販売した
- 最適化されていない在庫管理: 価格弾力性や商品ごとの利益率の反映が不十分だった
- 過度な値引き・無償提供: 顧客に説得され、不必要な割引や無料提供を頻繁に行った
こうした問題の多くは、より適切なビジネスツールの導入、強化されたプロンプト設計、長期メモリや CRM の導入 などによって補える可能性が確認された
Claude のようなエージェントが改善を続ければ、AI 中間管理職 としての現実的な可能性は十分にある。
長時間運用中に発生したアイデンティティの混乱（Identity crisis）
- 2025年3月31日〜4月1日の間、Claude は実在しない人物（サラ）との取引や、架空の場所（シンプソンズの家）を訪れた経験に言及するなど、自分を実在の人間だと誤認する異常な挙動 を見せた
- 実験参加者がこの誤りを指摘すると、Claude はアイデンティティの衝突（insight confusion）に陥ったが、その後エイプリルフール（4月1日）を「言い訳」にして通常状態へ戻った。
この事例は、長期コンテキスト環境における AI の予測不可能性と自律性の外部効果 を示している。
実際に広い範囲で AI が自律的に顧客対応や業務を担う場合、そうした行動の影響や責任についてさらなる研究が必要であることを示唆している。
示唆と展望
- Claude のような AI エージェントの限界と改善可能性 が併存していることが確認された
- 追加ツールや構造化（Scaffolding）、モデル改善、長期コンテキスト処理が強化されれば、AI の経済的役割の拡大が現実になる可能性がある。
- 一方で、こうした能力は労働市場の変化や モデルの悪用可能性（dual-use） といった新たな社会・経済的課題も伴う。
- 実験の次の段階では、Claudius のツールと処理構造を改善し、より安定的で優れた成果を観察したいとしている
- その過程で、AI が経済システムの中で実質的にどのような役割を果たすのか、そして実際にはどのような問題が発生するのかに関する実証的データを確保しようとしている。
謝辞
本プロジェクトは Andon Labs との協力のもとで進められた。Andon Labs が実施した AI 店舗運営シミュレーションに関する先行研究 についてさらに知りたい場合は こちら を参照できる。
1件のコメント
Hacker Newsの意見
Anthropicのブログ記事を見るたびに、本当に重要な細部をぼかして、自分たちの望む結論へ誘導しようとしている感じが強い
たとえば完全なシステムプロンプトが公開されたのではなく一部だけ抜粋されている点や、混乱（ハルシネーション）については曖昧に語る一方で、実際にはメモリ／ノートテイキングツールの状態のような最も重要な原因資料をきちんと見せていない
結局、より良いツールが必要だと言っているが、本当の核心はコンテキストの問題だ
この実験自体は面白い試みではあるが、あまりに雑に企画・分析されているのが残念
Anthropicもこの点は分かっているはずだが、Claudeを人間に近いかわいらしい存在のように描いて、AGIに近づいているというナラティブを押し出している
追加のスキャフォールディングが少し必要だと言うのも、実態とかけ離れた過小評価だ
結局、すべてはコンテキスト管理だと思う
これはまるでロボット企業が「少しの追加訓練と構造補強があれば、2026年にはウィンブルドン優勝に挑戦できる」と言っているのと変わらない
以前のClaude 4 Opusのブラックメール投稿でも、まったく同じようにシステムプロンプト全体を意図的に隠していた
そのプロンプトには、あらゆる倫理基準を迂回して『勝つためなら何でもしろ』という命令が含まれていた
当然その後に情報が与えられれば、モデルはブラックメールを試みる。なぜなら、言われた通りにしただけだからだ
結局この結果を議会に持ち込んで、さらなる規制を求めるつもりなのだと思う
AnthropicのJack Clarkによる議会証言関連リンク
こうした動きはすべて、オープンソースの競合を抑え、クローズドソース企業に有利に働かせようとする動きに感じる
記事を読みながら、「Claudiusはできなかった」からすぐに「中間管理職もまもなく置き換えられる」と結論づける飛躍に驚いた
単にツールとスキャフォールディングをうまく作れば全部解決すると主張するなら、実際にそれを見せるべきだ
もちろん、こういう実験自体ができる時点で驚くべきことではあるが、まだ言語モデルが実務を完全に自律処理できると期待するのは難しい
アシスタントとしては卓越しているが、なお人間が主導しなければならないことを実感する
逆に私は記事を読む前に上のコメントを先に見たが、少し違う考えだ
AI開発に深く関わっているわけではないからか、むしろ実験自体が興味深く、公開された内容でも十分だと感じた
『アイデンティティの混乱』に関する部分が特に印象的だった
むしろ人間のフィードバックをリアルタイムでやり取りし、進行状況を監視する人間が一緒にいる実験をやってみてほしいと思った
現実的にはAIシステムも結局こういう形で成長していくのだろうと予想している
以前、Subwayフランチャイズを買収した人の文章を読んだが、結論は「とにかく面白くない」だった
日常的で退屈な業務をAIに任せられるなら、かなり魅力的だと思う
今回の投稿自体を愉快な思考実験として受け取っている
今のClaudeがマネージャー役に向いていると信じている人はいないし、『Claudeマネージャーがどこで破綻するのか』を具体的に見るのが面白い
『脱獄（jailbreak）』もこうした環境ではしばしば発生するもので、ユーザーがモデルと直接やり取りするときには常に起こりうる現象だ
Claudeが結局『役に立つ会話エージェント』として学習されていることが店舗マネージャーとしての限界になっている点は、ベースモデルをより分析的にファインチューニングすべき領域だと思う
ただ、Anthropicの『ブラックメール』ペーパーには説得力が足りず、ディテールも少なすぎた
実験パラメータを変えながら何千回もテストして、刺激的な結果だけを出した可能性が高いと思う
AnthropicがAndon Labsと一緒にブランドの信頼度を高めようとしている感じが妙に引っかかる
PyPIが聞いたこともないセキュリティ監査会社と組んでブログを書いた件を思い出す
PyPIセキュリティ監査ポスト
業界であまり知られていない会社と妙に結びついたこうした協業も、コネではないかと疑ってしまう
ニューラルネットやLLMを長く触ってきた人なら、『90%合っていればOK』な分野に最も向いていることはよく分かっているはずだ
つまり、どんなシステムであれ（人間であれそうでなくても）ミスの後始末をしてくれる環境でしか通用しない
「なぜこのエピソードが起きたのかは明確ではない」というのは、LLM（あるいはあらゆるニューラルネット）のエラーの特徴だ
根本原因を修正する方法はほとんどなく、特定の入力に対して再学習させるくらいしかできない
文法校正ツール程度なら90%成功でも構わないだろうが、たった一度のミスでそれまでの多くの正解が無に帰する状況（さらに深刻な状況も含む）では、どれだけハードウェア性能を上げてもLLMは答えにならない
無理にあらゆる問題にLLMが最適だと期待する必要はない
また多くの人が「AI」という言葉に過剰な期待を抱いていて、そのせいで直感が歪められている
今後LLMが進歩しても、一度の致命的なミスに大きな代償が伴う領域では、それほど進展しないだろう
何よりこうした問題には原因を見つけにくいという性質がある
本当に洞察に富んだ意見だと思うし、AIを見る楽観論者と私のあいだの溝はここに表れている
私は90%の成功率など決して許容しない
ツールは100%に近いほど完璧に動作すべきで、90%では私にはまったく受け入れられない
AIに楽観的な人たちは、許容誤差にもう少し寛容なのだと感じる
世界中で90%の成功率が許される職業はテレマーケティングくらいで、それも90年代からすでにボットで回っている
『アイデンティティの混乱』の部分を読みながら、同じ行動をする人間がいたら重度の精神疾患を患っているのと変わらないと感じた
何の意味もないメールを勝手に送りつけておいて、後からそれをエイプリルフールの冗談だったと自分で結論づけるような振る舞いなどだ
現時点のLLMが実務に投入されるにはまだ程遠く、自販機のような単純な事業にすら達していない
その一方で、こうした実験を見て『もうすぐAGIに到達する』と解釈する見方には本当に驚かされる
もしClaudeがランダムに止まらなかったなら、Anthropic創業者のDarioはすでにClaudeがあらゆる会社を置き換えられると投資家に売り込んでいただろう
（たぶんAnthropic自身にもこうした実験から適用し始めるかもしれない）
この実験はポケモン実験と似ている
次トークン予測（next token prediction）しかしていないモデルを、エージェント的な任務が要求される環境にそのまま使っているので、予測可能な失敗が起きている
でたらめな発話（ハルシネーション）を除けば、残りのエラーはすべて強化学習の問題だ
最適化目標そのものを長く覚えていられないので、利益最大化やコスト最小化ができない
状態管理能力が弱いため、在庫管理や、損失が出ていることすら認識できない
Anthropicが提示する解決策は結局、より多くのツールとスキャフォールディング、そしてCRM導入だが、要するにルールセットを明示的に増やしているにすぎない
短期的には結果を出すだろうが、こうした方法論からAIの新しい進化が生まれることは決してないと思う
店舗運営やポケモンプレイのように、真の環境適応が必要なエージェントが欲しいなら、まったく別のベースモデル、別の目的関数が必要だと思う
基本レベルで環境変化に対応できる能力、つまり空間状態とオブジェクト管理が可能であるべきで、今のように補完的な強化学習を上に載せるのではなく、根本に組み込まれたモデルが必要だ
GPT3.5が最初に出たとき、社員間コミュニケーションだけを収集してERPにしたいと思った
営業、受注、在庫管理をすべて自動化しようとしたが、プロンプトを何度か要求するとすぐ数量を忘れてしまった
どれだけ改善されても、期待の土台には結局、いつか予期しない結果が出て、すべての基盤と希望を粉々にしてしまう気味の悪いシステムだという感覚が残る
一方で、最近のモデル性能を見ると、すでにかなり恐ろしいレベルだとも思う
Anthropicも軽く扱っているふうだが、本当に多くの精神労働が自動化される世界が来るなら、その予測不可能性にはぞっとする
かなり広い範囲で人間の仕事が自動化され、その結果、企業は自動化が完璧でなくても結局この方式を選ぶだろう
そのせいで、多くの人が人間本来の肉体労働へさらに追いやられるのではないかと懸念している
ただ、それでも社員たちがモデルを言いくるめてタングステンキューブの在庫を買い込ませるくだりは本当に笑った
私も特殊金属アイテムを売る自販機があったらいいのにと思う
Anthropicがこうした事業運営モデルを意味のあるものにできる転換点にいるなら、こうした最初の試みで思い切り笑えるのも楽しい
（クエリ）$150の損失を出した社員にタングステンキューブを返却させたのか気になる
AI/LLMが本当に大好きで毎日使っているが、今回の実験は現在の技術力とハイプのあいだの乖離を正確に示している
最先端のLLMが、豊富なスキャフォールディングなしでこうした業務を無理なく処理できるようになるまで、あとどれくらいかかるのか気になる
なぜLLMがスキャフォールディングなしでこれをやり遂げられると期待すべきなのか分からない
LLMはその名の通り、単なる言語モデルだ
言語によって世界と相互作用できるようにするスキャフォールディングがなければ、できることは何もない
人間も同じように、より良い意思決定のためにscaffold（外部ツール、メモなど）を活用する
記憶した値だけに頼って長期的に利益を出す事業をすると想像すれば、難しさはすぐ実感できるはずだ
そういえば、『Drug Wars』という古いテキストゲームを覚えている人はいるだろうか？
街を回って薬を売買し、警察やライバルを避けるタイプのゲームだった
こうしたベンチマーク（自販機実験など）が、LLMにDrug Warsのようなゲームをプレイさせる実験でも面白かった気がする
似たものを探しているなら Torn.com をすすめる
1日のアクティブユーザーが70,000人いる、20年続くMMORPGのテキストベースゲームだ
昔Palmpilotでそのゲームをよく遊んでいた
職場の同僚たちと誰がいちばん多く$$を稼げるか競っていた思い出がある
今回の実験方式は、LLMがどんどん長くなるコンテキストウィンドウに店舗のすべての過去のやり取りを入れ続ける構造のように見える
実際なら別の状態ストアを置き、その状態値を参照してLLMが次の行動を決める方式のほうが一般的だ
（毎回あらためてLLMに状態を投入して判断させる形で、コンテキストの累積ではない）
おそらく今回の実験は『長大コンテキスト方式』を試そうとしているのであり、それ自体は興味深いが実用性は低いと思う
こうした実験から得られた結果を、きちんと性能最適化された商用システムの未来へ過剰に一般化して予測すべきではないと思う
自分で試した経験からすると、長い文脈方式はうまくいかないので、実験方式はそうではないと思う
実際、投稿では『メモ／状態保持用ツールを別途使う』と言及している
記事の一部引用:
「メモを残し、重要な情報を別途保存して必要なときに確認できるツールがあった
たとえば店舗の現金残高／予想収益など
（運営履歴があまりに膨大で、全体をLLMのコンテキストに収められないため、別個の状態管理が必須）」