フィンテック創業者が詐欺容疑で起訴、AIアプリはフィリピンで人力運用されていたことが判明

 (techcrunch.com)
4 ポイント 投稿者 GN⁺ 2025-04-11 | 2件のコメント | WhatsAppで共有
  • Nateの創業者で元CEOのAlbert Sanigerが、投資家を欺いた容疑で米司法省に起訴された
  • Nateは2018年に設立されたフィンテック・スタートアップで、AIベースの「ユニバーサルチェックアウト」体験を提供すると主張していた
  • Coatue、Forerunner Venturesなどから総額5,000万ドル超を調達し、2021年にはRenegade Partners主導で3,800万ドルのシリーズA資金調達を実施

実際には人の手で動いていたAIショッピングアプリ

  • Nateは、すべてのECサイトでAIが自動的に購入処理を行うと主張していたが、実際にはフィリピンのコールセンターにいる数百人の人員が手作業で注文を処理していた
  • 司法省は、Nateの自動化レベルは事実上0%だったと主張している
  • 資金調達のために「AIが人の介入なしで処理する」と宣伝していたが、作業の大半は人間によって行われていた
  • 一部のAI技術導入やデータサイエンティストの採用はあったものの、機能する自動化は実現していなかった

内部告発とNateの転落

  • 2022年、The Informationの報道を通じてNateの実際の運用方法が暴露された
  • Sanigerは2023年からCEOを退いている状態で、LinkedInにそう記載されている
  • Nateは2023年1月、資金不足のため資産を売却し、投資家はほぼ全額を失った
  • 現在、SanigerはButtercore Partnersのマネージングパートナーとして記載されているが、公式な立場表明はない

AI技術の誇張事例は続いている

関連記事

2件のコメント

 
aer0700 2025-04-12

最近、これまで十分うまく処理されてきた仕事をAIで自動化した、Rustで実装した、などと、何か新しいツールで処理できるようになったと宣伝するビジネスを時々見かけます。
〜をやっている。
結局、これ一つだけを見て判断すべきではないかと思います。AIを使っていようが、Rustで実装していようが、単純にその「〜」をどれだけうまくやれているかで評価すればよく、内部的にどんな手段で実装しているかは、ユーザーや投資家の立場からするとそれほど重要ではない気がします。コードを公開してあるなら、開発者の立場では気になるかもしれませんが。
 
GN⁺ 2025-04-11
Hacker Newsの意見

  • 2年前の記事と自分のHNコメントを思い出した。これは別のAIスタートアップにありがちな典型的な流れだ

    • 誰かがML/AIで解決できそうな興味深い問題を見つけ、自分で解こうとする
    • 「モデルはある程度動くし、他の人も金を払うだけの価値がある」と考える
    • 有料APIやSaaSスタートアップなどを立ち上げ、何社かの顧客を獲得する
    • ML/AIの手法が一般化しないことが明らかになり、評判が重要なので人を雇って問題を解決する
    • モデルの性能が落ち、人間の作業がワークフロー全体の重要な部分になる
    • 誰かが安価な労働力を使っていると記事を書く

  • スーパーマーケットのセルフチェックアウトで、CCTV映像の解析によって潜在的な万引き犯として名指しされた。（もちろん誤判定だった）店を出るとき、ソフトウェアの解析だったのか、それともインドやフィリピンの誰かがリアルタイムで自分を見ていたのか気になった

  • Amazon Goが同じことをしていたとき、なぜDOJが懸念しなかったのか気になっていた

    • Amazon Go: 当初は「Just Walk Out」技術をテスト中だと明確にしており、技術コミュニティでは、動画フィードを通じて人間がエッジケースを確認していることを知られていた
    • 技術はいずれ改善し、人間のバックアップは主に学習データと品質保証のためのものだと主張していた
    • 「今は100% AIで、人の助けなしに動いている」とは言っていなかった
    • Nate: すでに完全自動化されていると主張した
    • CEOはAIがすべての作業を行っていると明言し、契約社員を使うのはまれなエッジケースだけだと話していた
    • DOJによれば、実際には人間がすべてをやっており、AIは単なるブランド用の道具だった
    • 投資家にはソフトウェアプラットフォームだと説明していたが、実際にはBPOだった

  • いつの時点で「詐欺」と見なされるのか気になる。ほぼすべての「AI」アプリケーションには大量の人間のバックアップがある。Waymoには車両が停止したときに遠隔操作できる人間のドライバーがいる。Amazon Goの店舗は実際にはインドのチームによって運営されていた。企業は10年間にわたって「AIによって駆動」と主張してきた

    • おそらく投資家が利益率を見て、巨大な海外コスト項目を見つけたからかもしれない。そうでなければ「自動化率」は投資家が追跡するには曖昧な数字だ
    • この種のごまかしは、罪のない投資家を被害者にする

  • この5年間、「AIが、今やあなたとやり取りしたがらない企業とのやり取りを自動化できる」という変種のスタートアップが多かった。これはヘルスケア、フィンテック、消費者向けショッピングなどでよく見られる

    • 提供側の空き状況、予約、アポイントメントをAI電話で自動化するというもの
    • 消費者向けデバイスを売り、すべてのアプリ操作を「large action model」で自動化するというもの
    • 病院の健康保険会社への請求対応を、AIのスクリーンスクレイパーで自動化するというもの
    • 従業員が業務ソフトウェアツール上で一度作業をすれば、それをAIで永続的に自動化し、すべてのベンダーのシステムを個別のプログラミングなしにつなぐというもの
    • AIであらゆるWebサイトから自動的に購入できるというもの

  • ほとんどのスタートアップは「詐欺」ではない。彼らは最善の意図で始める（有能な技術系創業者、実在するターゲット市場、うまく動けば喜んで支払う顧客）。だが最終的には失敗するか、完全に方向転換するか、生き残るための誤った試みとして詐欺に頼るようになる

    • 問題は、技術を使って人間の問題を解決しようとしていることだ。現在の世界の状況では、方程式の反対側にいるサービス提供者が仲介されたりコモディティ化されたりすることを望んでいない。彼らは自動化に従うつもりがない
    • ロボットで彼らに電話をかける方法を完璧にしたら、彼らは電話に出なくなる。ユーザーの代わりに彼らのiPhoneアプリを自動化する方法を完璧にしたら、彼らはIPアドレス帯をブロックし、ますます複雑なCAPTCHAを出すようになる。ログインフローを自動化したら、彼らは別のログインフローに切り替えるか、自動化を使う顧客をブロックする。顧客体験は良くても一貫性に欠け、人間をループから外すことはできない。これは無数の紙で切られるような小さな傷の積み重ねによる死であり、たとえ顧客がなおそのサービスに金を払いたいと懇願していてもそうなる

  • 機械仕掛けのトルコ人の焼き直し

  • パンデミックの中頃の関連記事: AIショッピングスタートアップが資金ブームの行き過ぎを示す

  • 友人が2021年ごろ、この会社に対するデューデリジェンスを依頼された。創業者はAIベースの「100%チェックアウト成功率」を主張していたが、明らかに虚偽だった。彼は同時に別の2つのスタートアップも経営していた

  • 「コンピューターだが人間だと言う」と「人間だがコンピューターだと言う」は、どちらもよくある発想だ