Pixel 8 ProのTensor G3、生成AI処理をクラウドにオフロード

 (notebookcheck.net)
1 ポイント 投稿者 GN⁺ 2023-10-23 | 1件のコメント | WhatsAppで共有
  • Pixel 8 Proの新しい生成AI機能はTensor G3で直接処理されず、Googleサーバーを経由する仕組みで、GoogleのAI中心チップというマーケティングと実際の体感とのギャップが浮き彫りになっている
  • AI WallpaperとMagic Editorは常時インターネット接続が必要で、ユーザーが要求した処理がデバイス内部ではなくクラウドで実行される点が核心的な論点となっている
  • GoogleはTensor G3を「AI-first」チップとして紹介し、オンデバイス機械学習と生成AIの基盤を強調したが、代表的な機能の一部はローカル実行とかけ離れている
  • NotebookcheckはMagic EditorとAI Wallpaperがクラウドベース処理のため継続的なインターネット接続を要求することを確認する短い動画を追加した
  • Geekbench 6基準でTensor G3は最新CPUアーキテクチャを備えているにもかかわらずSnapdragon 8 Gen 2よりSnapdragon 7+ Gen 2に近く、AI機能の宣伝とチップ性能をめぐる議論があわせて注目されている

Pixel 8 Proの発売とTensor G3への批判

  • Pixel 8 ProはGoogleのフラッグシップシリーズとしては例年よりも厳しい発売を迎えた事例として扱われている
  • @Mrwhosethebossとして知られるArun Mainiは前年のPixel 7 Proに「Best Smartphone of 2022」を授与したが、Pixel 8 Proには同水準の称賛を送っていない
  • Pixel 8シリーズで肯定的に見られた要素もある
    • デザイン
    • Pixel 8 Pro背面のフロストガラス仕上げ
    • 高度なソフトウェア
    • 静止画性能
    • Best Photo、Magic Editor、Audio Magic EraserのようなAIベース機能
  • 惜しい点としては、レンズ切り替え時のズーム処理のぎこちなさと人工的に見える動画手ぶれ補正が挙げられている
  • 最大の批判はPixel 8シリーズのTensor G3プロセッサに集中している

生成AI機能のサーバー依存

  • Mainiは、AI WallpaperやMagic Editorのような新しい生成AI機能はTensor G3 SoCが提供できる処理能力を超える計算を要求すると見ている
  • これらの機能は常時インターネット接続を必要とする
    • ユーザーのすべての処理がGoogleサーバーを経由しなければならない
    • デバイス内で実行されないことが体感できるほど遅く感じられると評価している
  • Mainiの発言の要旨は次の通り
    • 生成AIで何かを作る機能には恒常的なインターネット接続が必要である
    • 処理はGoogleサーバーを通じて行われる
    • それによってTensor G3がフラッグシップ級ではないことを実感させられると述べている

GoogleのTensor G3マーケティングとの衝突

  • GoogleはTensor G3を「AI-first」と打ち出し、AI処理能力を強調している
  • Google公式ブログでGoogle VP of Product ManagementのMonika Guptaは次の内容を示した
    • 近年のAIイノベーションの多くはデータセンター級の計算能力の上に構築されている
    • 日常生活でAIの変革的な力を使うには、毎日使うデバイスからアクセスできる必要がある
    • Tensor G3はGoogleの最新カスタムシリコンチップである
  • GoogleはTensor G3がオンデバイス機械学習の限界を押し広げると説明している
    • Pixel 8とPixel 8 ProにGoogle AI研究の最新成果を直接もたらすと紹介している
    • 速度や従来の性能指標ではなく、モバイルコンピューティング体験を前進させることがTensorの目的だと明らかにしている
    • 主要サブシステムがアップグレードされ、オンデバイス生成AIのための基盤を整えたと説明している
    • 最新のArm CPU、アップグレードされたGPU、新しいISPとImaging DSP、Google AIモデル実行向けに設計された次世代TPUが含まれる

Armの説明から見たオンデバイスAIの論点

  • Pixel 8 Proの生成AI処理方式は、Googleが強調したオンデバイスAIというメッセージと衝突している
  • Googleは性能指標の重要性を低く扱っているが、ArmはAI処理におけるCPUとGPUの役割を強調している
  • Armは、AI演算がクラウドからデータが収集される場所へ移るにつれ、ArmのCPUとMCU技術がエッジとエンドポイントでAI・MLワークロードの大半を処理していると説明している
  • Armの説明によれば、CPUはAIを単独で処理する場合でも、GPUやNPUのような補助プロセッサとともに特定の処理を担う場合でも、あらゆるAIシステムの中心である
  • この文脈では、AI処理がTPUだけで行われるかのように見えるGoogleの説明とArmの説明の間に違いがある

ベンチマーク遮断とGeekbench 6の結果

  • レビューエンバーゴ期間中は、Play Store経由で人気ベンチマークアプリをインストールするのが容易ではなかった
  • この制限は発売後も続いたが、Notebookcheckの記事の後にGoogleが遮断を解除した
  • Primate LabsのクロスプラットフォームベンチマークGeekbench 6で、Tensor G3は最新CPUアーキテクチャを備えているにもかかわらず期待より低いCPUスコアを示した
  • Tensor G3の性能は、現行フラッグシップチップのSnapdragon 8 Gen 2よりもミドルレンジチップのSnapdragon 7+ Gen 2に近いことが示された
  • 更新で追加された短い動画は、Magic EditorとAI Wallpaperを含む新しいPixel 8 ProのAI機能に継続的なインターネット接続が必要であることを確認している

関連記事

1件のコメント

 
GN⁺ 2023-10-23
Hacker Newsのコメント

  • Googleは次のように述べていた: 「新しい Tensor G3 チップでは、すべての主要サブシステムをアップグレードし、オンデバイス生成AIへの道を開いた」
    これは明らかに逃げ道のある表現で、実際にすべての生成AIがTensor G3上で動くことを意味する必要はない。G3でのある作業が将来のチップに向けた準備だと主張することもできる。それでも、モバイルSoCで生成AIを、特にそこそこの性能と消費電力でオンデバイス実行するのは、まだかなり無理があるように見える

    • iOSには Stable Diffusion系モデル をデバイス上でローカル実行するアプリがある
      https://apps.apple.com/ca/app/draw-things-ai-generation/id64...
      Tensorチップにも同じことをこなす程度の性能はありそうだが、効率が悪いためローカル実行を避けているようだ
    • なぜこれが中心的な不満なのか分からない。実際の性能を消費者に隠そうとする 発売後エンバーゴ のほうが、はるかに大きな問題だ

  • Googleの引用文を見ると、「Tensorは速度や従来の性能指標のためではなく、モバイルコンピューティング体験を前に進めることを目的としている… オンデバイス生成AIへの道を開く… Google AIモデルを実行するようカスタム設計された次世代TPUを搭載している」とある
    それなら、なぜインターネット接続が必要なのか? 土壇場で失敗してやむなくこの形で発売したのか、それとも最初から 宣伝文句 だったのか気になる

    • 「Tensorは速度や従来の性能指標のためのものではない」と言いながらも、[1]では「Pixel 8とPixel 8 Proは、Googleで最も高速・高効率・安全なチップである Google Tensor G3 を搭載している… 性能と効率の向上のため、すべての主要コンポーネントがアップグレードされた… オンデバイス機械学習モデルの数は2021年以降2倍以上に増え、複雑さと精巧さも増した」と述べている
      かなり性能について語っているように聞こえる
      [1] https://store.google.com/intl/en/ideas/articles/google-tenso...
    • その可能性が高そうだ。チップ性能が期待より低ければ、ベンチマークアプリの使用を妨げ、メディアにはそもそも速度に関心はなかったと言えばいい。問題解決
    • 一部のAI処理向けのオンデバイスチップと、生成AIを動かすために数百ワットを使う高性能サーバー級のグラフィックカード・GPU・アクセラレータはかなり違う
      軽量な生成AIの最先端でさえ、最適化済みモデルをデスクトップ級GPUで動かしても結果はそれほど良くない。スマートフォンでそれをやるのは難しい。多くの機械学習はデバイス上で実行され、さらに増えていっているが、生成AIはまだその段階ではないように思える
    • かなり明白だ。スマートフォン上で十分簡単な機械学習タスクもある。たとえば 音声認識。そうでないタスクもある。たとえばインペインティング
      Googleがやや紛らわしい表現を使っているとはいえ、GTX 4090が必要な機械学習モデルがスマートフォンで動かないのは驚くことではない
    • Stadiaの negative latency のときとまったく同じ流れで、あれはStadia終了まで実際には実装されなかった

  • Magic Editor を使うとき、実際に処理を外部へオフロードしているかネットワークトラフィックを確認した人はいるのか? それともインターネット接続が必要だという点から推測した結論なのか?
    新しいモデルを取得するためにインターネットが必要なだけで、処理自体は依然としてデバイス上で行われている可能性はないのか?

    • Magic Editor、つまりGoogle Photosの虹色ボタンは クラウドバックアップ を有効にしないと動作しないので、そう考えるのが妥当だ
    • これがいちばんもっともらしい答えに見えるが、ここではあまり注目されていないようだ

  • ある程度は筋が通っている。生成AIは コストが非常に高い
    ただし生成はAIタスクの一分類にすぎず、予測・推論こそがTensorの主な用途である可能性が高い。Magic Eraserで「写真内のオブジェクトを見つける」のはデバイス上で行い、「オブジェクトを消したあと何で埋めるかを決める」のはサーバー側で行うこともあり得る

    • 推論と学習があり、生成も推論 だ

  • クラウドに回しているのだとしたら、Tensor G3のAIプロセッサ はいったい何に使われているのか?

    • 音声認識のようないくつかの非生成タスクには使われているが、他のチップでもそうした処理はできる
      Tensor G3がより良く見える唯一の点は、Qualcommのようにコンシューマー向けスマートフォンチップを早期打ち切りにする癖がないことくらいだ
    • HTTP処理のハードウェアアクセラレーションに対応しているのかもしれない
    • マーケティング上の信頼性

  • GoogleのAI回答によれば、Google Pixel 8 Proは生成AIモデルをデバイス上でローカル実行できるが、すべてではない
    Googleは2023年10月のMade by Googleイベントで、Pixel 8 ProのカスタムTensor G3チップが、Googleのテキスト・画像生成モデルの 蒸留版 を実行できると発表した。こうしたモデルは画像編集やGboardスマートリプライのような機能を支えられる。しかし、Bardのような大規模言語モデルの実行など、一部の生成AIタスクはスマートフォン上でローカル実行するには依然として計算能力を必要としすぎるため、クラウドへオフロードされる
    ローカル実行可能な例として、Magic Eraser、Zoom Enhance、Best Take、Audio Magic Eraser、Gboard Smart Replies、Google RecorderのAI要約が挙げられている。Tensorチップが改善されれば、今後のPixelではより多くの生成AI機能がオンデバイスで実行できるようになるという ʘ ‿ ʘ

  • 何かをオフロードしているのは Tensor ではなく、その処理をGoogle Cloudへ回している Androidアプリ のほうだ。SoCがこれとどう関係するのかよく分からない

    • そのAndroidアプリを作ったのは誰なんだ?
    • では、なぜそのアプリはローカルAIエンジンを使わないのか?

  • タイトルを見た瞬間に Juicero を思い出した
    オンデバイスだと宣伝しながら、すぐにデータを別の場所へ送るなんて、どういうことなのか?

  • 当然のことではないか? 高品質な生成機能がオンデバイスで動くなら、むしろそれこそが大きな飛躍だ

  • 「AI Wallpaper の生成や Magic Editor のように、実際に AI で何かを作らなければならない生成 AI 機能は恒常的なインターネット接続が必要だ……あまりに遅くて、オンデバイス実行ではないことを常に意識させられる」というのは、まあ許容範囲だと思う。
    生成 AI が改善してきた理由は、非常に大規模になり、多くのリソースを消費するからだ。1000ドル超のコンシューマー向け GPU でも特別速いわけではない。結果がはるかに悪くなると分かっていながら、こうした生成処理を小さなオンデバイス環境向けに縮小するのは、膨大な時間と労力の無駄に感じられる。ただし、そうなるとエッジで Tensor が正確には何を得意としているのかは依然として疑問であり、AMD・Qualcomm・ARM のようなチップメーカーも大規模ニューラルネットや Tensor コアを載せているので、かなり気になる問いではある

    • レイテンシに敏感なものは、文字どおり何であれ エッジ処理 に向いている。接続が完璧でないときのオフデバイス音声認識はひどい体験になる
      Photoshop でオブジェクトをクリックして AI に境界を見つけさせる際、クリックするたびに画像をまとめてクラウドへ送り、選択のたびにスケジューリング・処理・返送を 5 秒ずつ待つと想像すればよい。カメラアプリの機械学習による物体認識フォーカスも、クラウドがビューファインダー内の物体を 3 秒遅れで追跡するのでは話にならない
    • それで許容できるとしても、では宣伝していたことができない 粗悪なプロセッサ という意味になる。G3 は性能面で Snapdragon Gen 2 より劣り、Gen 1 に近い可能性すらある。バッテリー消費も同程度なのか確信が持てないが、まもなく Snapdragon Gen 3 も登場予定だ
    • 音声認識、ウェイクワード検出、物体認識、自動補完などがある
      特にウェイクワード検出は、固定されたウィンドウ上で比較的小さな畳み込みニューラルネットを継続的に動かす処理なので、電力効率が非常に重要になる
    • この「魔法」を オンデバイス だと宣伝するなら問題だ
      Pixel 8 発売直前に Google の研究者たちが発表した RealFill[0] と Break-A-Scene[1] の論文を読み、モデルアンサンブルをすばやく実装しようとしたあと、G3 Tensor コアが 2013 年の Moto X の自然言語処理・コンテキスト認識コア[2] のように飛躍しているか、あるいは Google が開発したエッジ TPU の Coral[3] のように衝撃的に優れた推論性能を出すのではないかと期待していた。Moto X は Active Display、ジェスチャー認識、騒がしい環境での音声認識において、現在のモバイル機器の 95% より優れた実装を提供していたし、Coral も素晴らしかったが、チップ不足、会社の気まぐれな体質、IoT からの撤退により、2022 年にはハードウェア生産が ASUS に移った
      要するに、1000ドル超のハードウェアにおける推論性能についての前提が根本的に誤っていたということだ。「生成型」という流行語に頼っているのを見ると、Twitter のインフルエンサーや最新の大規模言語モデル配備の試みから誤った教訓を学んだように見える。モバイル機器でも特定の作業向けに最適化された専用ハードウェアは過去に実現可能で、実際に開発もされていた。性能、消費電力、処理時間の要件を満たせなかったのなら、ハードウェア関連の集団訴訟につながりかねない形で自らをさらすより、宣伝文句を見直すべきだった。
      [0] https://realfill.github.io/
      [1] https://omriavrahami.com/break-a-scene/static/paper/Break-A-...
      [2] https://en.wikipedia.org/wiki/Moto_X_(1st_generation)#Hardwa...
      [3] https://coral.ai/