ドイツの判決、Googleは AI Overviews の誤答に責任があると宣言
(the-decoder.com)- AI Overviews は検索結果の一覧ではなく、Google が独自の構成と文章で生成したコンテンツに分類されるため、虚偽の主張について Google の直接責任が認められた
- ミュンヘン地方裁判所は、AI 要約が 2 つの出版社を詐欺、サブスクリプションの罠、怪しい営業慣行と誤って結び付け、リンクされた出典のどこにもそのような結び付きはなかったと判断した
- 従来の検索エンジンやオートコンプリートに適用されていた 限定的責任の法理 は、外部ウェブサイトを見つけさせる機能に合わせたものであり、AI 要約には適用されない
- ユーザーが出典を直接確認できるという Google の反論は認められず、独立して理解可能な AI 要約は、追加検索が可能であるというだけでは責任を免れない
- Gemini 3 ベースの Google AI Overviews が 91% の正確性を示したという分析があっても、Google 規模では毎時数百万件の誤答が生じうるため、類似の AI サービス全般の法的リスクにつながりうる
ドイツ裁判所の核心判断
- ドイツのミュンヘン地方裁判所は、Google が AI 生成検索要約の内容について直接責任を負うと判断した
- 仮差止命令は、Google が AI 生成検索要約を通じてミュンヘン所在の 2 つの出版社に関する虚偽の主張を広めることを禁じた
- 裁判所は「AI overview」を単なる検索結果一覧ではなく、Google 自身のコンテンツに分類した
- Google の AI 要約は、特定の検索語で 2 つの出版社を詐欺、サブスクリプションの罠、怪しい営業慣行と誤って結び付けた
- 裁判所は、AI が実際には怪しい別会社に関する情報を原告らと取り違えており、リンクされた出典にはそのような結び付きがなかったと判断した
AI Overview は検索結果ではない
- AI Overviews は従来の検索結果のようには機能せず、結果を独自の文と独自の構成で書き換え、評価する
- 問題となった事例で AI 要約は「はい、[会社] は疑わしい営業慣行で知られています」のような断定的な文で始まっていた
- AI 要約は、要約、詐欺の疑いを示すシグナル、ユーザー向けのヒントを独自の構成で組み立てていた
- 裁判所は、AI 要約が検索結果にもない主張を行ったと判断した
- リンクされた出典のいずれも原告らと AI が言及した怪しい会社との関係を示しておらず、裁判所はこれを被告自身の陳述とみなした
- Google が AI を作成しユーザーに提供したため、AI の提供方法と動作アルゴリズムに影響力を持つ主体も Google だと認定された
既存の検索エンジン責任法理は適用されない
- ドイツ連邦通常裁判所の既存判例は、従来型検索エンジンとオートコンプリートに限定的責任を認めてきた
- 既存判例は、検索エンジン事業者は第三者コンテンツを見つけられるようにするだけなので、間接侵害者としてのみ責任を負うという論理を持つ
- ミュンヘン裁判所は、この論理は AI Overviews には適用されないと判断した
- 一般的な検索エンジンは外部ウェブサイトを指し示すが、AI Overviews は複数の第三者サイトのコンテンツを評価・結合し、独立した新たな実質的陳述を生成する
- 裁判所は、Google だけが AI の陳述を確認でき、少なくとも基になった第三者ウェブサイトと自らの陳述を比較できるとみた
- AI Overview はインターネット利用に絶対不可欠な機能ではなく、従来の検索結果だけでもユーザーは情報を整理できる
「ユーザーが自分で確認できる」という反論の限界
- Google は審理で、ユーザーがリンクされた出典を直接確認して AI 要約が正しいか検証できると主張した
- Google は、ユーザーは AI 生成情報を盲目的に信頼すべきではないことを一般的に知っていると主張した
- 裁判所は、追加調査によってある陳述を反証できる可能性があることは、その陳述に対する責任を通常は免除しないと判断した
- 問題となった AI Overview はそれ自体で理解可能であり、独立して理解される完結した陳述を含み、別の解釈可能性や信頼できないコンテンツへの言及はなかった
- AI Overviews でユーザーが出典リンクを直接クリックする割合は 1% にとどまるという研究 は、裁判所の論理を裏付けている
- 裁判所は報道法との類似性を挙げ、読者が記事全体を読まなくても、独立して理解可能なティーザーについて出版社が責任を負うとみた
- Google の論理どおり AI Overview が一般に信頼できないものと認められるなら、その機能の利益も大きく減ると裁判所は判断した
保護の空白と Digital Services Act の争点
- Google が明白な違反についてのみ責任を負うなら、AI が虚偽の主張を作り出したとき、被害者には実質的な法的救済手段がなくなる
- 出典として使われた第三者ウェブサイトは問題の陳述自体をしていなかったため、被害者はその出典を相手取って訴訟を起こせない
- 既存ルールの下で Google に対しても効果的に訴えられないなら、保護の空白が生じる
- Google は Digital Services Act におけるホスティング提供者保護を主張できず、検索エンジンの標準的な通知・削除手続きにも依拠できなかった
AI 生成の意見と表現の自由
- 裁判所は、AI の意見は表現者の形成された信念の表明ではなく、アルゴリズムの結果だと判断した
- AI ベースのリサーチ提供は、何よりも Google の事業活動としての表現とみなされた
- 自由に意見や信念を表明する利益は副次的な水準と評価された
- 原告らの人格権と Google の利益を比較すると、問題の陳述は虚偽の事実に基づいていたため、Google の利益は後景に退く
- AI は原告らを無関係の会社と結び付けており、宣誓供述書によれば原告らはその会社らと何の関係もなかった
判決結果と費用負担
- 裁判所判決 は大半の請求で原告側を支持した
- 詐欺、疑わしい会社との関連付け、サブスクリプションの罠、発生していない電話、利用不能に関する主張が禁止された
- 軽微な 2 件の請求のみ棄却された
- 特定の文言がすでに表示されなくなっていても、反復侵害の危険は残ると判断された
- Google は違約罰条項付きの中止宣言を出しておらず、アルゴリズムが同じ陳述を再生成するのを防ぐ要素もなかった
- Google は法的費用の 80% を負担し、原告らはそれぞれ 10% を負担する
- 裁判所は、この判決が国際的範囲を持つ可能性もあるとみた
正確性 91% が残す問題
- AI スタートアップ Oumi が New York Times のために実施した分析では、現在の Gemini 3 モデルベースの Google AI Overviews は 91% の正答率を示した
- この数値は、大半の人にとって日常利用には十分な水準と評価される
- Google 規模では 91% の正確性でも毎時数百万件の誤答を意味する
- 十分な量の誤答が企業や個人の名誉を毀損すれば、Google だけでなく ChatGPT、Claude、Perplexity のような類似サービス提供者にも深刻な法的問題となりうる
- Oumi の分析では、正確だった Gemini 3 の回答の 56% は Google がリンクした出典では裏付けられなかった
- ユーザーは AI が提示した回答の出典を追跡できない状況に直面しうる
- ミュンヘン裁判所は、AI がリンクされた出典にない独自の主張を作り出した場合、運営者がその責任を負うべきだという問題を扱った
- この論理が控訴審で維持されるかはまだ決まっておらず、Google は判決についてコメントしていない
2件のコメント
誤答だらけでしたねｗｗｗｗ
Hacker Newsの意見
正しく理解しているなら、この判決は気に入っている。GoogleはSearchという製品を作り、その製品に対するルールが確立され、その製品を独占してきた
そして今、Googleはその製品を新しい製品に置き換えつつ、同じ名前で呼んでいる。独占を維持したいからだ
違法と判断されたのはこの部分だ。Gemini自体が違法なのではなく、Geminiの最悪のバージョンをSearchであるかのように見せかけ、Searchに対して確立されたルールを破ることが違法だという話に見える。ただし自分は法律家ではない
記事が言っている内容もそういう方向ではないようだ。これは米国のSection 230のような論点に見える。Section 230は、FacebookやGoogleのようなプラットフォームが情報を単に伝達するだけだという前提で、発行者として扱われないよう保護する米国法だが、ドイツはAIの結果をGoogleが書いたものと見ているという話だ
いいことだ。汎用人工知能の本当の目印は、企業が責任を引き受け、利用規約の奥深くに「娯楽目的にすぎません」のような文言を隠さなくなる時だ。従業員に責任を問うのと同じ発想だ
自動運転も同じだ。車が責任を引き受け、ユーザーが単なる乗客として扱われるまでは、自動運転車ではない
ただ、ドイツはまもなくGoogleのAI結果を失うことになりそうだ
ただしその立場を取るなら、企業がその国で製品やサービスを提供しなくなることも受け入れなければならない。AIシステムは、いつか10〜20年後には訴訟コストに耐えられるほど十分に正確になるかもしれないが、それまではそうした国々は、完全に検証されたシステムが出るまで利用できなくなるだろう
自動運転車も、特定の状況では企業が責任を負い、別の状況では車が運転を拒否するようなモデルを作れれば十分で、特別に優れている必要はない
Googleがどのような責任を認めさせられたのかについて、この記事自体が誤った主張をしており、それをファクトチェックする人がほとんどいないという点が皮肉だ
違反した法律は、個人や企業の評判を事実に反する陳述から守る法律だ。本質的に名誉毀損的な主張であるなら、「間違っているかもしれないので自分で確認してほしい」と付け加えながら「XはYだ」と言うことはできない、という意味だ
この判決はかなり良い。Googleが今後は今回のような事実断定文を作らず、「Xによれば…」のような、より適切な表現とともに、検証できないことを直接知らせる表示を付けるよう望む。さらに良いのは、裁判所文書を探して実際に法的判断があるかどうかも確認し、ユーザーに案内することだ
ただ、あなたの言うことが正しいのかも確信が持てない。記事は正確にはどんな虚偽の主張をしているのか？
文句を言う人はいるだろうが、結局ヨーロッパはこうした法律面では依然として先を行くだろう。いら立たしく、ときにはイノベーションの速度を遅らせるが、米国企業は制限なく金になることなら何でもやっている
今得られるのは変動性だけだ。米国が経済的・社会的衝撃を受けたあとで生き残ったものだけ受け入れればいい。急ぐ理由はない。有用な部分にほとんど堀はない。オープンモデルや小規模事業者と比べて、最先端運用のコストとリスクを正当化できるほど大きな差があるわけでもない。結局、このAIビジネスの大半は、多くのユースケースでローカルモデルに落ち着く可能性が高い
米国は最初の兆万長者を生むかもしれないが、現実にはそれはイノベーションではなく、腐敗、搾取、極端な富の不平等によるものだ。AI経済が「予想通り」に展開しなければ、回復もない。その金は熱と使い捨てハードウェアのゴミに変わっただけだ。「技術的優位」のために年金や社会的結束を危険にさらす価値はない
それとも、ドイツで否定的レビューのホスティングが事実上違法なのが本当に良いことだと思うのか？
ほかにどんな結論があり得るのか？ プラットフォームは危険で壊れた製品を提供するために使われていながら、責任逃れに慣れすぎている。どこかで限度は必要だ
次は、AIが生成した採集ガイドを売っているAmazonを扱うべきだ:
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
子どものころは、本屋でどんな採集本を買っても最低限の品質はあった。そんなに難しいことなのか？ 暴利はもう罰せられないのか？
出典: https://www.youtube.com/watch?v=P-QaEB5eXSU
3:00 の箇所
ユーザー自身に判断させず、答えを選んで提示するというのは非常に大きな権力であり、裁判所は、その権力には社会の他者に与える被害を最小化する責任が伴うと正しく見たのだ
理にかなっていると思う
Google Searchが誤情報を含む第三者のウェブサイトを引用する場合、それはGoogleの責任ではない。責任は第三者に移る。これが検索エンジンとしてGoogleが享受している特権だ
しかしGoogleが検索エンジンではなく回答マシンとして動作するなら、その特権はもはや適用されない。責任を押し付けられる第三者がいない
常識的な判決に見える。AIはSearchではない。大規模言語モデルは、ユーザーが自分で解釈すべき検索結果ではなく、断定を作り出すからだ。図書館のカード目録で主題を探すことと、ソフトウェアが自分の答えを言うことの違いだ
こういうものが出始めた当初から、自信満々に嘘をつくことがあり、こうした訴訟は避けられないだろうと思っていた。ドイツがきちんと判断してくれてよかった
判決文へのリンクはここにある。ドイツ語なのは当然で、元のページはアクセス集中を食らっているようだ: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
どんな利益なのかは私にも分からないが、理由があるから有効にしているのではないか？