- AI Overviews は検索結果の一覧ではなく、Google が独自の構成と文章で生成したコンテンツに分類されるため、虚偽の主張について Google の直接責任が認められた
- ミュンヘン地方裁判所は、AI 要約が 2 つの出版社を詐欺、サブスクリプションの罠、怪しい営業慣行と誤って結び付け、リンクされた出典のどこにもそのような結び付きはなかったと判断した
- 従来の検索エンジンやオートコンプリートに適用されていた 限定的責任の法理 は、外部ウェブサイトを見つけさせる機能に合わせたものであり、AI 要約には適用されない
- ユーザーが出典を直接確認できるという Google の反論は認められず、独立して理解可能な AI 要約は、追加検索が可能であるというだけでは責任を免れない
- Gemini 3 ベースの Google AI Overviews が 91% の正確性を示したという分析があっても、Google 規模では毎時数百万件の誤答が生じうるため、類似の AI サービス全般の法的リスクにつながりうる
ドイツ裁判所の核心判断
- ドイツのミュンヘン地方裁判所は、Google が AI 生成検索要約の内容について直接責任を負うと判断した
- 仮差止命令は、Google が AI 生成検索要約を通じてミュンヘン所在の 2 つの出版社に関する虚偽の主張を広めることを禁じた
- 裁判所は「AI overview」を単なる検索結果一覧ではなく、Google 自身のコンテンツに分類した
- Google の AI 要約は、特定の検索語で 2 つの出版社を詐欺、サブスクリプションの罠、怪しい営業慣行と誤って結び付けた
- 裁判所は、AI が実際には怪しい別会社に関する情報を原告らと取り違えており、リンクされた出典にはそのような結び付きがなかったと判断した
AI Overview は検索結果ではない
- AI Overviews は従来の検索結果のようには機能せず、結果を独自の文と独自の構成で書き換え、評価する
- 問題となった事例で AI 要約は「はい、[会社] は疑わしい営業慣行で知られています」のような断定的な文で始まっていた
- AI 要約は、要約、詐欺の疑いを示すシグナル、ユーザー向けのヒントを独自の構成で組み立てていた
- 裁判所は、AI 要約が検索結果にもない主張を行ったと判断した
- リンクされた出典のいずれも原告らと AI が言及した怪しい会社との関係を示しておらず、裁判所はこれを被告自身の陳述とみなした
- Google が AI を作成しユーザーに提供したため、AI の提供方法と動作アルゴリズムに影響力を持つ主体も Google だと認定された
既存の検索エンジン責任法理は適用されない
- ドイツ連邦通常裁判所の既存判例は、従来型検索エンジンとオートコンプリートに限定的責任を認めてきた
- 既存判例は、検索エンジン事業者は第三者コンテンツを見つけられるようにするだけなので、間接侵害者としてのみ責任を負うという論理を持つ
- ミュンヘン裁判所は、この論理は AI Overviews には適用されないと判断した
- 一般的な検索エンジンは外部ウェブサイトを指し示すが、AI Overviews は複数の第三者サイトのコンテンツを評価・結合し、独立した新たな実質的陳述を生成する
- 裁判所は、Google だけが AI の陳述を確認でき、少なくとも基になった第三者ウェブサイトと自らの陳述を比較できるとみた
- AI Overview はインターネット利用に絶対不可欠な機能ではなく、従来の検索結果だけでもユーザーは情報を整理できる
「ユーザーが自分で確認できる」という反論の限界
- Google は審理で、ユーザーがリンクされた出典を直接確認して AI 要約が正しいか検証できると主張した
- Google は、ユーザーは AI 生成情報を盲目的に信頼すべきではないことを一般的に知っていると主張した
- 裁判所は、追加調査によってある陳述を反証できる可能性があることは、その陳述に対する責任を通常は免除しないと判断した
- 問題となった AI Overview はそれ自体で理解可能であり、独立して理解される完結した陳述を含み、別の解釈可能性や信頼できないコンテンツへの言及はなかった
- AI Overviews でユーザーが出典リンクを直接クリックする割合は 1% にとどまるという研究 は、裁判所の論理を裏付けている
- 裁判所は報道法との類似性を挙げ、読者が記事全体を読まなくても、独立して理解可能なティーザーについて出版社が責任を負うとみた
- Google の論理どおり AI Overview が一般に信頼できないものと認められるなら、その機能の利益も大きく減ると裁判所は判断した
保護の空白と Digital Services Act の争点
- Google が明白な違反についてのみ責任を負うなら、AI が虚偽の主張を作り出したとき、被害者には実質的な法的救済手段がなくなる
- 出典として使われた第三者ウェブサイトは問題の陳述自体をしていなかったため、被害者はその出典を相手取って訴訟を起こせない
- 既存ルールの下で Google に対しても効果的に訴えられないなら、保護の空白が生じる
- Google は Digital Services Act におけるホスティング提供者保護を主張できず、検索エンジンの標準的な通知・削除手続きにも依拠できなかった
AI 生成の意見と表現の自由
- 裁判所は、AI の意見は表現者の形成された信念の表明ではなく、アルゴリズムの結果だと判断した
- AI ベースのリサーチ提供は、何よりも Google の事業活動としての表現とみなされた
- 自由に意見や信念を表明する利益は副次的な水準と評価された
- 原告らの人格権と Google の利益を比較すると、問題の陳述は虚偽の事実に基づいていたため、Google の利益は後景に退く
- AI は原告らを無関係の会社と結び付けており、宣誓供述書によれば原告らはその会社らと何の関係もなかった
判決結果と費用負担
- 裁判所判決 は大半の請求で原告側を支持した
- 詐欺、疑わしい会社との関連付け、サブスクリプションの罠、発生していない電話、利用不能に関する主張が禁止された
- 軽微な 2 件の請求のみ棄却された
- 特定の文言がすでに表示されなくなっていても、反復侵害の危険は残ると判断された
- Google は違約罰条項付きの中止宣言を出しておらず、アルゴリズムが同じ陳述を再生成するのを防ぐ要素もなかった
- Google は法的費用の 80% を負担し、原告らはそれぞれ 10% を負担する
- 裁判所は、この判決が国際的範囲を持つ可能性もあるとみた
正確性 91% が残す問題
- AI スタートアップ Oumi が New York Times のために実施した分析では、現在の Gemini 3 モデルベースの Google AI Overviews は 91% の正答率を示した
- この数値は、大半の人にとって日常利用には十分な水準と評価される
- Google 規模では 91% の正確性でも毎時数百万件の誤答を意味する
- 十分な量の誤答が企業や個人の名誉を毀損すれば、Google だけでなく ChatGPT、Claude、Perplexity のような類似サービス提供者にも深刻な法的問題となりうる
- Oumi の分析では、正確だった Gemini 3 の回答の 56% は Google がリンクした出典では裏付けられなかった
- ユーザーは AI が提示した回答の出典を追跡できない状況に直面しうる
- ミュンヘン裁判所は、AI がリンクされた出典にない独自の主張を作り出した場合、運営者がその責任を負うべきだという問題を扱った
- この論理が控訴審で維持されるかはまだ決まっておらず、Google は判決についてコメントしていない
3件のコメント
Lobste.rsの意見
検索エンジンがユーザーの問い合わせに合いそうなウェブサイトを指し示すことと、それらのサイトを読んで要約を提供することは別物
後者を選んだなら、ユーザーの情報源はGoogle自身になるのであり、それに伴う責任を免れるべきではない
記事の内容を見ると、検索結果から持ってきていない部分についてのみ損害賠償責任があるという意味にも読めるが、少し妙で、私の読み違いかもしれない
これは検索から大規模言語モデルを法的に押し出すやり方になり得るのでは、という気がする
大規模言語モデルが非決定的で、かつ企業がその発話に責任を負わなければならないなら、こうしたアルゴリズムが名誉毀損的なハルシネーションを確実に防げる可能性はない、と見なされるかもしれない
裁判所がほぼ原告側の主張を認めたのに、「Googleが訴訟費用の80%を負担し、原告らがそれぞれ10%を負担する」という部分は不思議だ。先に退けられた2つの「些末な請求」のせいだろうか
そのため被告はその部分まで違法と認定されたわけではなく、費用も分けられたのだと思う
言語モデルベースのプログラムは一般に同じ入力に対して決定的にできるし、確率的デコーディングを使うとしても乱数シードを固定すればよい
問題は、言語モデルベースのプログラムが特定の入力に対して正しい出力を出すと証明できないことにある
現在Gemini 3モデルを使ったGoogle AI Overviewsが91%正確だったという分析について、「日常的な利用の大半には十分堅牢だ」と言われているが、検索10回に1回嘘をつく検索エンジンが、いったいどの宇宙の誰にとって、まして大半の人に十分だというのか分からない
ようやく常識的な判決に見える。AIが質問に答える有効な方法だと信じるなら、その答えについて責任を負う覚悟もすべきだ
答えが虚偽だと分かっていながら出し続けるなら、その結果に責任を負うべきだ。人はどんなウェブページでも信じてはいけないとは分かっているが、Googleは自分の名前で、しかもウェブサイトの上に覆いかぶさるように答えを提示している。しかも元の正確な答えを含むウェブページから内容を取ってきておきながら、情報を混ぜて誤らせることすらある
ユーザーが表示された内容はすべて間違っているかもしれないと受け入れるべきだ、という主張は非倫理的だ。正確な情報を示すか、さもなくば何も示すべきではないのであって、ゴミや虚偽の情報を正確であるかのように見せ、免責文言で信頼できないと言って済ませるべきではない
低品質な生成エンジンで情報を提供する企業は、自動応答の正確性をユーザーが合理的に期待することを受け入れるべきだ。正しい情報を繰り返し出すという最低条件すら保証できないなら、できるふりをすべきではない
こうしたコンテンツおよびオープンソースの収奪プログラムを使う企業や個人は、誤情報の結果であれ、OSSコード窃取による著作権侵害であれ、その産出物のすべてについて責任を負うべきだ
ここで重要なのは、ドイツには判例法がないということだ。だからこの判決にはシグナル効果はあるが、他の裁判所が違う判断をする可能性もある
それでも今回の判決は、現行法がAIのこの側面、特に責任の問題を十分に扱えることをよく示している。作り出したものに責任を持つという原則であり、読んでみるとかなり合理的だ
興味のある人向けのよい説明: https://max-eup2012.mpipriv.de/index.php/Precedent,_Rule_of
わが国のある音楽家は、Google AI Overviewが彼を児童性犯罪者だと虚偽に主張したせいで、会場がコンサートを中止したことがあった
私は、彼にはGoogleを相手取って名誉毀損と収入損失について訴える法的根拠があるべきだったと思う。実際には訴訟を起こそうとはしなかったが
公平に思える。その内容がGoogleのものならGoogleの過失だし、他人のものなら著作権侵害と見なせる
これは確かに合理的で正常に見える。特にこの部分が興味深い
裁判所は保護の空白も指摘した。Googleが明白な違反についてしか責任を負わないなら、AIが虚偽の主張をしたとき、被害者には実質的な法的救済手段がない。ソースとして使われた第三者ウェブサイトは問題の陳述をしてすらいないので、被害者はソースを訴えられず、既存のルールではGoogleも実質的に訴えられなくなる
この観点はかなりよい。ここで尋ねるには不適切かもしれないが、アメリカの裁判所でも似たような考慮がなされるのか気になる。アメリカに住んでいるのでアメリカに限定して聞いているだけで、他意はない。私の法律知識の大半はテレビや映画の法廷もの由来だが、こういう考慮が扱われるのは見たことがない
検索以外の場面での大規模言語モデルによる名誉毀損はどうなるのか？ claude.aiに私について名誉毀損的な発言をさせられるなら、訴えられるのだろうか？
実質的には、より広い消費のために公表されていなければならないということだ
すべての要約の下に免責文言を付ければ、この法律を免れられるのではないか？ 人々は同じように騙されるだろうが、真実の答えを与えると主張したわけではないなら、責任を負えないのではないか？
Googleはここで自分を仲介者として見せようとした。検索エンジンに関する法律は実際にそうした余地を与えているからだ。だが今回は正当に一次ソースと認定された
そしてそれで正しいと思う。AI企業は、単に機械を学習させただけで出力は入力と独立していると主張するか、あるいは自分たちは索引にすぎず他所を参照していると主張するか、どちらかであるべきだ。著作権問題では前者の立場を取りながら、両方取りはできない
もう少し形式的に言えば、証拠として提出されたAI要約の多くは、Google自身による新たな事実陳述だと見なされた。意見の陳述はより広い法的保護を受けるが、事実の陳述はそうではない。しかも一部の虚偽の事実陳述は、リンクされたソースによっても裏付けられていなかった
全体としては混乱しているが、今回の立場は前向きに見える
人間にはそういうやり方が通用しないという既存の判例があったような気がするが、なぜ企業には通用すべきなのか分からない
誤答だらけでしたねｗｗｗｗ
Hacker Newsの意見
正しく理解しているなら、この判決は気に入っている。GoogleはSearchという製品を作り、その製品に対するルールが確立され、その製品を独占してきた
そして今、Googleはその製品を新しい製品に置き換えつつ、同じ名前で呼んでいる。独占を維持したいからだ
違法と判断されたのはこの部分だ。Gemini自体が違法なのではなく、Geminiの最悪のバージョンをSearchであるかのように見せかけ、Searchに対して確立されたルールを破ることが違法だという話に見える。ただし自分は法律家ではない
記事が言っている内容もそういう方向ではないようだ。これは米国のSection 230のような論点に見える。Section 230は、FacebookやGoogleのようなプラットフォームが情報を単に伝達するだけだという前提で、発行者として扱われないよう保護する米国法だが、ドイツはAIの結果をGoogleが書いたものと見ているという話だ
いいことだ。汎用人工知能の本当の目印は、企業が責任を引き受け、利用規約の奥深くに「娯楽目的にすぎません」のような文言を隠さなくなる時だ。従業員に責任を問うのと同じ発想だ
自動運転も同じだ。車が責任を引き受け、ユーザーが単なる乗客として扱われるまでは、自動運転車ではない
ただ、ドイツはまもなくGoogleのAI結果を失うことになりそうだ
ただしその立場を取るなら、企業がその国で製品やサービスを提供しなくなることも受け入れなければならない。AIシステムは、いつか10〜20年後には訴訟コストに耐えられるほど十分に正確になるかもしれないが、それまではそうした国々は、完全に検証されたシステムが出るまで利用できなくなるだろう
自動運転車も、特定の状況では企業が責任を負い、別の状況では車が運転を拒否するようなモデルを作れれば十分で、特別に優れている必要はない
Googleがどのような責任を認めさせられたのかについて、この記事自体が誤った主張をしており、それをファクトチェックする人がほとんどいないという点が皮肉だ
違反した法律は、個人や企業の評判を事実に反する陳述から守る法律だ。本質的に名誉毀損的な主張であるなら、「間違っているかもしれないので自分で確認してほしい」と付け加えながら「XはYだ」と言うことはできない、という意味だ
この判決はかなり良い。Googleが今後は今回のような事実断定文を作らず、「Xによれば…」のような、より適切な表現とともに、検証できないことを直接知らせる表示を付けるよう望む。さらに良いのは、裁判所文書を探して実際に法的判断があるかどうかも確認し、ユーザーに案内することだ
ただ、あなたの言うことが正しいのかも確信が持てない。記事は正確にはどんな虚偽の主張をしているのか？
文句を言う人はいるだろうが、結局ヨーロッパはこうした法律面では依然として先を行くだろう。いら立たしく、ときにはイノベーションの速度を遅らせるが、米国企業は制限なく金になることなら何でもやっている
今得られるのは変動性だけだ。米国が経済的・社会的衝撃を受けたあとで生き残ったものだけ受け入れればいい。急ぐ理由はない。有用な部分にほとんど堀はない。オープンモデルや小規模事業者と比べて、最先端運用のコストとリスクを正当化できるほど大きな差があるわけでもない。結局、このAIビジネスの大半は、多くのユースケースでローカルモデルに落ち着く可能性が高い
米国は最初の兆万長者を生むかもしれないが、現実にはそれはイノベーションではなく、腐敗、搾取、極端な富の不平等によるものだ。AI経済が「予想通り」に展開しなければ、回復もない。その金は熱と使い捨てハードウェアのゴミに変わっただけだ。「技術的優位」のために年金や社会的結束を危険にさらす価値はない
それとも、ドイツで否定的レビューのホスティングが事実上違法なのが本当に良いことだと思うのか？
ほかにどんな結論があり得るのか？ プラットフォームは危険で壊れた製品を提供するために使われていながら、責任逃れに慣れすぎている。どこかで限度は必要だ
次は、AIが生成した採集ガイドを売っているAmazonを扱うべきだ:
https://www.theguardian.com/technology/2023/sep/01/mushroom-...
子どものころは、本屋でどんな採集本を買っても最低限の品質はあった。そんなに難しいことなのか？ 暴利はもう罰せられないのか？
出典: https://www.youtube.com/watch?v=P-QaEB5eXSU
3:00 の箇所
ユーザー自身に判断させず、答えを選んで提示するというのは非常に大きな権力であり、裁判所は、その権力には社会の他者に与える被害を最小化する責任が伴うと正しく見たのだ
理にかなっていると思う
Google Searchが誤情報を含む第三者のウェブサイトを引用する場合、それはGoogleの責任ではない。責任は第三者に移る。これが検索エンジンとしてGoogleが享受している特権だ
しかしGoogleが検索エンジンではなく回答マシンとして動作するなら、その特権はもはや適用されない。責任を押し付けられる第三者がいない
常識的な判決に見える。AIはSearchではない。大規模言語モデルは、ユーザーが自分で解釈すべき検索結果ではなく、断定を作り出すからだ。図書館のカード目録で主題を探すことと、ソフトウェアが自分の答えを言うことの違いだ
こういうものが出始めた当初から、自信満々に嘘をつくことがあり、こうした訴訟は避けられないだろうと思っていた。ドイツがきちんと判断してくれてよかった
判決文へのリンクはここにある。ドイツ語なのは当然で、元のページはアクセス集中を食らっているようだ: https://the-decoder.de/wp-content/uploads/2026/06/26_O_869_2...
どんな利益なのかは私にも分からないが、理由があるから有効にしているのではないか？