設計上の違法性：生成AIの人権コストを明らかにする
(amnesty.org)- 独立型の生成AIシステムは、違法なウェブスクレイピングに基づく場合、設計・開発・配備の全過程で**国際人権法（IHRL）**および基準と衝突する
- この技術は高度な自動化と効率性を約束するが、データ収集とモデル学習の慣行がプライバシーの権利を侵害する構造に依存している
- 同じ慣行は差別を可能にし、表現の自由と思想の自由を脅かす人権コストを生み出す
- Amnesty Internationalは、違法なウェブスクレイピングに基づくシステムが、設計上大規模なプライバシー侵害に依存していると結論づけた
- こうしたシステムは国際人権法と根本的に両立せず、Amnesty Internationalは当該システムの禁止を求めている
主要な判断
- 違法なウェブスクレイピングに基づく独立型の生成AIシステムは、設計・開発・配備の段階で国際人権法（IHRL）および関連基準と衝突する
- Amnesty Internationalは、こうしたシステムが設計上大規模なプライバシー侵害に依存しており、国際人権法と根本的に両立しないとみている
人権侵害のメカニズム
- 生成AI技術は高度な自動化と効率性を約束する
- しかし、データ収集とモデル学習の慣行はプライバシーの権利の侵害に依存している
- こうした慣行は差別を可能にし、表現の自由と思想の自由を脅かす
結論と要求
- Amnesty Internationalは、違法なウェブスクレイピングに基づく独立型生成AIシステムの禁止を求めている
- 英文レポートは Download PDF からダウンロードできる
1件のコメント
Lobste.rsの意見
違法なウェブスクレイピングという表現のせいで、別の副作用としてウェブスクレイピング自体まで禁止しようという流れにはなってほしくない
企業が同意なしに個人情報を大量収集したうえで、そのデータを漏えいリスクのある形で商用化していることが問題
Amnesty Internationalがそうしたシステムの禁止を求めているとは、かなり強い出方をしている
それでも、AIベースの意思決定には救済手段が必要なこと、モデルに見られるバイアス、同意・著作者表示・補償のないスクレイピングといった問題を妥当に指摘している
まだ全部は読んでいないが、5.6節の結論 p.35 に目を引く部分があった
Amnesty InternationalはDeepSeek、Google、OpenAI、Meta、Stability AI、Intel、VMware、Midjourney、Microsoft、Amazonには、スタンドアロン型生成AIシステムと人権リスクに関する調査結果・懸念への回答を求めたのに、Anthropicが目立って抜けている
報告書でAnthropicへの言及を検索すると、2026年2月に米軍がイスラエルとともにイランを攻撃した際にAnthropicのClaudeを使用したという内容だけで、米国政府がAnthropicの「大規模な国内監視」および「監督なしの完全自律兵器」への利用制限という契約条件を無視した、というくだりが出てくる
Anthropic製品は2024年から米国政府と軍で使われており、機密業務を行う政府機関全般に製品が配備された最初の「先進AI企業」として知られ、Anthropicがその制限を修正しなかったため、2026年3月6日にPentagonが「Supply Chain Risk」に分類したという記述もある
Amnestyが親Anthropic寄りだと言いたいわけではないが、なぜその一覧に含めなかったのかは混乱する。報告書ではOpenAI、Google、Metaなどについては具体的な被害事例の出典つきで何度も言及しているので、その一覧はそれに基づいて作られたのかもしれないし、Anthropicについては同様の出典がなかったのかもしれないが、それでも奇妙に感じる
Amnestyはもう昔のAmnestyではないように思う
このブリーフィングは生成AI製品のサプライチェーンのうちデータパイプラインに焦点を当て、特にデータの収集・分析・処理段階に集中すると述べている
またAmnesty Internationalは、スタンドアロン型生成AIツールを、AIチャットボット、画像・動画・音声・テキスト生成器のように生成AI機能のみを目的として開発・配布・マーケティングされる製品と定義し、ワードプロセッサの任意の生成AI機能のように、より大きな製品群に追加された機能は除外するとしている