- インターネットインフラの最上位にいる Tier 1 ISP が、直接関係のないサイトの表現を理由にトラフィック遮断を始めると、代替手段の乏しい地点に検閲権力が生まれる
- Hurricane Electric は直接の顧客である Crunchbits のサービスを一部制限し、スタック上で数段離れた Kiwi Farms へのトラフィックを妨害したとみられ、これを acceptable use policy 違反として正当化している
- Kiwi Farms はヘイトスピーチ、嫌がらせ、doxxing、脆弱な人々への攻撃計画と結びついたフォーラムだが、EFF はそのひどさが インフラ遮断 を正当化するものではないと考えている
- このような遮断の前例は、中絶情報サイトや募金サイトのように、政治的に攻撃されやすい表現にも繰り返し使われうるため、一度許せば拒みにくくなる
- オンライン嫌がらせや虐待には、警察・裁判所・既存の法執行・強力なデータプライバシー法で対応すべきであり、ISP は企業版の 表現警察 になるべきではない
Tier 1 ISP が持つチョークポイント権力
- オンライン表現は、インターネットサービスプロバイダ、プラットフォーム、upstream ISP、Tier 1 ISP に至るまで、複数の民間企業に依存している
- Tier 1 ISP はインターネットの「スタック」において独特の位置を占める
- 非常に多くのサービス提供者が Tier 1 企業を経由して顧客にサービスを提供している
- そのため Tier 1 事業者のコンテンツ方針は、ウェブの広い範囲に影響しうる
- 同時に Tier 1 ISP は、ほとんどの発信者と直接の関係がなく、表現を判断するための 文脈 をほとんど、あるいはまったく持っていない
EFF の原則: インフラはコンテンツを取り締まるべきではない
- EFF は、世界中のさまざまな政治的スペクトラムの人々が検閲に直面した事例を代理・支援してきた
- インターネット構造の中でも特に危険な検閲は、ウェブの動作に必要なサービスが、実質的な代替手段なしに権力を持つ地点で発生する
- EFF は以前から「protect the stack」の原則を掲げ、インフラ提供者はインターネット上のコンテンツを取り締まるべきではないと主張してきた
- ある文脈で検閲を許せば、同じ手法は別の文脈でも再利用されうる
- 基本インフラに圧力をかける戦術は、不当に周縁化された発信者やフォーラムを標的にしうる
- EFF は、こうしたことがすでに起きていると見ている
Hurricane Electric と Kiwi Farms の事例
- EFF は複数の情報源を通じて、Hurricane Electric がトラフィックに介入しているという話を聞いた
- 詳細の確認は難しかった
- Hurricane Electric が EFF の問い合わせに答えなかったためである
- EFF の把握では、Hurricane Electric は直接顧客である Crunchbits へのサービスを一部拒否し、インターネットスタック上で数段離れたサイトに向かうトラフィックを妨害したとみられる
- Hurricane Electric は、そのサイトの活動が自社の acceptable use policy に違反するとして措置を正当化している
- しかし Hurricane Electric は、そのサイトと直接の関係を持っていない
- 方針上は、直接顧客が自社だけでなくその顧客までも取り締まるべきだという立場を取っている
- 影響を受けたサイトは Kiwi Farms である
- ヘイトスピーチや脆弱な人々への悪意ある攻撃計画が飛び交うフォーラムとして描写されている
- 嫌がらせや doxxing をゲーム化する場を提供し、利用者が嫌がらせ対象の実際の死亡をページ上で祝った事例もある
- EFF は、Kiwi Farms を擁護しているわけではないと線を引いている
- 虐待や嫌がらせを行った者に刑事・民事責任を問うことには全面的に賛成している
- ただし、深刻な問題があるからといって、あらゆる対応が良い対応になるわけではないと考えている
Tier 1 による遮断が危険な理由
- Tier 1 ISP はしばしば 独占または準独占 に近く、遮断された利用者が移れる先がほとんどない
- 執筆時点で Kiwi Farms は完全に停止していたわけではなかった
- clear web の国別コードトップレベルドメインにミラーインスタンスがある
- Tor ネットワーク上の onion サービスもある
- Tor ネットワークは一般に Tier 1 ISP の検閲回避に役立つが、いわゆる「dark web」は評判が悪く、多くの人にとって有意味でもアクセスしやすくもない選択肢である
- ISP がトラフィック遮断でコンテンツを取り締まるというシグナルを出せば、その後は別方向からの圧力が続く可能性がある
- 中絶を禁止した州の司法長官から圧力を受けた ISP が、中絶支援の募金サイトや自己管理による中絶情報サイトへのトラフィックを妨害するかもしれない
- ある文脈で前例を作れば、別の文脈でそれを拒むことは難しくなる
- Facebook のような大規模なエンドユーザー向けプラットフォームも多くの資源を持っているが、コンテンツモデレーションでは深刻な問題を抱えている
- Tier 1 ISP はエンドユーザーについてはるかに少ない情報しか持っていない
- コンテンツ評価チームを作る能力や動機も、巨大プラットフォームより弱い
- こうした理由から、ISP は良いコンテンツと悪いコンテンツを見分けることにおいて、Facebook とその同業他社よりもさらに不得手であるほかない
- サイト遮断は、形式にかかわらず、合法な表現と違法な表現をまとめて切り落とす可能性が高い
- EFF はこれを、メスではなく チェーンソー で切るやり方にたとえている
対応はインフラ遮断ではなく、法執行とプライバシー保護であるべき
- EFF は、Kiwi Farms がとりわけひどいので例外的措置を正当化できるという考えは、現実に合っていないと見ている
- Tier 1 による遮断という一線は、いったん越えればそこで終わらない
- 家の一室で違法またはひどい活動が行われているからといって、電力会社が家全体の電気や暖房を止めたり、郵便局が配達をやめたりはしない、という比喩が示されている
- 正しい対応は、悪質な行為者そのものを標的にして責任を問うことだ
- 警察と裁判所は Kiwi Farms の被害者を保護すべきである
- 加害者に対して利用可能なあらゆる法的手段を用いるべきである
- オンライン嫌がらせや虐待に対する既存の法執行が不十分だったことも、人々が検閲戦略に傾く理由の一つである
- doxxing を可能にするサービスに関与する データブローカー などを対象とした、強力なデータプライバシー法も必要である
- Hurricane Electric のような Tier 1 ISP は、法執行機関や立法者が失敗した領域に介入したくなる誘惑を拒むべきである
- ISP のようなインフラ上のチョークポイントが取れる、最も確固として一貫したアプローチは、自らチョークポイントになることを拒否することだ
- 意図が善良であっても、これ以上の企業版 表現警察 は必要ない
1件のコメント
Hacker News のコメント
同意。今は本来ただのダムパイプであるべき主体が道徳警察の役割をしようとするケースがあまりに多く、インターネット上の表現の自由という点で非常に懸念される。
Cloudflare、Visa/Mastercard のような決済処理業者、iOS/Play Store のようなアプリストアがよく例に挙がるが、ISP が実際には違法でもないサイトのトラフィックを遮断しようとするのは、それよりさらに一段進んでいる感じがする。
今では民間企業が、オンラインと社会で何が許されるかを事実上法律のように決めており、恣意的に表現を検閲する迂回路になってしまったように見える。
ここで問題になったサイトが倫理的にほぼあらゆる面で破綻した場所であることは確かだが、ISP 内部の誰かや何らかの集団が嫌っているという理由で、より多くの人が同意するサイトにも同じことが起こり得る。
Web とこうした会社を Silicon Valley の理念に沿ったものにしたエンジニアたちが意図したやり方ではなく、内心ではぞっとしているはずだ。
今は道徳警察というより、道徳の流行警察に近い。
裁判所は、こうした巨大企業の周辺に生まれる二次市場や、独占企業の合併を認めることで私たちの利害関係と独立性がどれほど大きく損なわれるかを、ほとんど考慮しない。
さらに見えにくい論点は、こうした企業から免罪符を買うには何が必要なのかということだ。簡単なのか、頻繁に起きているのか、この「社会正義の後継者たち」が実際にはどれほど頻繁に見て見ぬふりをしているのかも見る必要がある。
「そんな感じがする」というレベルではなく、人口の中の小さいが強力な一部は、これを民主主義を守るために不可欠な段階として明確に受け入れている。
そうではないと思う。認証局は Web がめちゃくちゃだから存在しているのであって、ゲートキーパーになりたくて存在しているわけではない。
彼らが道徳警察の役割を果たし、どんなポルノが「問題なく」どんなものがそうでないかまで決めるほど大きな力を持っているのは、本当におかしい。
この状況が表に出てよかった。Hurricane Electric は今回の一件全体で、信じがたいほど非専門的に振る舞った。始まりはここだった: https://twitter.com/IncogNetLLC/status/1685359845505957888
私たちは彼らの行動についてワシントン州司法長官に苦情を申し立てたが、HE の回答は技術的に鈍感なたわごとと「あなた方は当社の直接の顧客ではない」に近いものだった。
HE は、当社の顧客が当社配下で広告していた IPv6 /36 サブネット全体へのアクセスを、彼ら自身の判断で遮断した。当社にも、HE 基準で当社の上流にも、 abuse 報告が来たことはなく、そのサイトの存在に憤った側から直接送られた信頼できる abuse 報告もなかった。
しかもこの措置は、問題の Web サイトの存在には直接影響しない。反対者たちも今では知っているように、そのサイトは本当にオフラインになったことはなく、一部の ISP で一時的にブロックされただけだ。
ISP の観点では、HE のようなトランジットプロバイダーが、合法で保護された発言を理由に、顧客、その顧客の顧客などを恣意的に切断できるという点が懸念される。
ビジネス的にも、HE に何の得があるのか分からない。サイトに不満を言う人たちは HE のターゲット顧客層ではなく、ほとんどが Twitch ストリーマー、Twitter の有名人、既存の大手プラットフォームにフォロワーを持つ人たちだ。ラックスペースとトランジットを必要とするセルフホスティングのストリーミングサービスを運営するタイプではない。
最も安全なビジネス判断は中立を保ち、法執行機関から要請が来れば対応し、それ以外は金を受け取って任された仕事をすることだ。最悪の判断は下位顧客のコンテンツを検閲することで、今まさにそれを見ている。
レビューへのリンクはいくつかあるが、CrunchBits の Web サイトは Bing から消されたように見える。
金は目的のための手段にすぎず、金を使う代わりに事業で金を諦めてその目的に到達するなら、彼らの立場では論理的かもしれない。
政府が会社の運営者たちとイデオロギー的に一致しているなら、政府からの保護も期待しにくい。多くの場合、政府と大企業が手を組んで目的を達成する。
政治的独占を脅かす外部勢力がいれば、糸を引いてソーシャルメディアのアカウントを消させ、銀行取引を断たせることができる。政府当局者が直接指示していたとしても、「民間企業だから」という理由で救済手段がない。
だから政治的表現の自由の側に立つべき十分な理由は、最も金を持っている人たちに私たちが何を言えるかを支配させたくないし、政府が批判や挑戦を好き勝手に shut down できるようにしたくないからだ。
このような時期に EFF が原則を守る姿を見るのは心強い。同じような立場の他の団体はそうできていない。
言いたくはないが、ACLU のような団体がこの件で EFF に反対する姿も容易に想像できる。
そういう組織なら立場はほぼ絶対的であるべきで、「歴史は、事実関係がひどい場合であっても、より大きな構図を見て危険に警鐘を鳴らすことを求めている」といった文を書くべきだ。
https://web.archive.org/web/20210608004853/https://www.nytim...
「この組織は、修正第1条への揺るぎない献身という創設時の原則から離れてしまったのかをめぐり、内部の緊張に巻き込まれている」という内容だ。
https://en.wikipedia.org/wiki/American_Civil_Liberties_Union...
2017年以降、一部の人々は、ACLU がアイデンティティ政治、ポリティカル・コレクトネス、進歩主義を優先し、不人気な表現の自由、とりわけ保守派の発言の擁護を減らしていると見ていた。
EFF は ISP がコンテンツをフィルタリングすることに反対している。それは ISP の仕事ではなく、ISP が行うべきでも、求められるべきでもないレベルの分析だからだ。
EFF は ACLU よりも一貫して進歩的価値を押し通す傾向がある。ACLU は過去に好ましくない人々の「表現の自由」案件も支援してきたため、すべての案件でそこまでしなくなると「裏切り」のように見えるのだろう。
表現の自由絶対主義の団体やソーシャルメディアプラットフォームの問題は同じだ。差別化要因が、誰にでもほぼ何でも言うことを許すことなら、他所では言えないことを言いたい人々が主に集まる。
すると、露骨な白人至上主義者、児童性的搾取物の愛好者、目立ちたがりの10代、トロールが過剰に集まり、ほとんどの人はそういう人たちと関わりたがらないので、結局それ以外の人々が去っていく。
これが Nazi Bar 問題だ: https://en.wiktionary.org/wiki/Nazi_bar ナチにとって魅力のない組織であろうと努力しなければ、ナチの組織になる。
改めて EFF は、原則を守り、自分たちが同意しない人に対しても自由を擁護することを示している。
今でもためらいなく支持できると感じる数少ない団体の一つだ。こうした難しい立場を取るのは容易ではないが正しいことであり、表現の自由という理想への反対が強まる中でも、EFF にそれを行う力があるのはうれしい。
https://www.eff.org/deeplinks/2021/03/statement-re-election-...
http://techrights.org/2021/11/05/not-the-frontier-anymore/
https://www.theregister.com/2021/10/25/john_gilmore_removed_...
これは別の包装紙に包まれた 寛容のパラドックス のように見える。むしろコミュニケーションを双方向契約としてモデル化する方がよいのではないか。
退屈な話だ。通信事業者ではない Tier 1 プロバイダー が、気に入らない主体の経路を運ばないことにしただけだ。よくあることだ。だから Tier 2 から買って、デフォルトルートのない領域の政治を迂回する。
スパマーの経路を捨てる Spamhaus DROP リストもあるし、DDoS 発信元の経路を捨てることも常にある。
Google も事業上の紛争のため、何年もの間 Cogent 経由では IPv6 で到達できなかった。
私たちが知らないだけで、HE で働く誰かが KF の標的になっており、これがセキュリティ対応である可能性もある。規制対象のプロバイダーであっても、概ね許されることだ。
Cogent と HE は、公共通信事業者やブロードバンドプロバイダーの地位を避ける境界線上にいる。音声や TDM サービスを売っていないためで、したがって KF のワシントン州での苦情申し立ては失敗するだろう。ワシントン州法は一般向け小売プロバイダーにのみ適用され、HE はそれではない。
Tier 1 とは「最高の通信事業者」ではなく、「他の通信事業者に経路の費用を払わない通信事業者」という意味だ。DFZ は文字通りデフォルトルートのない領域（default-free zone）、つまり他のプロバイダーへ向かうデフォルトルートがないという意味だ。
Kiwi Farms がインターネットの自由に関する数多くの重要な概念の基準事例になってしまったのが嫌だ
彼らが永遠に onion 領域へ追放されれば世界はより良くなると思うが、HE や他のサービスプロバイダーが独自のインターネット倫理規範を書き、それを他人のトラフィックに執行することを支持することはできない
小規模な ISP なら、こうした懸念によって顧客を失い始めるだろうが、HE は大きすぎて、インターネットトラフィックの大半はいずれ HE を通る。そのため、検閲能力がビジネス上の判断によって大きく制約されるわけでもない
会社が適度な規模なら AUP/ToS を擁護するのは合理的だが、HE は明らかにその限界を超えている。銀行のように重要な社会機能を提供し、潰すには大きすぎる会社になったなら、何を検閲できるかは非常に厳しく制限すべきだ。石油や製薬のような大規模産業複合体にも当てはまる
問題のもう一つの部分は、こうしたサイト運営に絡む明白な犯罪を、怠慢な公務員たちが起訴しないことにあるように見える
EFF が明らかに中立的なアプローチを擁護している点は本当にありがたく思う
個々の投稿の一部はほぼ確実に名誉毀損だろうが、§230 がサイト自体をその責任から保護している。投稿者は保護されない
結局、本当の問いに戻る。自由な社会では、極度に好ましくないというだけでプラットフォームから排除できるべきなのか。それとも実際の法違反が必要であるべきなのか
サイト所有者にインタビューしたポッドキャストを聞いた[0]。彼の見方を聞くのは興味深かったが、その発言がどこまで事実なのかは分からない
ただ、彼は重要な点を突いていた。ISP が突然彼を切り始めたのではなく、非常に粘り強く技術に詳しい側が、ISP や他のプロバイダーに圧力をかけるために、そのプロバイダーの他の顧客を攻撃し、Kiwi Farms を切らせているのだと主張している
真実は分からないが、ネオナチのフォーラムのような場所はオンラインに残っているのに、Kiwi Farms だけが継続的にオフラインへ追い込まれているのは確かに奇妙だ
Kiwi Farms について詳しくなく、訪問したこともないが、この記事の主張のように「唯一無二にひどい」「サイト自体が人々を被害者にしている」と言うなら、筆者たちには文脈や証拠をリンクしてほしい
今回はすべて事実かもしれないが、証拠のない重大な非難を信じるのは、インターネットを長く使ってきた立場からすると非常にまずい初心者のミスだ
0: https://www.heterodorx.com/podcast/episode-107-how-the-inter...
https://en.m.wikipedia.org/wiki/Kiwi_Farms
Kiwi Farms は ISP が脅迫されているという証拠を示すべきだ。よりありそうな状況は、ハラスメントの被害者たちが通常の不正利用報告を行い、サイト全体で起きている利用規約違反を ISP に知らせたというものだ
同意する。私は表現の自由の絶対主義者からはかなり遠く、おそらく HN の大多数が同意しないほどだと思う
オンラインであれそうでなかれ、事案ごとに表現の自由には限界があるべきだと完全に信じている。例えば HN は検閲がなければもっと悪い場所になるだろうし、Reddit も同じで、私の母国である Canada もヘイトスピーチ法がなければもっと悪い場所になると思う
オンラインでの表現の自由の制限に反対しているのではなく、ISP はその制限を置くには間違ったレイヤーだと考えている。政府は違法行為を行う特定のサイトを追跡できるし、オンラインコミュニティは 4chan のように堕落しないよう自ら管理できる
しかし ISP が検閲の判断を下すべきではない。民間企業にあまりに広い範囲と影響力を与えるからだ
人々が不満を言うテーマの本質は、おそらくこれではない。そうでなければ、そもそも投稿しないだろう
私は表現の自由の絶対主義者で、その表現もかなり好きだ。侮蔑しようとする意図はおおむね力を失うと信じているからだ
全体として、ヘイトスピーチ法を執行しようとする試みには根本的な欠陥があると思う。人々には受容を表明する自由があるのと同じように、拒否を表明する自由もあるべきだ
このスレッドでも、「彼らのホスティング事業者」が奇妙な政治的世論操作めいた投稿をしているのが見られる
スパマーたちも、もっともらしい否認可能性を買うためにいつもこうした手口を使う
「Tier 1 ISP には、エンドユーザーについてはるかに多くを知っている巨大プラットフォームのコンテンツ評価チームほど有効なチームを作る能力もインセンティブもなく、そのプラットフォームでさえ有害な検閲を行う」という部分だ
HE が「検閲」をすべきでない理由は、そのサイトたちがまともだからではなく、HE が有効な検閲を行えないからだ。現在のタイトルは、主語である ISP が非常に重要だという点をうまく示していない
政府を信頼するのも愚かだ。政府には、国家政策に有害なあらゆる発言を「ヘイトスピーチ」「偽情報」などと呼ぶ機会が多く、ほどなく国がロシアのような権威主義的な失敗国家に変わりかねない
「スタックを守ろう」というEFFの昔からの主張、つまりインフラ提供者がインターネット上のコンテンツを取り締まることには反対すべきだ、という話には同意する
ただし、何に同意しているのかは理解しておく必要がある。見たいコンテンツだけでなく、見たくないコンテンツも含まれる。想像し得る最も極端なコンテンツ、つまり児童性的搾取物、スナッフ、殺人、個人情報さらし、薬物などまで含む自由である
その結果、人々が深刻な問題に直面する可能性はあるが、別の方法で対応できる
第一に、個人が自分自身をよりうまく守れる。今ではAIが画像や動画に何が含まれているかをかなり正確に検出できるので、リアルタイムのコンテンツフィルタリングも十分可能である
第二に、社会で最も脆弱な人々を守るべきだ。5歳の子どもにウイスキーを与えないのと同じように、5歳の子どもにフィルターなしのインターネットを与えてはならない。脆弱な成人にも拡張できるかもしれない。精神的な障害により政府の給付や薬を受けているなら、フィルタリングされたインターネットを選択できるべきだ
第三に、許可のないフィルタリングに対する罰則は、単なる税金のように感じられないほど厳格であるべきだ。人々には本当に責任を取らせるべきで、そうでなければ通行料を払って終わりにするだけだ
すべての精神障害が、その人をフィルタリングされたインターネットが必要なほど愚かにするわけではない
その範疇に属しながらもなお考えることができる人間として、あなたのような人たちが私のインターネットを弱体化させるなら、私は社会に向けて尽きることのない憤りと怒りをぶつけるだろう
EFFのナイーブさがまた出た。現実世界に住んでいないように見える。そのように機能したことは一度もないし、今後もないだろう。なぜなら、システムが誰にとっても使えないものになるからだ
とても古い簡単な例がメールだ。1990年代のインターネット時代にもメールスパムはあり、評判の良いISPがスパムを捕まえると面倒なことになった。Usenetでくだらない投稿をするのも同じだった
提供者がすべきこと、すべきでないことには確かにニュアンスがあるが、多くの事柄と同様、これも難しい問題だ。ここや他の場所で提示される「簡単な」解決策は、解決策にはならない
追記：風刺ではなかったようだ。残念だ。善意に解釈していたのだが、そうなると残るのは、結果を知らない愚かさ、気にしない悪意、あるいは私が何かを見落としている場合だけだ
では、集団リンチに対する抑制と均衡はどのようなものになるのか？善意であり、自分たちは善い側だということ以外に。もし本当に私が何かを見落としているのなら、誰かが説明できるはずだ
人々はフォーラムを訪れて書き込み、他のユーザーが投稿したテキスト、画像、動画を見るだけだ
むしろ使えなくするのは、Webリンクをたどろうとするときに、トラフィックを適切にルーティングしてくれるISPを経由するためVPNを使わなければならない状況だ
将来的には、異なるTier 1 ISPがそれぞれ別のサイトをブロックし、1つのISPだけではインターネット全体を閲覧する方法がなく、宛先IPごとに適切なISPを賢く選ばなければならない未来が来るかもしれない