1件のコメント

 
GN⁺ 2024-12-17
Hacker News の意見
  • 意図しない結果に関する「一般法則」のようなものがすでにあるのか気になる
    例えば燃費を上げようとして燃費基準を作ったら、その基準から外れる燃費の悪い「トラック」が経済的な車を押しのけ、結果的に燃費がさらに悪化する、というような話
    子どもを守るとして、少しでもリスクを高め得る活動を犯罪化すると、結局は子どもを屋内に置いて電子機器だけを使わせるのが最善になり、肥満やうつが増えて子どもにとってさらに悪い結果になり得る
    この記事で述べられているように、Big Tech の責任強化が難しすぎる規制につながると、遵守できるのは Big Tech だけになり、独立系の技術コミュニティはオフラインへ追いやられる

    • 意図的な場合なら、これは 規制の虜(regulatory capture) だ。https://www.investopedia.com/terms/r/regulatory-capture.asp によると、規制は新規参入者に市場参入コストだけでなく規制遵守コストまで負担させ、参入コストを引き上げる傾向がある
      ライセンス、許可、必要性の証明といった明示的な参入障壁も生じるし、既存事業者は例外や猶予を得て、新規参入者だけが特定の規制を負う場合もある
      とはいえ、規制がまったくない仕組みも消費者にとって同じくらい悪くなり得るので、規制が少なすぎることと多すぎることの間の線引きが重要だ。いつものように、細部が肝心だ
    • これは 逆効果のインセンティブ(perverse incentive) と呼ばれ、Wikipedia に例がよくまとまっている: https://en.wikipedia.org/wiki/Perverse_incentive
    • Freakonomics が広く知らしめた コブラ効果 がある
      コブラが多すぎる → 捕まえて殺したコブラに懸賞金を支払う → 人々が懸賞金目当てにコブラを飼育する → 法律が廃止される → 人々がコブラを放つ → コブラがさらに増える
    • こういうものを愚かにも 意図しない結果 と呼ぶのは奇妙だ
      これは政治的発言を規制し、オンラインでの自由な発言を沈黙させる武器として使うやり方だ。反対者たちはずっと前からそう言ってきたのに、なぜ法律を作った人たちが聞こえていなかった、あるいは世間知らずだった、善意だったと装わなければならないのか分からない
      彼らはこれが何で、何をするものか分かっている。システムの目的は、そのシステムが実際に行っていることだ
      関連して、政治家だけでなく任意の人々にも武器化できるこの種の沈黙の手法の名前の一つが Heckler's veto だ。気に入らないサイトで騒ぎを起こしたうえで、この便利な規制を突きつければ閉鎖に追い込める
      こういう法律を作る側にとって便利なのは、自分たちが直接指をさす必要すらない点だ。不満を持つユーザーや誰かが代わりにやってくれるからだ
    • 政治家には 基礎マクロ経済学基礎ゲーム理論基礎統計学 を1週間、義務教育として受けさせるべきだ
      考えてみると、子どもたちも高校で学ぶべきだ
  • オーストラリアにも Online Safety Act 2021 という似た法律がある。この法律の根本的な誤解は、インターネットを独立したコミュニティ主導の豊かな空間の織物としてではなく、いくつかの巨大プラットフォームだけで成り立つものとして想像している点にある
    Online Safety Act の広範で曖昧な要求事項と潜在的な罰則は、社内法務チーム、コンプライアンス部門、自動モデレーションツールを持つ数十億ドル規模の企業にとっては些細な障害にすぎない。だが、愛情でフォーラムを運営している個人や、ボランティアの時間で回っている小さな集まりにとっては、不満を持つユーザーが実際の金銭的・個人的被害を脅しに使える法的な地雷原になる
    実際には、信頼、友情、メンタルヘルス支援まで育んできた地域の自転車フォーラムが消える危険にさらされ、巨大企業は無傷で通り抜ける。皮肉なことに、「Big Tech」を統制するという名目の措置が小さな独立コミュニティを萎縮させ、ユーザーを法律が標的にしていたはずのまさにその大手プラットフォームへ押し込む
    政府がこうした小さな空間の文化的・社会的価値を無視したまま、複雑なトップダウン型の解決策を押し通すのを見ると気が滅入る。本物のコミュニティ主導フォーラムを公共財として認め、持続可能なモデレーション慣行を促し、悪質な行為者に責任を負わせつつ、インターネットをより人間的にする草の根プロジェクトを締め付けない政策が必要だ

    • オーストラリアの話なら、実際には Online Safety Amendment (Social Media Minimum Age) Bill 2024 という最新の混乱した法案を思い浮かべた
      その法案によれば、HN は16歳未満に使わせないよう、すべてのオーストラリアのユーザーを識別しなければならない
      https://www.aph.gov.au/Parliamentary_Business/Bills_Legislat...
    • 悲しいことだが、インターネットをいくつかの巨大プラットフォームとして見る想像は現実に合っている。小さな空間を全部合わせても 丸め誤差 に埋もれる程度だ
    • こうした法律の目的が表面に書かれているとおりで、法律を書く人たちは無知だと仮定している。しかし多くの法案は シンクタンクとロビイスト が作成している
      権威主義者は、人々が私的に話し、組織することを望まない。「子どもたちのことを考えろ」というたわごと以上に良い抑止手段がどこにあるだろうか。暗号化もそうやって繰り返し攻撃されてきた
      Google、Facebook、Twitter はこうしたものを強力にロビー活動して阻止できたはずだが、そうしなかった
      そのこと自体が多くを物語っている。私の考えでは、こうしたフォーラムが閉鎖されれば人々は中央集権型プラットフォームへ追いやられ、広告収入が増える。政府はオンラインで誰が何を議論しているのかをはるかに簡単に把握できるようになり、満足するということだ
  • 実際の Ofcom の実務指針はここにある: https://www.ofcom.org.uk/siteassets/resources/documents/onli...
    月間アクティブユーザー27.5万人の自転車サイトは最も低いカテゴリに入り、遵守事項も「疑わしい違法コンテンツを確認・評価するコンテンツモデレーション機能を備える」といった程度。つまり通報ボタンを置くくらいの話

    • 法律はそういうふうには機能しない。一般人に膨大な法律を渡して、違反したら数百万を払わなければならないと言えば、努力すれば遵守できる道があるという事実はほとんど重要ではない
      大半の人は弁護士ではなく、実際にどう遵守するかを把握する作業は極度に退屈で危険だ。法律の解釈を誤れば自分が責任を負うことになるから
      企業にはこうした質問への答えを探す法務部門がある。こうした質問は非常に難しく、判例が積み上がったり規則が改正されたりするにつれて答えが変わることもあるからだ
      個人に法的責任の脅威の下で複雑なルール群を解釈するよう期待すれば、その人たちがやっていたことをやめさせる非常に有効な方法になる
    • 元記事は虱を取ろうとして布団を燃やす方向に見える
      すでに通報やフラグのボタンのようなものを持っていなかったのなら、むしろ驚きではある
    • 「疑わしい違法コンテンツを確認し評価するコンテンツモデレーション機能」には金がかかる
      普通の人はすべての法律を知ることはできない。すべての通報が違法かどうかを判断するには、弁護士を雇うか、少なくともすべての通報を違法性の基準で評価しなければならない。間違えたときに刑務所に行く可能性があるなら、誰も無料ではやってくれない
      公正な仕組みなら、違法コンテンツの通報はすべて裁判官に送り、違法かどうか確認させるべきだ。違法なら投稿を削除し、訴追が始まる
      しかしそうすると国家が莫大な費用を負担しなければならない。だから費用を運営者に押しつける。その結果、最も裕福なサイトか、最もリスクを取るサイトだけが運営を続けられるようになる
    • 答えはここにある: https://news.ycombinator.com/item?id=42434349
    • もっと多くの人が実際の文書を文脈の中で読んでほしい。GDPRも同じだが、テック業界は法的リテラシーが低い
  • 英国は国際的に関係のある国であろうとすることを、どうやら諦めたように見える。シティ・オブ・ロンドンの金融街が消えたら、10年以内にそこがまだ一つの国だという事実もみんな忘れてしまいそうだ

    • このコメントと関連していそう: https://archive.is/9V2Bf
      組織はすでに、より厚みのある米国資本市場のために LSEG を離れている
    • 余談だが、英国は素晴らしい観光地だ。特に着陸してすぐロンドンを離れるならなおさらいい
      美しい風景、最高レベルの朝食、本当にいい人たち、見るものも多い
    • どれだけさらに被害を受ければ、自分で自分を傷つけるのをやめる方法を見つけられるのか分からない。英国投資には長い棒でも触れないつもりだ
  • 「Online Safety Act は Big Tech に責任を負わせるためのものだったが、実際には彼らだけが遵守でき、結局そのプラットフォーム群へさらに集中する」という言い方は本当にうまく表現されている。的外れな官僚主義の働きを認める一文だ
    これからオンラインコミュニティは、自前の官僚組織を持たなければならないように見える。強力で古く、ますます大きくなり権限を広げる権威主義的な政府官僚組織と、新しいやり方で効果的に相互作用する準備をあらかじめしておく必要があるからだ
    こうした措置は、一定規模を超える大きく非常に繁栄した組織だけが、自前の官僚組織を常時維持し、必要なら十分な人員を投入して政府官僚組織の規模に対抗できるように設計されているように見える
    以前は重要ではなかった事柄が問題になり得るし、予測不能な致命的条項が新たに生まれ、オンラインであるという理由だけで多数の非官僚的な運営者に明確に不利になるよう法制化される
    この不安定な地形に対応するため、初めて小さな官僚組織を誠実に作れば何とかなると思っているなら、それは勘違いだ
    以前からすでに十分ひどかったのに、今や他のすべてよりも大きな動く標的が新たに強制的に付け加えられた
    こうした規制は、過去のより厳しくない義務に対応しながら長年にわたって成長してきた、十分な資金を持つ常設の官僚組織をすでに持つ会社だけを許すものだ。眉一つ動かさず受け流せない残りの者は、支援するなという意味だ

    • ここでいう官僚組織とは何を指すのか? リスク評価をすることを言っているのか?
  • ここで LFGSS を見て二度見した。しばらくROMっていて、ときどき投稿もしたし、物の売買もした。本当に自分がいた中で最高のオンラインコミュニティの一つで、自転車隣接コミュニティの中では間違いなく最高だった
    とはいえ、この決定を批判することはできない。悲しいし、オンラインの一時代が終わる感じがする

    • 私たちの膝のように……最初は fixed gear だったが、今では single speed になり、まもなく Phil のハブはトラックではなく椅子に縛りつけられるだろう。闘志は薄れつつある
  • フォーラムを英国外の誰かに引き継ぐことを検討したのか気になる。妥当な管理者を見つけて、ユーザーを置き去りにせず身を引くこともできそうだ
    本当に懸命に働き、誇れるものを作ったのだから、それが消えるのを見るのは残念だと思う

    • オープンソースプロジェクトを親切そうに見える人に引き渡したところ、数か月後にその人がマルウェアを入れた事例がいくつもある
      長い間見守ってきたものが恐ろしい何かに変わる危険を冒すより、きれいに閉じたいと思う気持ちは完全に理解できる
    • 自分も同じ疑問だ。特にEU外なら、これを引き受ける人はいると思う
      信頼できる人を見つけるのは難しいが、buro9 は知り合いが非常に多いはずだ
    • 「この法律は、サービスを提供する会社が英国外にあっても、英国とのつながりがあれば適用される。これには、そのサービスに相当数の英国ユーザーがいる場合が含まれる」
  • rsync.net でこのデータを保管または一時保管するための恒久的な無料スペースを提供したい。暗号化された形でも可能だ。あなたが作ったものを保存できるようにしたい
    ただメールしてくれればいい

  • この新しい法律の何が具体的に問題なのか説明している内容がないように思う。自分のフォーラムを運営することがもう安全ではなくなるというのは、この法律の何が原因なのか、5歳児に説明するように教えてもらえる?

    • 誰も完全には確信できていないという事実そのものが、問題の一部だと思う
      この法律は意図的に非常に曖昧で広い
      大まかに言えば、要点はプラットフォームが自ら「危害」のリスクを評価・特定し、安全対策を実装し、記録を保管し、監査を行わなければならないということ。その意味についての指針はかなり緩いが、例えば厳格な年齢確認、先手を打った効果的なモデレーション、すべてのアルゴリズムに対する徹底的な評価などが含まれ得る
      調査を受けることになれば、あなたの対策が十分だったのか不十分だったのかを誰かが判断することになる
      だから、プラットフォーム上で「危害」が発生しないよう保証するために相当な時間を費やす必要があるかもしれないし、監査資料を弁護士に確認してもらうために費用をかける必要があるかもしれない
      不十分だと判断された場合の結果が厳しくなり得るので、オンラインコミュニティを1つ運営するために、こうしたリスクをすべて負う価値があるのかと考えることになる
    • Wikipediaによると、この法律はオンラインプラットフォームに新たな注意義務を設け、ユーザーによる違法コンテンツ、または合法だが「有害な」コンテンツへの対応を求めている
      この義務を果たせなかったプラットフォームは、最大1,800万ポンドまたは年間売上高の10%のうち大きい方の罰金を科される可能性がある
    • 本質的には、テック企業を法執行の一部として英国政府のために働かせるもの。ユーザーを監視し検閲しなければならず、そうしなければ罰金を科され、Ofcomは気に入らないものを閉鎖する権限を持つ
      結果として、英国で他人向けのオンラインサービスをホスティングできる主体は大企業だけになる。この法律が求める自動化とモデレーション要件を負担できるのは彼らだけだから
      自分のコンテンツを自分でホスティングすることは可能だろうが、フォーラムサイトや小規模なソーシャルメディアプラットフォームを運営するには、弁護士を雇い、毎月数千ドルを払ってモデレーターを使うか、抜け目のないモデレーションシステムを実装できるだけの余裕が必要になる
      そうでなければ、Ofcomによってただ閉鎖されるリスクがある。やるべきことをすべてやっていても閉鎖される可能性がある。異議申し立て手続きを何とか切り抜けられるよう祈るしかない
    • https://www.ofcom.org.uk/online-safety/illegal-and-harmful-c...
      リスク評価を行い、その写しを保管しなければならない。リスクが高いほど、より多くの緩和策を用意する必要がある
      地域イベントの掲示板のように、人々が投稿でき、苦情もなく、通常は悪用がないか見守っている程度なら、それで全部かもしれない
      反対に、自殺念慮のある子ども向けの大規模チャットルームを運営していて、未確認の成人がDMで話しかけられるなら、はるかに高い水準の緩和策が必要になる
      規模は重要だが、唯一の決定要因ではない
      自殺関連の危害リスクが低い例としては、航空券・ホテルなど旅行検索に特化した大規模な垂直検索サービスがある。英国の月間ユーザーは約1,000万人で、レコメンドシステムで目的地を提案し、基本的なユーザー通報システムがある。検索結果に違法な自殺コンテンツが表示されたという証拠や示唆がまったくなく、提供者にもそうしたことが起こる方法を見いだせないなら、大規模サービスであっても、自殺の助長または幇助の犯罪リスクは無視できる、または存在しないと結論づけられる
      グルーミングのリスクが高い例としては、英国の月間ユーザーが1,000万人以上いるソーシャルメディアサイトがある。DMとネットワーク拡大のレコメンドがあり、規約上は16歳以上のみ利用可能だが、強力な年齢確認を使っておらず、もっと幼い子どもも使っていることが知られている。ユーザーからの通報は少なくとも、外部の専門家団体がグルーミングに使われていると指摘しており、警察事件や主要紙の調査で名前が挙がっているなら、提供者はグルーミングの高リスクサービスだと結論づける
  • 「この事業はコンプライアンス費用を負担できず……仮に負担できたとしても、私には過度な個人責任が残り、重大な行為でブロックされた不満を持つ人々が容易に武器化できる」という部分が少し分かりにくい
    Online Safety Actはサイト運営者に個人責任を生じさせているのか? もっと明確に言えば、法人では十分な保護にならないという意味なのか? それとも、不満を持つユーザーから受ける嫌がらせのことを言っているのか?
    Microcosmは初めて聞いたが、かなり良さそうなフォーラムソフトウェアに見え、将来のプロジェクトで検討したかもしれない。なくなるのは残念

    • リンク先ページには次のような文言があり、正確に何を意味するのかは確信がないが、個人責任と理解することもできる
      「安全に関する上級責任。厳格な説明責任を確保するため、各提供者は、違法コンテンツ、通報、苦情処理義務の遵守について最高ガバナンス機関に責任を負う上級者を指定しなければならない」
    • 元投稿者は、この法律が間接的にサイト運営者に莫大な個人責任を生じさせると感じているようだ。ユーザーが意図的に違法資料を投稿したうえで、この法律に基づいてサイトを通報すれば、運営者が1,800万ポンドの罰金にさらされる可能性があるからだ
      誰かがオンラインで敵意を抱いたときにどこまでやるかについて、運営者やモデレーターたちが語ってきたことを考えると、かなりあり得そうに見える