Blueskyの積み重ね型モデレーション方式

 (bsky.social)
1 ポイント 投稿者 GN⁺ 2024-03-14 | 1件のコメント | WhatsAppで共有
  • Blueskyは、基本的な安全対策の上に独立サービスのフィルターを重ねる 積み重ね型モデレーション により、ユーザーが自分に合ったソーシャル体験を調整できるようにする
  • 新たにオープンソース化された Ozone は、チーム単位で通報をレビューし、ラベルを作成し、atprotoネットワーク上のコンテンツを確認できるコラボレーションツール
  • 基本のアプリ体験は、24時間体制で運営されるBlueskyのモデレーションチームと 自動化システム が担い、ユーザーはそこに追加フィルターを選んで組み合わせられる
  • 独立モデレーションサービスのフィルターはまず デスクトップアプリ に提供され、その後モバイルへ拡大される。アカウントをフォローするように見つけて購読する方式
  • ラベラーとモデレーションサービスはBlueskyアプリを越えて atprotoネットワーク 全体で機能できるため、アプリごとに異なるモデレーション構成を作れる

ユーザーが調整するモデレーション構造

  • Blueskyは、ユーザーがオンラインのソーシャル空間を自分で調整できるようにすることを目標としている
  • 既存のソーシャルメディアは世界中をつないだが、少数の企業とリーダーに権限が集中する結果を生んだ
  • 1つの会社がすべての国・文化・コミュニティに合う安全基準を完璧に定めるのは難しいため、コミュニティごとのモデレーションエコシステム を構築している
  • 自社のモデレーションチームは、コミュニティガイドラインを執行するために24時間体制で運営される
  • 同時に、コミュニティが独自の規範や好みに合った空間を作れるよう、オープンソースの安全ツール とモデレーションエコシステムを提供する

Ozoneの公開と独立モデレーションサービス

  • Blueskyは、協働型モデレーションツール Ozone をオープンソースとして公開した
  • Ozoneを使うと、個人やチームがネットワーク全体のコンテンツをレビューし、ラベルを付けられる
  • 今週後半から、ユーザーはBlueskyアプリに統合される 独立モデレーションサービス を直接運用できるようになる
  • ユーザーは、Blueskyが求める基本モデレーションの上に、追加のモデレーションサービスを作成・購読できる
  • Ozoneのリポジトリは GitHub で確認できる

3つの設計原則

  • Blueskyのモデレーションサービス設計は3つの原則に従う
    • Simple and Powerful: 基本体験は簡単に保ち、必要なユーザーにはカスタマイズオプションを提供する
    • User Choice: ユーザーとコミュニティが独自のモデレーションシステムを作れるようにする
    • Openness: デジタル空間のガバナンスへの信頼を高める、開かれたシステムを目指す
  • Blueskyはユーザーが2万人にも満たない時期から composable moderation の構想を共有しており、現在は500万人以上にサービスを提供している

デフォルトの上に積み重ねるユーザー選択

  • Blueskyの登録者はデフォルトでBlueskyの内蔵モデレーションサービスを購読している
  • この基本サービスは、24時間体制のチームによるユーザー通報処理と、複数の 自動モデレーションシステム を組み合わせている
  • ユーザーは独立モデレーションサービスのフィルターをインストールし、Blueskyアプリの基本基盤の上にブロックのようにレイヤーを積み重ねられる
  • 最初の配布段階では、独立モデレーションサービスのフィルターは デスクトップ版 で提供される
  • その後モバイルでも提供され、複数のプラットフォームでソーシャル体験を調整できるようになる
  • 技術的な構造は AT Protocolのモデレーションアーキテクチャ文書 でさらに詳しく確認できる

ユーザーに見える動作方式

  • Blueskyは、アプリをインストールした直後から直感的な基本体験を提供することを優先する
  • より細かな調整を望むユーザーは、Blueskyアプリ内で独立モデレーションサービスを探して選択し、購読できる
  • 購読方式は、ほかのアカウントをフォローするのと同じくらい簡単に設計されている
  • 例である Spider Shield は、クモの写真をブロックするモデレーションサービスとして作れる
    • ユーザーがこのサービスをインストールすると、ラベル付けされたクモの写真はユーザー体験から消える
    • ラベルのないクモの写真を見つけた場合、アプリ内の通報フローでSpider Shieldにレビューを依頼できる

モデレーターに起きる変化

  • Blueskyアプリの基本モデレーションの上に別のレイヤーを提供したい人は、多くのインフラを運用したり、独自のクライアントアプリを作ったりする必要がない
  • 現時点では一定の技術知識が必要だが、Blueskyは時間とともにこのプロセスがより単純になると見ている
  • 既存でも、ほかのユーザーが購読できる ミュートリスト や ブロックリスト を運用できる
  • 人気のあるブロックリストは個人アカウントと強く結びついており、ユーザーがアプリ内で運営者を直接タグ付けするなど、規模が大きくなるほど負担が増える可能性がある
  • Ozoneは、ブロックリストに似たサービスをより細かく運用できるようにする
    • アカウントだけでなく特定の投稿にもラベルを付けられる
    • 通報キューにアクセスできる
    • ユーザーはアプリ内の通報フローで通報を送れる
    • カスタムラベルを作成し、各ラベルがどのような動作をすべきか指定できる
    • サービスは個人ユーザーに紐づかず、複数人で管理できる
  • Spider Shieldの例では、Ozoneダッシュボードが通報されたクモ写真のキューを提供し、人々が毎回運営者を直接タグ付けする必要を減らす
  • ラベルは、実際のクモ写真をブロックし、クモのイラストをぼかすといった形で、それぞれ異なる設定が可能
  • 複数人で通報管理を支援したり、ユーザーを妨げることなくプロジェクトを他の人へ引き継いだりできる

開発者がラベルを付ける方法

  • 開発者はコンテンツにラベルを付ける際、OzoneのようなBlueskyソフトウェアを使うか、APIを通じて直接ラベルを適用できる
  • Ozoneは人間がモデレーション通報をレビューするのを助けるツールだが、自動ラベリング によってモデレーションサービスを動かすこともできる
  • Spider Shieldを機械学習ベースの自動サービスとして作り、クモの写真を見つけてラベル付けするなら、Ozoneなしでも実装できる
  • Ozoneを目的に合わせて修正するには、PRを送るかプロジェクトをフォークできる
  • Blueskyは、AT Protocolエコシステムのアプリが信頼と安全性の問題をゼロから再構築しなくて済むよう、オープンソースのモデレーションツール を提供する

ラベルとatprotoネットワークの拡張性

  • ラベルは汎用的でカスタマイズ可能になるよう設計されている
  • 初期のラベラー機能は、コンテンツを非表示にする、ブロックする、ぼかすことに重点を置いている
  • 将来的にはキュレーションや検証にも使える
  • たとえば、クモの写真を投稿しない自然系アカウントを「検証」する用途でラベルを活用することもできる
  • モデレーションサービスはBlueskyアプリに限定されず、atprotoネットワーク 全体で機能できる
  • Skygramという新しい写真共有アプリが登場した場合、Bluesky向けに作ったSpider ShieldモデレーションサービスもSkygramで使える
  • こうした組み合わせ可能性こそが composable moderation の核心であり、異なるアプリ間でも構成要素を混ぜて使える

基本モデレーションを外れる選択肢

  • BlueskyアプリのユーザーはデフォルトでBlueskyモデレーションサービスを使う
  • Blueskyアプリに表示されるすべてのコンテンツは、Blueskyのコミュニティガイドラインに従う必要がある
  • Blueskyの基本モデレーションがニーズに合わない場合、別のクライアントアプリを作成または使用し、独自のモデレーションサービスを接続できる
  • この選択肢にはAT Protocolに接続する別のクライアントアプリが必要だが、最初から独自のモデレーションシステムを実装できる柔軟性を提供する

Mastodonとは異なるサーバーとモデレーションの関係

  • BlueskyのモデレーションはMastodonのようにサーバーに縛られない
  • Mastodonの defederation は、モデレーション問題をサーバー接続の遮断で扱う方式だが、Blueskyには別のレイヤーがあるため、同じ方式の関連性は低い
  • サーバー運営者はホスティングするコンテンツのルールを定められ、コミュニティがモデレーションの好みに合わせて自己組織化するにはブロックリストとモデレーションサービスが使われる
  • Blueskyのフェデレーション構造の違いは、フェデレーションに関する記事 でさらに詳しく扱われている
  • モデレーションサービスはフィードジェネレーターのように、コミュニティ運営プロジェクトとして始まる可能性が高い
  • Blueskyには4万件以上のカスタムフィードがあり、モデレーションサービスも個人や組織の独立プロジェクトとして運営できる
  • 有料購読者を受け入れるモデレーションサービスも可能

関連記事

1件のコメント

 
GN⁺ 2024-03-14
Hacker News の意見

  • この機能を実装したチームにいるので、質問に答えられる。簡単に技術的に説明すると、全体としては投稿に Labels というメタデータを発行するシステムである。
    アプリケーションクライアントがリクエストヘッダーで使いたいラベリングサービスを指定すると、そのラベルがレスポンスに付与され、クライアントがそれを解釈できる。
    これは オープンなシステム なので、クライアントはどのラベラーを使うか選べる。Bluesky クライアントは Bluesky のモデレーションをハードコードしているが、他のクライアントは別のデフォルトラベラーを選択できる。ユーザーはコミュニティラベラーを追加でき、モデレーションの大部分はその層で処理しようとしている。違法コンテンツやネットワーク悪用については、サービス層、つまりリレーで実行する「インフラレベルの削除」もある。
    アプリ内では、追加フィルターを受け取るために購読できる特殊なアカウントのように見える。ラベルは中立的にも否定的にもなり得るため、実質的にユーザーバッジのようにも動作できる。今後は、より豊富なメタデータと動作をサポートするよう拡張し、コミュニティノートやラベルベースの返信制限のような機能にも使えるようにする予定だ。

    • 良いアプローチに聞こえる。以前からこうした 選択式・差し替え可能な信頼ベースのモデレーション を何度も考えたことはあるが、現実に比較的シンプルな形で実装されたものを見るのは今回が初めてのように思う。
      先行事例を知っているか気になる。最も近いのはむしろこのサイトだが、ここは opt-out ではあるものの差し替え可能ではない。あるいは、サーバー管理者の観点でのメールスパムフィルターあたりかもしれない。
    • Bluesky はゆるく追っていて、ブログ記事も少し読んだが、深く掘り下げてはいない。インフラレベルの削除 が何なのか、もう少し説明してもらえるか気になる。
      これがサードパーティクライアントにも影響するのか、中央集権化のポイントでありモデレーションの乱用に開かれた部分なのかを知りたい。あるいは、Bluesky がプロトコルとして動作していて、望んだとしても自分たちのクライアントの外では何かを取り下げることができない構造なのかを理解しようとしている。
    • ここがモデレーションにかなり反感の強い雰囲気だというのは分かっているが、少しだけ支持意見を添えたい。この記事と説明はとても印象的で、Reddit の平凡なシステムや、今 Twitter で起きていることよりもはるかに大きな前進に見える。
      特に Steam Curator 式の機能をコンテンツモデレーションに適用したのは本当に適切で、なぜもっと早く思いつかなかったのかと思うほどだ。
    • ある法域では違法で、別の場所では合法なコンテンツをどう扱うのか気になる。California のようなデフォルトの法域を前提にするのか知りたい。
    • 本当に、本当に 退屈なウェブサイト を作る、とても良い方法のように見える。
      読み返してみると、あまり役に立つ HN 的なコメントではなさそうなので付け加えると、インターネットの最も有用な点の一つは、普段なら出会ったり考えたりしない場所やアイデアを探索できることにあると思う。北極へ行くために木造船に乗るように、インターネットを歩き回ることにもかなりの危険は伴うが、個人的な成長や変化の可能性を考えれば、そのリスクは引き受ける価値があるかもしれない。
      こうしたインターネット像はやや古風だ。今のインターネットはほとんど娯楽に近く、Bluesky も TikTok や Instagram のように、スマートフォン画面に視線を釘付けにするために存在している。Bluesky は少し知的なほうではあるが、本当に少しだけだ。
      人は普通、フラストレーションを感じさせるものに楽しさを覚えないので、Bluesky のような娯楽企業がコンテンツモデレーションに執着し、ユーザーに楽しいコンテンツだけが届くようにしようとするのは理解できる。そういう意味でラベリングは、映画のレイティングのように、それが自分に適しているかを消費者に知らせるうえで有用に見える。
      だから Bluesky にとっては素晴らしい。しかし私は丁重に参加を辞退し、目的の違うプラットフォームを使うことにする。

  • このアプローチの利点は多く見えるが、一点だけ懐疑的だ。
    記事では何度も 文化別モデレーション に触れているが、サイト全体のモデレーションが前提とするデフォルトの文化とは何なのか気になる。米国なのか？
    Bluesky が費用を負担するモデレーションチームがすべての言語を担当するのか、それとも英語の投稿だけを担当するのかも気になる。「公式サポート」がない文化圏に属するとはどういう意味になるのかも問題だ。

  • Mastodon のサーバーシステムと非常によく似ているように見える。自分のポリシーに合ったサーバーに参加する構造と同じだが、こちらではサーバー移行がはるかに簡単。とても良いアイデアだ

    • 実際にはかなり違う。Mastodon ではインスタンス/サーバーがすべてを担うが、こちらでは各部分が分離されていて、通常は各要素を複数使える
      Bluesky には DID によるアイデンティティがある。web DID を使うとアイデンティティがドメイン名に結び付けられ、Bluesky のインフラにはまったく接続されない。完全に自分の手元にあるが、名前やドメインを簡単に変えるのは難しい。逆に plc DID を使うと、現時点では中央集権的なインフラを使うが、名前やドメインを簡単に変えられる。この場合、アカウントごとに DID を 1 つ持つことになる
      投稿内容を保管する PDS、または「データストア」がある。自分でホスティングすることも、Bsky の中央 PDS を使うこともでき、アカウントごとに 1 つだけ使用できる
      すべての PDS/データストアの投稿を集めるインデクサーがあり、これが Bluesky の言う「firehose」を作る。トラフィックをルーティングしてキャッシュするリレーもある
      実際のアプリケーション、たとえば Bluesky を提供するアプリビューがあり、ページがどう見えるかを決める「アルゴリズム」を提供するフィードサービスもある。こうしたフィードは好きなだけ購読できるし、自分でホスティングすることもできる
      最後に、ここで扱っているラベラーがある。Mastodon と違って、複数のラベラーを同時にフォローできる。ラベラーは自動コンテンツ警告や手動モデレーションを提供できる。重要なのは、結局ラベラーが何をしようと、それを警告/ぼかし表示にとどめるのか、実際にコンテンツを隠すのかをユーザーが制御するという点だ
      Mastodon ではすべてが 1 つのサーバー/インスタンスに結び付いており、モデレーションへの制御は「自分でインスタンスを運営してすべてのモデレーション作業を引き受ける」か「監視手段なしに他のインスタンスに依存する」かに行き着く
      Mastodon のアプローチが当時筋が通らなかったという意味ではないが、述べたように Bluesky 方式のほうがはるかに妥当で、ユーザーが選択肢の間を移動するのもはるかに簡単だ
    • 理論上はそうだが、私の理解では Mastodon ではサーバー間ブロックが蔓延している。管理者は、非難されている特定サーバーの投稿を読むことさえ許可しないと決められる
      RSS のようにクライアント側で集めるのではなく、サーバー側で集約するためだ。また、特定のサーバーをブロックしないというだけで、自分のサーバーがブラックリスト入りすることもある。そのためネットワークというより、互いに孤立した複数のネットワークのうち 1 つを排他的に選ばなければならないグラフに近くなる
    • まずまずの比喩ではあるが、兄弟コメントが言うように動作の仕組みはかなり違う
    • いちばん良い点は、ユーザーがサーバーではなくサービスを購読することだ

  • これが正しいやり方であるべきだ。自分が見たくないものを投稿する人はブロックできるし、そういう人たちの集団もブロックできる。逆に自分が見たい人や集団は識別して、自分のタイムラインに通せる

    • これは完全な意味での「好きに選べる」モデレーションではない、という点は指摘しておく必要がある。たとえば同意年齢を下げようと主張する人は、依然として禁止されるだろう: https://bsky.social/about/support/community-guidelines
      ただし理論上は自分のクライアントを作れるようにも思えるが、実際にどう動くのかはよく分からない。おそらく Bluesky が嫌うコンテンツは BlueSky サーバーには保存されないのだと思う
    • コンテンツモデレーションの興味深い部分は、コミュニティが悪い出来事について語れるようにしなければならない点だ
      自分たちに起きた悪いことを語ったという理由で、そのコミュニティが禁止されてはいけない。そういうシナリオがどう扱われるのか気になる
      おそらくコンテンツをグレー表示にするだけかもしれない。ではユーザーはどうなるのか。そのユーザーのコンテンツもグレー表示されるのか気になる

  • 本当に素晴らしいアイデアだ。例に挙がっている Spider Shield が気に入った。ネタバレや当面読みたくない話題など、モデレーションに隣接するあらゆる用途に使われることを期待している

  • 正直かなり優れている。人を再帰的にブロックしたり、Twitter Blue ユーザーをブロックしたり、特定のサブレディットに投稿した人をブロックしたり、masstagger のように表示してくれていたブラウザー拡張の、公式で拡張可能なバージョンだ
    プログラム可能なブロックリストを第一級機能にするのは非常に良い
    https://www.techdirt.com/2022/11/02/hey-elon-let-me-help-you... のようなドラマから救ってくれるとは思わないが、それでも歓迎すべき機能だ。人気のあるサードパーティ製ブロックリストに載った人たちがどう反応するのか興味深い

    • 「特定のサブレディットに投稿した人をブロック」は慎重に扱うべきだ。誰かが /r/conservative や /r/liberal に投稿したからといって、必ずしもその傾向だという意味ではない
    • これが本当に悪いアイデアである理由を示す良い論拠だ
    • 再帰的ブロックが何なのか気になる
    • そうした拡張機能の名前をいくつか教えてもらえるだろうか。似たような機能を考えていて、似たようなサービス/拡張などを作るか検討しながら、昔少し実験もしていた。すでに何があるのか知りたい

  • これはインセンティブを適切に整えているのだろうか？
    私はそうは思わない。ユーザーがモデレーションを選んだとしても、いつでも一時的にモデレーション機能をオフにして、フィルターなしの画面を見られるべきだ。いつでも眼鏡を外せるべきだ。そうでなければ、イデオロギー的な文脈でモデレーションが検閲に変質し得るし、BlueSkyは世論を誘導する人たちの味方になってしまう
    ユーザーが眼鏡を外せるとしても、モデレーションはコンテンツ制作を抑え込む可能性が高い。誰も聞いていないなら、なぜ話すのか？ しかしユーザーがモデレーションをオフにする実験をできるようにすれば、各人はモデレーションが役に立っているのか検閲なのかを常に判断できる。そうなればモデレーションは容易に発見・測定できるので、モデレーターにも合理的に行動するよう圧力がかかる
    これは集団にとっても良いと思う。集団全体のモデレーションルールが確定的で、ユーザーがその先を覗けないなら、モデレーション自体が強力な地位になるため、世論を管理しようとする人たちがいつもそうするように権力争いを始める。逆にモデレーションが常に同意に基づくことで弱められるなら、世論統制をめぐるゲームは減るだろう
    集団はメンバー資格を通じて自らを管理するほうがよい。入るのは難しくてもよいが、いったん入れば、モデレーションに関係なく全員に自分の声が届くべきだ。弱いモデレーションは集団のメンバー資格の価値を高め、互いを信頼する助けになる加入条件を設けやすくする。そうした条件を観察可能で一貫して適用するのは、また別の問題だ

  • 率直に言うと、BlueSkyのアイデアは本当に好きで、初期ユーザーでもあった。だが先週、Trust & Safetyチームを発表した、あるいは少なくとも新しいリーダーを採用したというニュースを見て、アプリを削除した
    私の頭の中では、そして多くの人にとって、Trust and Safetyは検閲の同義語だ
    今は検閲が自由にとって巨大なリスクになる時代だ。自由な社会は議論できなければならず、人々が何を議論できるかの限界を定める知恵が自分にあると判断する人や組織は、自由への脅威だ
    BlueSkyが別の道を選ぶことを期待していたが、もうそうではないようだ

    • 投稿を正しく理解しているなら、そのチームがモデレーションしないフィードを受け取れるはずだ。なので何が不満なのかよく分からない。他の人たちが望めばモデレーション機能を受け取れることが問題だということ？

  • BlueskyブログにRSSフィードがあるのか気になる

  • 極度に分断された社会が、設定可能なエコーチェンバーのおかげで大きな恩恵を受けるわけだ

    • 本当に役に立つと思う。全員を同じ部屋に閉じ込めるのではなく、それぞれに自分の空間を持たせれば、互いに煩わしくしなくて済む。優れた地域主義というアイデアが、いつから「エコーチェンバー」という蔑称になったのか理解できない
      物理世界と違って土地の制約もなく、サイバー空間は無限だ。互いに我慢できない人たちが、なぜそんなに互いの顔の前に押しかけたがるのか分からない
    • その代わりに何を持つべきなのか？ 皆が読めるものを統制する善意の独裁者か？
    • まだ明らかに正しく、完成されていて、広く訴求力のあるソーシャルネットワーク設計は出てきていない。Twitterのアプローチはしばらくはある程度機能していたが、今では完全に壊れているのは明らかだ
      インターネットフォーラムを少しでも使ったことがある人なら、広い意味で何らかのモデレーションは必要だと分かる。個人的には、日常的なトランスフォビアにさらされるソーシャルネットワークは使わない。「両方の立場」を聞きたくないからではなく、すでに可能な限り確固として反対する立場を持っており、これ以上聞く必要がないからだ。一般的な解はないのかもしれないが、Blueskyの試みは高く評価している
    • これはノッチフィルターに近いように見えるし、うまく機能することを願っている。少なくとも何かを試しており、大規模な実験は、失敗を通じてであっても、この問題を理解する助けになり得る