韓国のフォーラム／コミュニティは今後、すべての画像をAI検閲ツールで検査しなければならない
(discuss.privacyguides.net)- 電気通信事業法の改正により、韓国のインターネットコミュニティやフォーラム運営者に対し、ユーザーがアップロードするすべての画像と動画をAIで検査することが求められる
- AIモデル実行用のハードウェアは政府が提供せず、ウェブサイト運営者がデータセンター級のNvidia GPUを自ら購入しなければならないため、小規模事業者やフォーラムに財政的圧力を与えることになる見込み
- ウェブサイトは必要なハードウェアとソフトウェア機能を7月1日から直ちに実装しなければならない
- 国内インターネットコミュニティ画像のAI事前検閲政策は、2021年に施行された「n番部屋防止法」電気通信事業法改正案と結びついており、社会的セーフティネットの必要性と表現の自由の侵害の間で世論が分かれている
- 政策執行は、運営者の費用負担、短い準備期間、機材調達の問題、表現の自由をめぐる論争を同時に引き起こしている
規制変更と適用日程
- 電気通信事業法の規制変更により、韓国政府はインターネットコミュニティやフォーラム運営者に対し、ウェブサイトに投稿されるユーザーアップロード画像と動画をAIで検査するよう求めている
- ウェブサイトは7月1日から必要なハードウェアとソフトウェア機能を直ちに実装しなければならない
- 投稿者は、この施行時点が投稿日の翌月に当たると指摘している
ハードウェアと費用負担
- AIモデル実行に必要なハードウェアは政府が提供しない
- ウェブサイト運営者がデータセンター級のNvidia GPUを自ら購入しなければならない構図
- この要件が小規模事業者やフォーラムに財政的圧力を与える点が問題とされている
関連報道とコミュニティ運営者の反応
- 関連記事 画像を上げても事前検閲？「賛否対立」の背景とは は、国内インターネットコミュニティに投稿する画像までAIで事前検閲する政策が具体化しており、社会的セーフティネットの必要性と表現の自由の侵害の間で世論が分かれていると伝えている
- 当該報道は、「n番部屋防止法」と呼ばれた電気通信事業法改正案が2021年に施行されたと明らかにしている
- Ruliweb運営者の投稿 には、6か月の猶予期間を予想していた参加者もいたが、機材調達は不可能だという話に対し、政府側が機材のことは分からない、法の基準は7月からなので対応しなければならないと答えたという内容が含まれている
主要な争点
- ユーザーアップロード画像と動画のAI検査は、社会的セーフティネットの必要性と表現の自由の侵害をめぐる議論が衝突する政策である
- 政府が機材を提供しない条件のまま即時適用の日程が示されたことで、運営コストと機材確保がコミュニティ・フォーラム運営者の直接負担として残る構図になっている
4件のコメント
かなり使われていたとしても、実際には海外を拠点とするコミュニティにはこれを強制できないので、結局は国内産のコミュニティだけが締め付けられることになる、とも言われています
Hacker News の投稿を見ると、ディープフェイクの被害者のかなりの数が韓国の芸能人で、実際の制作は中国や東南アジア系の犯罪勢力によるものだろうに、あえて国内サイトを検閲するのは無駄なことではありますね
ついにこの話題が上がってきましたね
Hacker Newsの意見
AI検閲ツールを使うには特定業者のソリューションを購入しなければならず、締め切りも実質1か月も残っていないのが問題だ
韓国には政府契約で延命している ITゾンビ企業 が多く、特別珍しい話ではなく、実際にはローカルCMSの構造が根付いている
英語に弱い韓国のプログラマーたちはそのローカルCMSに依存するようになり、その結果としてプログラミング能力も弱くなる構造が生まれる
韓国は高学歴者の比率が高い国であるにもかかわらず、突出したプログラマーが相対的に少ない理由はここにあると思う
韓国は世界で初めてインターネット検閲法を施行した国であり、左右どちらの政権にも検閲の歴史的記録がある
ただし、こうした検閲システムには国家IT契約や雇用を生み出す面もあり、複雑な問題でもある
さらに具体的に言えば、国内の掲示板・フォーラムプラットフォームの大半が特定の商用CMSに強く縛られており、政府関連プロジェクトではそのCMSが事実上求められることが多い
開発者たちは英語力とグローバルなオープンソース代替案の経験が不足しているため、その生態系に閉じ込められ、基本的なAI検閲機能さえ当該業者の独占モジュールに依存することになる
1か月にも満たない切迫した期限で購入が強制されれば、より良く、より安く、より透明な選択肢を検討する余地はなくなる
結局、この構造そのものが、業者依存、弱い技術力、本当のイノベーションではなく表面的な準拠という循環を生み続けている
実際の問題があり、その後に性急でおそらく劣ったNIH的な解決策が出てきて、単一の実装を全員に強制し、その後何年にもわたる技術停滞が続くという組み合わせがまったく同じだ
今回の義務化が、SEEDのように韓国のWebを時代遅れのInternet Explorerと安全でないActiveXコントロールに長く縛りつけた状況にまで拡大しないことを願う
https://archive.is/ermII
これによって、韓国人向けで、他国にホスティングされる より自由なフォーラム の市場が生まれるのだろうか
文化的な文脈として抜け落ちている点がある。韓国ではディープフェイク、同意のない性的コンテンツ、個人画像の悪用が蔓延しており、ほぼ常時発生している問題だ。
韓国には良い点も多いが、男性・女性・子どもが絡む性的環境はかなりひどい。
この問題の深刻さを知らないまま西洋的な考え方だけで判断するのは難しく、仕組みをどう見るにせよ、その背後の問題は非常に現実的だ。
小さなフォーラムにAIフィルターを付けるという提案は奇妙で、おそらく不器用に見えるだろうが、韓国は実際の問題に直面すると、たいていまず行動し、とにかくやってみようという方向に傾く。
そのため妙な結果も出るが、ダイナミックな問題解決も可能になる。
ここで先回りして防ぎたいのは、この件をいわゆる「普遍的」価値で測る態度だ。
フランス革命や啓蒙主義的な普遍的権利の概念は、実際には普遍というより一つの文化圏の論理であり、その内部では首尾一貫していても、皆のデフォルトであるかのように輸出されてきた。
個人的にはそうした価値観は好きだが、別の自己完結した論理も存在し、韓国の論理もその一つだと思う。
ありきたりに聞こえるかもしれないが、韓国は調和と集団に依拠し、西洋は個人に依拠しており、どちらも逸脱を生むが、違うのは種類だけだ。
初めて韓国に来たときは速度違反取締カメラやCCTVが多すぎて狂っていると思ったが、数年後には慣れたというより、概ね機能している折衷案だと見るようになり、むしろ高く評価するようになった。
韓国は、時おり装甲車が現れるような強権的執行よりも、親しみやすく見える軽い警察力と大量の自動取締りを好む。
これは設計上の選択であって、ディストピアへ滑り落ちる兆候ではない。
要するに、心を開いて、ある文化圏の価値観を無批判に皆の尺度として適用しないようにしようということだ。
仕組みはいくらでも批判してよいが、一つの文化の価値観を他のすべてを測る基準にしてはならない。
個人的にはこの政策は的外れな試みだと思うが、ディストピアへの滑り坂だとは思わない。
ただ韓国ではよくある火曜日に近い。
ただし、韓国のインターネット政策を「軽い」と分類することには同意しがたい。
韓国のインターネット政策は、たいていSEEDや今回の新モデルのような非常に特定の技術を義務化し、韓国向けに細かく調整された規定を緻密に組み合わせることで、客観的に劣っていて非常に安全でないソフトウェアの独占・寡占を生み出している。
これは軽い政策ではない。
年齢確認を強制し、西側では政府の行き過ぎの代表例として批判される英国のOnline Safety Actでさえ、韓国式の政策よりずっと軽い。
特定のソフトウェアやハードウェア、暗号やプロトコルを義務化しておらず、許容される年齢確認手法の一覧も明示的に非限定的だ。
https://www.ofcom.org.uk/siteassets/resources/documents/onli...
ほとんどのデジタル政策で本当に軽い例は日本だと思う。
要件は曖昧で、例示は非限定的で、例外が多く、「技術的に面倒ならXを実装しなくてもよい」という感じで、手動でも完全自動でも処理できる。
日本が常に良いという意味ではなく、セキュリティ要件などでは緩すぎることもあるが、客観的には軽い政策だ。
韓国のデジタル政策は、どんな定義でも軽くない。
リベンジポルノの拡散者を捕まえるために戦車を送らないことを軽いと呼ぶならそれでもいいが、そんな国がどこにあるのか。
政策の重さを制限性で判断するなら、韓国と競える国はほとんどないだろう。
2024年には、誰かが学校ディープフェイク通報マップを作成し、全国的な話題になったこともあった。: https://www.koreatimes.co.kr/southkorea/society/20240830/dee...
本当にひどい問題があるのに、インターネットを理解していないように見える人たちがひどい解決策を出してくるという点で、年齢確認と非常によく似ている。
モンキーズ・ポーが折れ曲がる感じだ。
これを非技術的な状況に置き換えて想像してみるのはよい練習になる。
バー、レストラン、書店、アートスタジオを運営したり、中規模から大規模で人が集まること自体が、政府指定の検閲官が聞き耳を立てて人々を黙らせる権限を持っていなければ違法になるようなものだ。
それでもなお「調和的」に見えるだろうか。
韓国でリベンジポルノ問題がないとは言えないし、それが基本的に韓国政府の論理でもある。
しかし問題は、リベンジポルノの主な供給源が実際には韓国人が利用する海外コミュニティにあることだ。
もちろん、韓国最大級の国内コミュニティもフィルタリング問題を抱えており、テロ予告やレイプ事件のような出来事もあった。
しかしそれはDCinsideがあまりにも巨大だからだ。
実際に大衆を大きく憤らせた事件は、Twitter(X)とTelegramで始まった。
では、この問題の中心的な当事者たちが検閲対象になるのか。そうではない。
検閲は本当に前述の問題をなくすのか。それとも、より暗く、より悪い形にするだけなのか。
個人的には典型的な東アジア的思考を持っているので、自由に対するある程度の制限は必要だと信じている。
それでも正直、これはインターネット戒厳令に見える。
CUDAを強制し、Ubuntu 18.04を案内しているのはおかしい。
ちなみにUbuntu 18.04は2023年にサポート終了している。
単一のQuadro GPUサーバーが高トラフィックをリアルタイムで処理できると本気で思っているのか。
裏で話がついていたか、そうでなければ深刻な無能にしか見えない。
伝統的メディアはこの問題を十分に扱っていない。
いつも怒っていてインターネットに張り付いている人たち以外、誰も気にしていないように見える。
この国の自由なインターネットには大きな期待はしていなかったが、想像していたよりさらに悪化している。
未来は、実在の人物だと確認された人だけを招待するセルフホスト型のプライベートコミュニティになるだろうし、おそらくオフラインで本人確認が行われるようになる
正直、もはや公共インターネットが死んで、人々が地域のより小規模な集まりに戻っても構わないと思っている
ビッグテックの支配もなく、nostrみたいな暗号資産のたわごともなく、Mastodonのようにひどい管理者が投稿を消すこともできない
できるのは自分のサーバーでブロックすることだけだ
tangledがコードに対してやっているように、その上に信頼の網や検証システムを作ることもできる
「この人は私が保証する」みたいな仕組みか？
韓国のインターネットフォーラムは、Redditのような現代的なアプリよりもHacker Newsのような古いサイトに見える
UI/UXやWeb技術の使い方がそうだし、それなのに訪問者が人口の20%規模だというのは驚きだ
韓国語のせいで英語圏アプリより古いフォーラム形式にとどまったのか気になる
個人的には、そのやり方のほうがずっと好きだ
韓国が北の隣国のやり方を真似しているように見える
これは韓国から輸出されるソフトウェアにも影響するのだろうか？
SamsungのスマホにAI検閲ツールが標準搭載されたら、人気が上がるとは思えない
AppleがiPhoneでやろうとした時も大きな反発を受けた
興味本位で使ってみたが、画像編集をかなり「不適切」として、特に暴力表現で拒否してきた
基盤はすでに入っている
Nth Room事件が、こうした強い承認ムードへの道を開いたのかもしれない
https://en.wikipedia.org/wiki/Nth_Room_case
韓国は、可能なほぼすべての面で技術的に立ち遅れている
長い間、政府や銀行のサービスを利用するにはWindows PCが必要で、多くのサービスでは今でもそうだ
安っぽいWindowsノートPCへの依存のせいで、カフェのような場所でノートPCを使う人が外付けマウスを持ち歩いているのをよく見かける
事実上の標準文書形式は、ひどいHancom形式だ
韓国のニュースを見ると滑稽で、公共の場の映像を流すたびに画面の80%がぼかされている
見る意味がほとんどないように思える
APIとAPIドキュメントは本当にひどく設計・記述されていて、冗談みたいなレベルだ
外部の地図プロバイダーは昨年まで市場から事実上締め出されていた
何かに登録しようとすると、文字通りいつも電話番号が必要になる
ほかにも例はいくらでもあるが、今すぐ思い浮かぶものだけ挙げた
ダイナミズムが息をする余地がまったくない
韓国の問題は政治の問題ではなく、純粋に寡占で起きていることだ
Twitterでは韓国をテック未来主義の国のように想像したがるが、現実にはスタートアップ文化はひどく、ベンチャーキャピタルのエコシステムもなく、大企業がすべてのルールを書いている
これは小国の特性から来ている
実際、韓国ではTwitter(X)は狂った人たちだけが使う場所のように見下されていて、イメージも良くない
全体としては、財閥中心の家族経営的な国家運営システムの上に、大企業の寡占が重なっている構造だ
その中では、積極投資よりも業者契約で生き延びることが問題の中心になる
個人的にはこういう文化が嫌いなので、アメリカで仕事を探そうと思っている
3か月の間、週84時間働いて800万ウォンも稼げないのはうんざりだ
外部の地図プロバイダーが締め出されていたのは、文字通り韓国在住者全員にとってはポジティブで、Googleの株主と、ローカル地図アプリをダウンロードしなければならなかった少数の観光客にとってだけネガティブだった
国民の利益になることを政治家がやったというだけの話で、何が問題なのか
何かに登録するときに電話番号が必要なのも、実際には利点が多い
HNではこれを認めるとあまり受けが良くないが、実際には擁護可能なトレードオフだ
同意しないのは構わないが、明らかに悪いことのように装うのは無知だ
Hancom形式は2026年時点では政府機関を相手にするときを除けば誰も使っていない
韓国全体の事実上の標準だと言うのは、過度な一般化だ