Python/Pandas講座を広告したらMeta広告を永久禁止された講師
(lerner.co.il)- Python/Pandas専業講師のReuven Lerner氏は、過去にFacebookで講座の広告を出したところMetaの広告アカウントが停止され、異議申し立て後にMetaプラットフォームで永久に広告禁止の状態になった
- 停止理由はMetaの広告ルール違反という案内だけで、どのルールに違反したのかについての具体的な説明は見当たらなかった
- LinkedInの知人は、MetaがPython教育広告を生きた動物の取引と誤認した事例があったと伝えており、PythonとPandasがそれぞれプログラミング言語とデータ分析ライブラリである点が問題の核心となった
- Metaで働いていた、または働いている知人3人が確認を試みたが、停止から1年以上が過ぎ、180日間のデータ保持ポリシーのため証拠が消えており、復旧する方法がないとの回答を受けた
- 当初の判断と異議申し立てがいずれもAIで処理されたとみられ、今後講座広告を再開する場合でも、MetaではなくGoogleのような別の広告チャネルに費用を使うことになった
Python/Pandas講座の広告がMetaの永久禁止につながった経緯
- Reuven Lerner氏はPythonとPandasを教える専業講師で、世界中の企業で対面研修を行い、オンライン製品も運営している
- オンライン製品には動画講座と週刊Pandas演習の有料ニュースレターが含まれる
- AppleやCiscoといった企業で講義した実績がある
- 数年前にFacebookで一部製品の広告を出したが大きな成果はなく、その後、広告アカウントは事実上放置されていた
- 約1年前に広告ページへ再び入ったところ、Metaの広告ルール違反によりアカウントが停止されたという案内を確認した
- 数か月前に広告管理ページを再度確認したが、依然として広告が許可されない状態だった
- どのルールに違反したのかは表示されていなかった
- 本人はPythonとPandasの講座以外は広告していないと述べている
- 「Click here to appeal」ボタンから異議申し立てを行ったが、約30分後、Metaはポリシー違反が確定し、Metaプラットフォームで永久に広告禁止となる旨のメールを送った
Pythonを動物取引と誤認した可能性と復旧失敗
- LinkedInの知人は、自分もMetaプラットフォームでPython教育コースを広告して問題になったことがあり、Metaがそれを生きた動物の取引と見なしたと伝えた
- Lerner氏は、MetaのAIシステムがPythonとPandasを技術用語ではなく動物として解釈し、禁止の判断を下したと見ている
- Pythonはプログラミング言語である
- PandasはPythonのデータ分析ライブラリである
- 異議申し立ても人間ではなくAIが処理し、同様の判断を下したと見ている
- Metaで働いていた、または働いている知人3人が確認を試みたが、復旧にはつながらなかった
- 1人目の知人は、Metaの180日間のデータ保持ポリシーのため関連証拠が消えており、アカウント停止から1年以上が過ぎているため復旧できないと確認した
- 2人目と3人目の知人も、さらに進んだ結果を出すことはできなかった
- Lerner氏は、MetaのAIが大きなミスを犯し、当初の判断と異議申し立てがいずれもAIで処理された点を「かなり馬鹿げている」と見ている
- 一定期間内に対応しなかったことを理由に禁止を取り消せない状態となり、今後広告を再開する際、Metaは広告費を受け取れず、Googleのような会社が受け取ることになると述べている
1件のコメント
Hacker News のコメント
AI のような不透明な手続きが判断を下すと本当に苛立たしい。
日本で LLC に相当する合同会社を設立したところ、以前は個人事業主として問題なく使っていた緑茶のサブスクリプション事業 https://tomotcha.com が Stripe に拒否された。
拒否された当時も個人事業主の Stripe アカウントは使い続けていたので、本当に規約違反なら人間が確認してそのアカウントから止めたはずで、AI が拒否した可能性が高そうに見える。
金融規制が厳しく、決済事業者が理由を詳しく伝えられない場合があることは理解しているが、結局しばらくは PayPal に縛られることになった。
商品構成が変わってきているので、今なら Stripe の規約に合うかもしれず、Stripe アカウント開設を再度試してよいのか気になっている。
例えば「自動化された AI システムが、当社にとってあなたと取引することは利益にならないと判断しました。スパム回避の手がかりになり得るため、理由は説明できません。ただし 15 ドルを支払えば人間が審査し、合法的な販売の証拠・登記会社情報などを提出できます。拒否されても返金はなく、人間による審査は規約の境界を押し広げる機会ではありません」のように案内すればよい。
esketamine も、いかなる医薬品も販売していないと説明しても、Stripe で supposedly 人間と話した結果は変わらない。
Web サイトを含め、どこにも販売しているとは書いておらず、患者の支払いは保険で受けているため Stripe では処理していない。
返ってくる答えは「医薬品を販売しているためアカウントを停止した」か「提供された情報を調査中だ」だけで、ミーティングや書類提出の提案は無視される。
Stripe は素晴らしいサービスだが、顧客審査の面では社内で何かが深刻におかしくなっている。
Stripe のサポート体験が良かったとは言えないが、最終的には問題を解決できた。
Stripe は、日本在住の外国人が海外法人を所有している状況を非常に苦手としているようだ。
通常の電話番号から通信会社に電話したら、携帯電話か基地局の問題で通話が切れ、5 回ほど試したところロボット応答が「乱用」だとしてサポート電話の利用を永久にブロックした。
異議申し立てをするにはサポート電話を使う必要があり、Web サイトのロボチャットもすでにブロックされていた。
結局 Facebook ページを探し回って人間が管理していることに期待し、幸い人間の担当者につながってブロックが解除された。
数年前から Facebook には何も投稿せず、愚かな大企業と連絡を取るためのバックアップ手段としてだけアカウントを残している。
いちばん苛立たしいのは、彼らが露骨に嘘をつくことだ。
実際にはアカウントを審査してもいないし、ブロックも永久ではない。
こうした状況では、権限を持つ人にたどり着いた瞬間にブロックが解除されるので、結局すべて Facebook/Meta のコスト・効率・都合の問題だ。
この問題には法律が必要だと思う。
市場にはこうした行動を正す力がないことは明らかで、好むと好まざるとにかかわらず、事実上必須のオンラインサービスから永久にブロックされることは、個人にとって致命的になり得る。
ただ、みんなが耳をふさいで「ビッグテックは独占ではない」と叫ぶので、既存の法律が適用されないだけだ。
実際に競争環境があるなら、恣意的にブロックせず実際のカスタマーサポート人員がいる隣の店へ行けばよい。
ユーザーに人間による審査費用を負担させてもよいのではないか。人間の時間でどれほどかかるのか、20 ドル程度では？
似た事例はいくつもある。
Scunthorpe 問題は古典的な例で、AOL は「cunt」という部分文字列のせいで、ユーザーが出身地を Scunthorpe に設定できないようにした。
Amazon は「guns」のせいで Guns N' Roses 商品の販売を止め、Miranda という名前は「Iran」という部分文字列のせいで銀行送金の問題に遭ったこともある。
一部のゲームは Nasser というニックネームを N-word のように見える「N*er」と表示し、Alexa は今でも「pussycat」を正しく言えない。
保護者向け制御ソフトが URL 内の「anal」をフィルタリングして「analysis」までブロックし、別のソフトはファイル名に「sex」があると削除して「sysext」まで消した。
ある学校ではそのバグのせいでコンピューター室全体が動かなくなり、IT 担当者がソフトウェア互換性を確認せず全 PC を一斉に Windows 10 へアップデートしたことも原因だった。
英国の政治家 Dominic Cummings も Twitter アカウントを作れなかった。
それでもかなり性急なフィルタリングだ。
見直すと、変更後の名前のほうがさらにひどく、笑えると同時に悲しい状況だ。
実際には無害なテーマは見つけられなかったが、検索語を少し変えて遊んでいると、フィルターが捕捉できないポルノを見つけるのは簡単だった。
当然ながら「gun」を含むブルゴーニュワインまでブロックされた。
あまりに急いで適用したため、フィルターすらまともに作れなかったということだ。
Ebay で販売者アカウントを何度も作ろうとしたが、アカウント作成と確認の 2 分後に規約違反でブロックされた。
その時点ではプロフィール写真すら上げておらず、アカウントで何もしていなかった。
その後の手続きも同様で、異議申し立ては「われわれが正しく、あなたは規約に違反し、アカウントはブロックされ、決定は最終です」としか答えないボットが処理する。
潜在的に多額の収益をもたらす顧客のために、組織が人間のカスタマーサポートを雇っていた時代が懐かしい。
最近は広告や販売が少数のプラットフォームに依存することが多く、ボットひとつがいつでも自分の事業や会社を潰せるという点が怖い。
家庭用、モバイル、職場/オフィス、データセンターのどれだったのか？
姓のせいで、Facebook系サービスではWhatsAppを除いて永久にブロックされている
Facebookは私の姓が偽物か、あまりに物議を醸すものだと信じており、パスポートのコピーを送っても考えを変えなかった
実名ポリシーが施行される前の13年ほど前にはFacebookアカウントを持っていたが、遠い昔の知人たちからの友達リクエストを断ったり承認したりするのが気まずくて閉じた
今では、私が住む建物の重要な情報を得られる唯一の窓口がFacebookグループなのに、アクセスできず不便だ
妻はアクセスできるので大きな問題ではないが、Facebookの実名ポリシーを回避するには、むしろ偽名を使う必要がありそうだ
ただ、そうするとFacebook広告や開発者関連機能は使いにくくなるだろう
私ができた唯一の方法は、Meta、当時のFacebookに採用されたことだった。オンボーディングにアカウントが必要だった
私が参加している写真中心のグループいくつかでは、投稿の半分以上が偽物、あるいは時に侮辱的な名前を使う人たちから来ており、何度も通報されていると分かっていても何の措置もない
悪いポリシーも、一貫性なく執行すればたいていさらに悪くなる
「Metaは私の金を受け取れず、広告部門に少なくとも何人かは人間を置いているように見えるGoogleのような会社が受け取ることになる」というのは、結局のところ私の事業を受け入れてくれる会社と取引するという意味を、遠回しに言ったものだ
Googleも広告部門だけでなく、アカウント全体について完全自動化されたブロックを行うことで有名だ
以前は考えたことがなかったが、時間がたつほど広告品質が退化しているように感じた理由を説明できるかもしれない
Googleにも自動化システムは多く、人々が過去に大いに苛立っていたことも知っている
それでも、Googleの自動化システムに阻まれた友人たちは、最終的に問題を直せる人を見つけることができた
Metaには顧客向けにそのような経路がないように見えるし、状況がばかげていると同意し、私を保証してくれた社員3人でも決定を覆せなかった
ソフトウェアはMacでしか動作しなかったが、GoogleはAppleやMacといった単語が商標だとして使用を認めなかった
「Mac向けウィジェット計数ソフトウェア」のように文脈上の説明として使ったのであって、「正規のAppleソフトウェア」のような表現ではなかった
異議申し立てをしたが却下され、それ以上の手段はなかったと記憶している
結局、Mac専用ソフトウェアを宣伝する手段は事実上なかった
Facebook/Metaで似たような問題を経験し、結局広告サービスを買うのを諦めた
解決策は法律で、1) ユーザーがアルゴリズムだけを相手にしているときはその事実を知らせるようにし、2) 定められた時間内に人間と連絡できるよう強制することだと思う
少なくともEUが近くこうした法律を作ることを望む
補償もないAIとのやり取りで膨大な時間を浪費するのも問題だが、さらに心配なのは、AI「カスタマーサポート」が実質的な仕事を何もできないか、逆にユーザー設定・請求などに重大な変更権限を持つ状況だ
前者は会社が顧客を欺いていることであり、後者は非常に悪い結果を招き得る
ただしMetaにはあまり影響がないように見える
Meta、Google、AmazonのようにカスタマーサポートをAIだけに頼る企業は、倒産するほどの罰金を科されるべきだ
こうした「不運な出来事」を医療、金融、保険、治安、教育、企業採用などに広げて考えると、自動化と「AI」がコストを下げ効率を高めるという名目の下で、私たちがどんな社会に向かっているのか考えさせられる
技術で人間、ここではMeta社員が情報をより効率的に処理できるよう助けることは問題ない
しかし、他人に大小を問わず影響を与える事案で人間を手続きから外すことは、破滅的な方向だ
たまたま今日のFinancial Timesのトップにも「MetaのYann LeCunが拙速なAI規制に反対する」という記事が載っている
それでもAI検閲を規制し続けないなら、問題はさらに大きくなる
https://erinkissane.com/meta-in-myanmar-part-i-the-setup
未来へようこそ
近いうちに、インターネット上で企業や機関とやり取りしなければならない大半の人に、こうしたくだらないことがほぼ毎日のように起きるだろう
高度に自動化され不透明な手続き、小さなシグナルにもすぐブロックするロジック、人間には決して届かない審査経路が日常化する
自動化を生き残った人間たちは、顧客と話す暇もなくアルゴリズムに餌を与えるのに忙しすぎるからだ
ほとんどの人は政府と争うリソースがないので、彼らは常に品質より量を重視してきた
強欲と無知に導かれた「AI」は、西側諸国のいくつかの政府サービスを台無しにし、崩壊させる方向へ進む段階だと思う
システムを探索する知識があるか、求められるプロトコルでインターフェースする資格がある人だけが、結果を得られる望みを持てる
超巨大企業は今やその下の段階に降りてきて、上位の権力者の習慣はまねるが責任は負わない
15年以上前の車でも、事故車でない限り物理ボタンが動かないのを見たことがない
一方、プレミアム価格を取るプレミアム企業は実際の人間が対応する
より遅いだろうが、共感と標準外の解決策を期待できる余地はある
このような場合の唯一の解決策は、Meta だけでなく FAANG 系全体に対して、少額訴訟や独立した仲裁手続きを設けることかもしれない。
ビッグテックの社員が裁判官や仲裁人の前で、「システムがユーザーを自動的にブロックし、異議申し立ても自動的に却下しました。証拠とサポートデータはすべて削除されたため、なぜそうなったのか知る方法はありません」と言わなければならない状況を想像すればよい。
どのような形の仲裁や法的審査であっても、このような回答は直ちにテック大手側の敗訴につながるだろう。
一般的には、企業が誰と取引するかを選ぶ権利は支持するが、ある時点で企業が準独占的な立場に立ち、市場アクセスの門番になるなら、こうした決定には合理的な不服申し立ての経路が必要になる。
EU の Digital Markets Act における「ビジネスユーザーがエンドユーザーにアクセスできるよう認める」といった義務が関係する可能性があるが、こうした法律に対応して各社の行動が変わるかどうかは見守る必要がある。