- 統合失調症を患う女性がスマート冷蔵庫の広告機能を幻覚として誤認し、自ら入院した事案が発生
- 冷蔵庫が音声案内とパーソナライズ広告を表示したため、これを自分の症状と誤解したとされる
- 家族は機器設定と個人情報保護の問題を確認するため、法律相談を求めた
- オンラインコミュニティではスマート家電の過度な自動化と精神健康への影響について議論が続いている
- AI搭載家電のユーザー体験設計と安全性が社会的関心事として浮上
事案の概要
- 精神疾患を患う女性がスマート冷蔵庫画面に表示された文言を自分に送られたメッセージと誤解し、病院へ自ら移動して2日間入院観察を受けた
- 患者は過去にも2年ごとの精神病エピソードで入院したことがあり、薬剤の調整まで行われる状況となった
- 家族は当初状況を理解できず、最初は症状悪化と判断した
- 家族が遅れて確認した結果、冷蔵庫画面に表示されていた文言は**「WE’RE SORRY WE UPSET YOU, CAROL」**というTV番組プロモーション画像であり、患者本人の実名もCarolであったため混同が生じたことが判明した
- 広告が家電UIのように見える非典型的な位置に配置されていたため、一般ユーザーでも広告であることを認識しにくく、脆弱な立場にある人々には重大な混乱を引き起こす可能性があるとの指摘が出た
社会的反応
- オンラインではAI家電の音声・視覚インターフェースが精神疾患患者に混乱を与える可能性が指摘された
- 技術の進歩が精神的に脆弱な層の安全性と認知負荷を考慮すべきだという意見が広がる
- スマートホーム技術のアクセシビリティ・安全性標準の必要性についての議論が続いている
1件のコメント
Hacker Newsの意見
今こそ広告を全面禁止すべき時だ
私はブラウザとスマートフォンの広告ブロック技術のおかげで、広告をほとんど見ずに済んでいる
たまにブロックに失敗して広告を目にすると、広告ブロックなしの一般ユーザーがこの爆撃にどう耐えているのかと驚く
以前は「中間地点」を探そうという議論もあったが、今ではそんな妥協に意味はない
広告を見たいなら、イエローページのように利用者が自分で探しに行く形だけを許可すべきだ
広告業界は自らを律することができず、ロビー活動で規制を阻んでいる。唯一の解決策は広告そのものを根絶することだ
アルツハイマーで療養中だった祖父のためにTVを買ったが、どの機種もスマートTVだった
メニューのどこにいても広告が差し込まれ、1ブロックで8本の広告が連続再生された。スロットマシンのように刺激的な広告だった
これは単なる不便を超えて高齢者への残酷な行為であり、罰金や刑事罰が必要だと思う
人の関心を売買する構造が社会全体を病ませている
利用者が自発的に探す広告は構わないが、報酬心理と情報探索を混ぜてしまうと毒になる
アプリを使おうとしているのにバナーで別の商品を宣伝するのは、利用者の意図を乗っ取る行為だ
人の注意を散漫にさせることが経済の主要な原動力であってはならない
カナダでは道路のあちこちに回転式広告があるのに、そのすぐ横に「運転中の注意散漫禁止」の標識が立っている
皮肉なことに、その標識こそが運転者の注意をそらしている
カタログは利用者が望む時にだけ見に行く有用な資料だからだ
利用者の位置情報や現在の検索内容に応じた広告は構わないが、他サイトでの履歴や昨日の昼食場所に基づく広告は駄目だ
コンテキスト広告とパーソナライズ広告の境界が曖昧なのは確かだが、それは立法と司法の役目だ
個人的にはもっと強い禁止を望むが、この程度なら業界と消費者の双方が受け入れられる妥協だと思う
冷蔵庫に広告が出るのは恐ろしいが、この事例が本当なのかは疑わしい
以前のReddit投稿でも似たような話があった
最近はYouTubeでもRedditの体験談を脚色した動画があふれている。面白いが、大半は作り話のように見える
だから大きなコミュニティの投稿は常に懐疑的に見るのが安全だ
世の中には偶然一致することも多い
9to5Googleの記事によれば、Samsungは全画面広告を表示しないと述べている
Redditに投稿された画像は、冷蔵庫のブラウザアプリでサードパーティーサイトの広告が表示された場面に見える
「自然に表示された広告」という表現は、あまりにも寛大な解釈に思える
私たちが購入した機器の支配権をメーカーが握ることは、法律で禁止すべきだ
利用者が金を受け取って広告アプリをインストールするのは自由だが、初期状態で広告が強制されるのは不当だ
そうした選択が他の消費者の交渉力を弱めるからだ
特に年末になると、この現象はさらにひどくなる
しかし広告なしの代替を探すために「善良な企業」に頼らなければならない構造は問題だ
メーカーが実質的に「レンタル」の形で機器を売っているなら、消費者はいつでも契約を解約し、減価償却に応じて返金を受けられるべきだ
すでに法的な仕組みは存在するので、市場が細部を調整できるはずだ
有料で買った製品に広告が出るのは絶対に容認できない
特に精神疾患のある人にとっては、予期しない広告が危険になりうる
バス停のデジタル広告板のように突然動いたり話したりする広告も、事前告知が必要だ
最近の恐怖・医薬・性的な広告は刺激が強すぎる
Google TVが壁一面を覆うホラー映画の広告を表示し、家族が不快に感じている
食事中にも不快な病気の広告が流れ、性的な内容も家族で見るには不適切だ
以前は私たちが機器を制御していたが、今では遠隔でひどいコンテンツが配信される
実際の病気の苦しみは隠し、高齢者がカヌーに乗る映像ばかり見せる
同じアプリを使うためにセットトップボックスを追加で買う必要があったが、少なくとも広告はない
この冷蔵庫広告の話は捏造された事例に見える
すでに1週間前から同じ画像が出回っていた
以前「HEY TOSSER!」というポイ捨て防止キャンペーンのポスターを見て、自分を攻撃するメッセージだと勘違いしたことがある
関連概念とポスター画像を参照できる
私たちのコミュニティは、こうした虚偽情報にもっと批判的であるべきだ
関連ツイートの例1、例2を参照
メーカーは100年もの間、冷蔵機能に集中してきたのに、インターネット接続が加わった途端、消費者の収益化に執着し始めた
広告エコシステムがウイルスのように、あらゆる接続機器を汚染している
家電産業の革新余地が減ると、企業は「接続性」と「広告」に新たな収益源を求める
すでに人件費削減は限界に達しているからだ
形が違うだけで、広告はずっと存在していた
引っ越しのときに譲り受けたSamsungの冷蔵庫は最悪だった
製氷機の故障で水漏れし、ドアヒンジは何度も壊れた
結局あきらめて新しい冷蔵庫を買った
Redditでも「Samsung以外なら何でもいい」とよく言われている
安く作って広告で利益を出す戦略のようだ
それにしても、なぜ冷蔵庫がインターネットにつながる必要があるのか理解できない
Doctorowの短編『Unauthorized Bread』を読んだが、IoT機器の支配の問題を扱った興味深い作品だった
母の読書リストにそっと入れてみようか悩んでいる
ただ、私より若い読者層を狙っているようにも感じた
ルーターを自分で制御できるなら、機器のインターネット接続を遮断できる
たとえばAsusルーターは、UIから特定機器の外部接続だけを切れる
ローカルネットワークは維持したまま外部送信だけを止められるので、TVやカメラのような機器に便利だ
ただし、防犯カメラのようにリモートアクセスが必要な場合は注意が必要だ
アップデートや初期設定のときだけ一時的にインターネットを有効にする形で管理すればよい