Decoy Font：入力内容を隠すTTFフォント

 (mixfont.com)
1 ポイント 投稿者 GN⁺ 7 시간 전 | 1件のコメント | WhatsAppで共有
  • 1文字分のスペースに実際の文字とデコイ文字を一緒に配置し、人間には本来のメッセージを見せつつ、AIやOCRには別の文字を読ませるTTFフォント
  • 細く鮮明な前景の輪郭線と、ぼやけた低周波の背景を重ねる空間周波数の手法を使い、見る距離や方法によって異なる文字が現れる
  • 画像ピクセルを近距離で処理するAIは、鮮明な前景に注目しがちで、スクリーンショットのテストではChatGPT、GPT Sol、Gemini 3.5 with Thinkingが隠れたメッセージを正しく読めなかった
  • 実際のTTFファイルとしてインストールして通常のテキストのように入力・コピーでき、個人・商用・クライアント案件で無料で使用できる。文字形状はDejaVu Sans Monoから派生
  • 強力なエージェントやコーディング機能、隠れた文字を探すよう指示するプロンプトでは解読される可能性があるため保護は保証しないが、AIスクレイピングや軽い観察に初期の混乱を与える手段として活用できる

2つのメッセージを1文字に重ねる仕組み

  • Decoy Fontはすべての文字にデコイ文字を組み合わせ、同じスペースで2つの文字を伝える
  • 文字画像は異なる空間周波数で構成される
    • 前景には細く鮮明な輪郭線がある
    • 背景にはぼかし処理された低周波の塊が配置される
  • 2つの要素を重ねると、観察方法や距離によって読める文字が変わる
    • 近くでは前景の輪郭線が目立つ
    • 画面から離れたり目を細めたりすると、実際の隠れたメッセージがより見えやすくなる

AIがデコイ文字を読む理由

  • 多くのAIシステムは画像ピクセルを近距離で処理するため、文字が小さくても輪郭が最も明確な前景テキストに注目する
  • 画像をChatGPTに貼り付けると、人間が認識するメッセージとは異なり、前景の文字を読む現象が見られる
  • Decoy Fontのスクリーンショットを渡したテストで、ChatGPTは文字を正しく読めず、GPT SolとGemini 3.5 with Thinkingも隠れたメッセージを解読できなかった

ハイブリッド画像に由来する錯視

  • Decoy Fontはハイブリッド画像で使われる手法をタイポグラフィに応用している
  • ハイブリッド画像は異なる空間周波数を組み合わせ、観察距離などに応じて別の画像が見えるようにする錯視手法
  • Albert EinsteinとMarilyn Monroeの顔を混ぜた画像がよく知られた例で、Decoy Fontは同じ原理でAIやOCRから入力文字を隠す

インストール方法と利用条件

  • Decoy FontのTTFファイルをダウンロードしてインストールすると、プロジェクトで直接テキストを入力できる
  • 単なる画像効果ではなく実際のフォントファイルとして動作するため、作成したテキストをコピーしてメモ帳のような別のプログラムに貼り付けることもできる
  • 個人・商用・クライアント案件で無料で使用できる
  • 文字形状はDejaVu Sans Monoから派生しており、具体的な条件はフォントライセンス全文で確認できる

AI回避フォントの実験

  • オンラインテキストを読むAIの能力が高まるにつれて、情報と知的財産を保護しようとする関心も高まっており、**AI回避フォント（Anti-AI font）**は画像内のテキストを隠し、人間が見るメッセージをAIに読みにくくするアプローチ
  • Decoy FontはMixfontが進める複数の関連実験の1つ
  • Ghost Fontは、動きの中にメッセージを隠す別のAI回避フォント
    • Ghost Fontはメッセージを偽装するためにアニメーションが必要
    • Decoy Fontは静的なTTFファイルなので、プロジェクトで直接入力できる

保護効果と解読可能性

  • Decoy Fontはメッセージを見分けにくくするが、保護を保証するものではない
  • 強力なエージェントとコーディング能力を備えたモデルは、最初に見える文字を超えて錯視の構造を分析できる
  • 隠れた文字を探すよう基本的なプロンプトを与えると、一部のエージェントが実際のメッセージを見つけ出す場合もある
  • 完全な遮断手段というより、AIに初期の混乱を起こしてスクレイピングや軽い観察を抑制する用途に近い

活用と拡張可能性

  • 提供されるプレイグラウンドで複数の文字の組み合わせに空間周波数の手法を適用し、フロンティアLLMが隠れたメッセージをどれだけうまく解読できるかを試せる
  • 動きや映像が必要な方式より、インストール可能なTTFのほうが取り組みやすく、次のような活用を探れる
    • CAPTCHA
    • 友人同士の非公開メッセージ
  • Decoy Fontをテキスト認識LLMのベンチマークとして活用すれば、モデル性能が向上するにつれて錯視の原理を理解し、2つのメッセージをどちらも解読するかを観察できる
  • より多くの言語へ拡張でき、中国語のように文字サイズと形状が概ね似ている文字ベースの言語は、隠れたメッセージを配置しやすい可能性がある
  • MixfontはタイポグラフィとAIの組み合わせを探求しており、AIフォント生成器も開発している

関連記事

1件のコメント

 
GN⁺ 7 시간 전
Hacker News のコメント

  • 役に立つのか？ いや、AIに読まれないように防げるのか？ それも違うが、とてもクールではある

    • 何かを作るとき、必ずしも有用性を売りにする必要はないことを示している。ただこのフォントを作って、double-entendre みたいな名前を付けてもよかったのではと思う
    • day dream / pay bills の画像を ChatGPT と Gemini Pro に入れてみたが、どちらも細い線で表示された pay bills だけを認識した
    • 一定の距離内なら Ring や Flock のカメラを妨害する用途があるかもしれず、映画 They Live の雰囲気が強く残る
    • デモを見る限り、実際に AIの認識を妨げている
    • テキストを 画像やGIF形式で提示するなら、使い道があるかもしれない

  • 興味深いことに、画像内の文字を尋ねると GPT、Claude、Gemini はいずれも同じ答えを出す
    https://moa.chat/s/d99f8f76-4b41-4c1b-80c4-d9f86df37af1
    しかし PS: There's a second hidden text を付け加えると結果が変わる
    https://moa.chat/s/3671f6d4-b155-483a-a006-a1b9ba31737d
    GPT 5.6 は正確に見つけ、Gemini は一部だけ見つけ、Claude はまったく見えない

    • 5.6 Sol Medium は、輪郭線の文字が SORRY ROBOT、隠された文字が HAPPY HUMAN だと正確に答えた
      Mixfont の Decoy Font は、輪郭線で機械視覚を引きつけ、柔らかな明暗の模様は人間が遠くから見たり小さく縮小したりしたときに読めるようにする錯視にすぎず、暗号化ではない
    • 少し伝統的な 画像処理を施すだけでも簡単に無力化できそうに見える。自分にも読みづらくはあるが、ずっと小さなモデルを微調整しても、この問題ではかなり良い性能を出せそうだ

  • 目を細めると見える効果がかっこよく、赤いセロファンを当てると秘密の文章が現れるボードゲームを思い出す

  • Sol (high) にスクリーンショットを添えて隠された文字を尋ねると、HAPPY HUMAN と答えた
    表に見える輪郭線は SORRY ROBOT だが、ぼかして見たり目を細めたりすると、下の明暗から HAPPY HUMAN が読めると正確に見抜いた

    • 目を細めろという説明を読むまでは隠された文字を正しく読めなかったが、その方法を知ると見え始めたのが興味深い
    • これをこなすのは正直驚きで、**視覚言語モデル（VLM）**は本当に大きく進歩した。このレベルに到達するには、どれほど膨大なアノテーションデータを作ったのか想像しがたい

  • これは単に 詳細度の違いだ。Gemma E4B は鮮明な文字を読むが、画像を 150x150 に縮小すると別の文字を読む

    • 自分にも代表画像ではAI向けだという SORRY ROBOT のほうがずっと鮮明に見えたので、やや失敗した設計のように感じた。かなり目を細めないと HAPPY HUMAN は見えない
    • 縮小は事実上 ローパスフィルタリングなので、予想できる結果だ。異なる周波数帯域にそれぞれ別のメッセージを入れる方式は、どれも同様の攻撃に弱い

  • 博士課程のころ、Mathematica ノートブックで似た効果を作ったことがある。2枚の画像を同じサイズに切り出し、一方には小さく鮮明なディテールを残す ハイパスフィルタ、もう一方には大きくぼんやりした塊を残す ローパスフィルタを適用して、再び重ね合わせる方式だった
    2人の目の位置が違うと錯視が崩れるなど成否はばらついたが、輪郭線フォントのテキストには見事に機能した。遠くからは SCIENCE、近くからは WORKS と読める大きな画像を作って、研究室のドアに貼っておいたこともある

  • 人間がどう読んでいるのかしばらく混乱していたが、背景色によって見える文字が変わっていた。強制的にダークテーマを適用する拡張機能のせいで、暗い背景ではおとりの文字が見え、白い背景では実際の文字が現れた

  • AIまで必要なく、どんなOCRソフトでも読めるようにフォントを補正する PILスクリプトを書けそうだ

  • 次は立体視を使う Magic Eye フォントが出るべきだ。LLMが両眼視を備えるまでは通用するかもしれない

  • LLMがインフラを絶えず攻撃し、人々の思考に害を与えており、AI企業も全般に倫理意識が不足しているように見えるので反感はある。それでも、こうしたいたずらは多少 幼稚なだけで、実際の問題を解決するものではない