- 人間の行動における情報処理量は、知覚・行動・想像の課題全般でおよそ 10 bits/s にとどまり、感覚系が環境から受け取るおよそ 10⁹ bits/s とは約1億倍の差がある
- タイピング、発話、目隠しスピードキューブ、記憶競技、読書、実験室での運動課題は、測定方法が異なっても近い範囲に収束し、感覚入力と運動出力の速度が概ね噛み合っていることを示唆する
- 片目の錐体細胞群は約 1.6 Gbits/s を伝達でき、視神経も大きな容量を持つが、実際の行動に使われる情報はそのごく一部にすぎない
- 「写真記憶」、豊かな視覚シーン、無意識処理といった反論も、現在の証拠では 10 bits/s の限界 を大きく超えられておらず、自然画像の統計学習も数ビット程度の情報しか必要としない可能性がある
- この逆説は、脳を高速の感覚・運動信号を扱う outer brain と、行動制御用の低速ストリームを扱う inner brain に分けて考えさせるものであり、なぜ inner brain が多くのニューロンを使いながら一度に1つしか処理しないのかは未解決の問いとして残る
人間の行動はなぜ10 bits/sと測定されるのか
- 「Twenty Questions」ゲームは、よく設計されたイエス/ノー質問1つが 1 bit を明らかにするという点で、思考速度を測る例になる
- 数秒のうちに約20個の質問で答えを当てられるなら、思考速度は数秒間で20 bits、つまりおおよそ 10 bits/s 以下 になる
- 行動情報処理量は、決められた時間内に人が実行できる可能な行動の範囲から推定される
- 行動とノイズによる変動を区別する必要があり、この区別は Shannon のエントロピーと情報率で定量化される
- キーを押す力、キー入力の継続時間、あくび、まばたきのように、課題に重要でなかったり予測可能だったりする出力は、情報処理量に大きく寄与しない
- 英語のタイピングは、10 bits/s 推定の代表例である
- 熟練タイピストは1分あたり120語、1語5文字基準で毎秒10キーストロークを生み出す
- 英語の文字は構造的な冗長性が大きく、文字あたりのエントロピーは約 1 bit で、情報率は約10 bits/s になる
- ランダム文字列を入力しなければならない場合、熟練タイピストの速度は大きく低下する
- 発話も同じ規模に近い
- 英語の講義ナレーションでは、聴衆が無理なく追える速度は1分あたり160語とされる
- これは約 13 bits/s に相当する
知覚課題と記憶課題も似た範囲にとどまる
- 目隠しスピードキューブは、知覚段階と運動出力段階を分けて見られる事例である
- 3×3 Rubik’s cube の可能な配置は 4.3×10¹⁶ ≈ 2⁶⁵ 通りである
- 最近の世界記録12.78秒のうち約5.5秒が観察に使われ、知覚段階の情報率は約 11.8 bits/s と計算される
- 選手たちが全体時間を知覚と動作におおむね半々で割く傾向は、知覚情報率と運動出力情報率が対応していることを示す
- 記憶競技でも処理率は同じ規模である
- 「5 Minute Binary」の世界記録は、5分間で2進数字1467個を正確に記憶した事例で、記憶中の情報率は約 5 bits/s である
- 「Speed Cards」では52枚のカード順列の可能な配列は 52! ≈ 2²²⁶ 通りで、12.74秒の観察記録は約 18 bits/s に相当する
- 作業記憶の保持要求が10秒から300秒に増えても、環境から情報を使う速度は10 bits/s の2倍以内にとどまる
- 他の測定も同じ結論に集まる
- 表には、2進数字記憶 4.9 bits/s、選択反応実験 約5 bits/s、物体認識 30〜50 bits/s、実験室での運動課題 10〜12 bits/s、読書 28〜45 bits/s、Tetris Rank S 約7 bits/s などが含まれる
- 異なる分野とほぼ1世紀にわたる測定が、人間の行動処理量を約 10 bits/s に集約している
- 日常的なデータ転送率と比べると、この値は非常に小さい
- 家庭用 WiFi が100 Mbits/s を下回ると Netflix 視聴品質を心配するが、起きて視聴していても脳がその巨大なビットストリームから抽出する情報は10 bits/s を超えない
神経系の容量と遅い行動の逆説
- 感覚神経系は、行動処理量よりはるかに大きな容量を持つ
- 人間の錐体細胞1個は約 270 bits/s を伝達できる
- 片目の錐体細胞600万個は約 1.6 Gbits/s の容量を持つ
- 脳はこの巨大なビットストリームから、行動課題の遂行に必要な約10 bits/s だけを選び出している
- 感覚情報率と行動処理量の比は sifting number と定義される
- 約1 Gbit/s を10 bit/s で割ると 10⁸ になる
- この1億倍の隔たりが、説明されるべき逆説の大きさである
- 視覚系の内部でも、すでに大きな圧縮が起きている
- 視神経は、網膜神経節細胞の軸索およそ100万本で構成される
- 強い刺激で平均50 Hz で駆動されるとき、視神経の容量は約 100 Mbits/s 以下 である
- これは錐体細胞容量より10倍小さく、網膜回路が視覚信号を少なくとも10倍圧縮していることを示す
- 個々のニューロンも、人間全体の行動処理量と同程度かそれ以上の情報を送れる
- 中枢神経系ニューロンのスパイクは、平均して約 2 bits/spike を伝える
- 哺乳類の皮質ニューロンは平均発火率が低くても、単一ニューロンで約 10 bits/s を伝達できる
- 逆説は小さな誤差ではなく、10⁸倍の隔たり を説明しなければならない問題である
- ある仮説が特定条件で反応速度の2倍差を説明できても、この逆説の規模にはほとんど影響しない
反論と含意：記憶、種、BCI
- 写真記憶が10 bits/s の限界を打ち破る証拠は弱い
- そのような人がいるなら、「Binary Digits」のような世界記憶大会で優勝を独占しているはずだが、世界王者の記録も10 bits/s 水準にとどまる
- ある被験者が、別の日に提示されたランダムドット立体視画像を統合したという報告は約100 bits/s を必要とするが、追試的な支持報告は現れていない
- 都市上空を飛行した後に建物単位で描く芸術家の事例も、仮に45分間で1000棟の建物を1000種類のスタイルのいずれかとして正確に記憶したとしても、約 4 bits/s に相当する
- 豊かで精細な視覚経験は subjective inflation と解釈される
- 注視点中心から数度外れるだけで、空間・色の細部解像度は大きく低下する
- 普段の生活では眼球を動かしてその位置を見ることができるため、周辺視野まで鮮明で多彩だと感じられる
- 注意の外にある視覚情報を知覚し保持する能力は著しく制限されており、inattentional blindness にまでつながる
- 無意識処理も、ここで論じられている事例では大きな情報率を必要としない
- 子猫を垂直の白黒縞模様環境で育てた実験では視覚皮質の配線が一部再編成されたが、縞の方向分布の変化は log₂(180/40) ≈ 2 bits と計算できる
- 自然画像の空間・時間周波数分布や色スペクトル分布も、数ビットで捉えられる可能性がある
- 網膜は数百万のニューロンを持つが、約 100種類のタイプ で構成され、同じタイプの細胞と回路が視野全体にわたって繰り返される
- 脳の保存容量をコンピュータと比較すると、大きな過剰が見えてくる
- 約 10¹⁴ 個のシナプスとシナプス強度の動的範囲 5 bits を掛けると、全シナプス指定に必要な上限は約 50 TB である
- 人間ゲノム 3×10⁹ 塩基をすべて脳発達の制御に使うと寛大に仮定しても、「nature」成分は約 6×10⁹ bits、つまり 0.8 GB である
- 人が100年間、24時間ずっと10 bits/s で情報を吸収すると仮定しても、「nurture」成分は約 3×10¹⁰ bits、4 GB 未満である
- この比較では、脳のシナプス表現容量 50 TB が、実際に必要な表現量 5 GB より4桁大きい
- BCI と支援技術の設計には、この低い情報率が直接影響する
- Neuralink が目指す高帯域の脳-コンピュータ・インターフェースについて、人間の認知は約10 bits/s でコンピュータと通信すると予測される
- 網膜インプラントのように生の映像情報を周辺視覚系に直接入れるアプローチはギガビット/s 級のデータ率を要求し、数十年の努力にもかかわらず移植患者は法的失明状態にとどまっている
- 逆に、シーン内の物体や人の正体・位置といった視覚処理結果だけを伝えるなら、自然言語音声でも十分に伝達できる
- 運動 BCI では、意図した手書きを毎分90英字、すなわち 1.5 bits/s でデコードした事例や、意図した発話を毎分62語までデコードした事例がある
- 話したり聞いたりできる多くの麻痺患者にとっては、頭蓋に穴を開けない音声命令やディクテーションの方が、より単純な脳-機械インターフェースになりうる
なぜ私たちは一度に1つしか考えられないのか
- 脳は outer brain と inner brain という2つのモードに分けて考えられる
- outer brain は感覚入力と運動出力に近い領域で、数百万の感覚受容器と筋線維が関わる高次元・高情報率の領域である
- inner brain は、行動に必要な中核の数ビットだけを残した縮約データストリームを処理する
- inner brain の課題は、目標、現在の入力、過去の記憶を組み合わせて意思決定を行い、新しい行動を引き起こすことである
- 低い処理量の大きな部分は、並列処理と直列処理の違いから生じる
- 周辺視覚系は、網膜の100万の出力信号や視覚皮質の約10,000個の hyper-column のような大規模並列方式で画像を処理する
- 一方で中央処理は、2つの課題が競合すると2つ目の課題を行う前に「psychological refractory period」が現れるように、直列的である
- 思考のように運動出力を必要としない課題でも、人は一度に1つの流れしか追えない
- カクテルパーティー効果とチェスは、直列認知の例である
- 人間は複雑な聴覚混合から1人の話者の発話ストリームを抽出できるが、複数の会話を並列にすべて追跡することはできない
- 聴覚周辺系は周波数チャネルや両耳時間差を並列処理するが、単一話者の選択は単語分節前の早い段階で起こる
- チェスのグランドマスターも、可能な手を並列にすべて評価するのではなく、1つずつ検討する
- 進化論的説明は、脳の本来の目的を 運動制御 と結びつける
- 初期の動物の単純な神経系は、餌に向かう、あるいは捕食者を避ける動きを導いていた可能性が高い
- 匂いの勾配に沿って操舵する生物は1つの場所にいて、その場所の環境だけを感知し、1つの動きを選ぶ必要があるため、複数の経路を同時に処理する必要がない
- 人間の思考も抽象的な概念空間を航行することになぞらえられ、記憶競技者が「memory palace」を使って抽象項目を空間経路に埋め込む事例がある
- 現在のボトルネック説明は十分ではない
- 「single channel operation」「attentional bottleneck」「limited processing resources」といった心理学的比喩は、中央神経資源の実体を具体的に示せていない
- Wang の意思決定回路モデルは、2000個の integrate-and-fire ニューロンだけでサルの知覚心理実験の現象を再現する
- AlexNet は約65万ニューロンで、120万 bits の画像から1000カテゴリ、すなわち10 bits を抽出しており、これは皮質数 mm² に相当する規模である
- ショウジョウバエは20万個未満のニューロンで、飛行曲芸、嗅覚ナビゲーション、社会的コミュニケーション、交尾、攻撃性を実現する
- 人間の前頭前野だけでも5000匹のショウジョウバエを動かせるほどの神経ハードウェアがある、という比較は、なぜいくつかの課題を同時に実行できないのかについて、まだ説明が不足していることを示している
1件のコメント
Hacker News の意見
記事は、脳が実行する特定の課題や知覚する特定の対象の情報量を測っているように見えて違和感がある
脳は汎用コンピューターであって、スピードカード専用コンピューターでも、英語テキストコンピューターでも、二進数コンピューターでも、ルービックキューブコンピューターでもない
ルービックキューブを見るとき、色のマスの相対位置だけを取り出しているのではなく、それが鳥でも二進数列でも英語テキストでもなくルービックキューブだという事実も把握している
英語をタイピングするときも、脳の情報を英語テキストにエンコードしているだけではなく、いま数学をしたり散歩に出たりする代わりにこの活動を続けるのが最も適切だと判断し、必要な動きを作るために筋肉を精密に制御している
たとえば何らかの物体を識別するとして、分析前にあり得る物体の分布が持つエントロピーを考えられる。毎秒10ビットのエントロピーを解消するというのは、一様分布の1024個の物体のうち1つを1秒で識別するという意味だ
これが数桁低い見積もりで、実際には10億個のうち1つを1秒で識別しているとしても、約30ビット/秒にすぎない。それでも感覚系が送る10⁹ビット/秒よりはるかに低いという論文の核心は変わらない
毎秒、散歩するかどうかを決めるなら1ビット/秒かもしれないが、実際に歩き続けることと歩かないことの間を行き来し続けるなら、病的な行動に近い
通常は数分に1回以下の頻度でしか散歩するかどうかは決めず、「どこへ」「正確にいつ」「どれくらいの時間」といったビットを足しても、1秒あたり1ビットのごく一部にとどまりそうだ
意識されない文脈もある。たとえば「いまRedditではなくHNに返信を書いているのだから、猫に関するありきたりなダジャレでは推薦を得られず、無意識処理について知的ぶったコメントのほうが点を稼げるだろう」といったことだ
「二十の質問」で質問1つが1ビットを明らかにする、というような情報の定義は、課題相対的な外在的定義であり、想像力の内在的な処理速度とはほとんど関係がない
生物学的ハードウェアが非常に高い「内在速度」を持ち得るのに、問題解決は「低い外在速度」として現れる、という問いは比較そのものがずれている。部分の性質は全体の性質ではない。「分子は秒速数千mで動いているのに、なぜ気体は秒速1mで動くのか」というようなものだ
知能の内在的処理は、想像、調整、計画のような汎用的認知スキルを大規模に動員するために使われ、特定の課題はこれらをすべて作動させる必要があるため、外在的な情報処理速度ははるかに遅くなると予想される
コンピューターにも同じように課題を非常に抽象化して「課題情報1ビット」の処理コストを一律に課せば、同様に小さなビットレートが出るだろう
エンジニアが機械の音を聞きながら歩き回り、ある機械を肘で軽く叩くと工場が再び動き出し、工場長はあまりに簡単な解決策に大金を払ったと不満を抱く
「正しい」10ビットを作るために必要な入力と処理は、10ビットよりはるかに大きいことがある。チェスでも一手が伝えるビット数は小さいが、正しい手を指すには深く考えなければならない
人間は、情報を集め、ふるいにかけ、理解という濃縮されたスープへ煮詰めたうえで、望む未来を作るために慎重に選んだ数ビットを出力する有機体に近い
そこには単語を受け取ることだけでなく、著者の意味を理解し、その単語について自分で熟考することも含まれる
論文を読むアクセス権はないが、公開された観点記事は131回引用されており、課題別の人間の能力、皮質の処理速度、知覚、四肢の動き、眼球運動などを扱っているようだ
著者たちが問題空間を理解していないと仮定するのは、対話への良い貢献ではない
「なぜ一度に1つのことしか考えられないのか？」は、もしかすると知覚の問題なのかもしれない
思考の流れ、視覚化、内的対話は一度に1つしか維持できないように見えるが、生涯を通じて直接的なコミュニケーションを1つのチャネルの線形的なものとして学んできたから、そうなっているのかもしれない
脳は直接集中していないテーマについてもバックグラウンドで多く考えており、だからこそ「アハ！」の瞬間が生まれる。心は複数の思考の流れを同時に維持できるのに、言語が思考パターンを線形で非同時的な形に強制しているだけなのかもしれない
仏教学者たちは、意識の中に複数の注意の流れはあり得るが、実際の注意にはその流れの経験／思考の珠が一度に1つしか入らず、私たちはその間を非常に素早く行き来しているのだと見ている
個人的にはおおむね同意するが、注意に渡される珠には連続的知覚の圧縮要約が含まれる、時間圧縮のような現象もあるように思う。2つの流れまでは可能に見えるが、3つ以上を監視すると隙間が生じる
通常の状態では、1つの流れさえ連続的には監視しておらず、瞑想で語られる奇妙で興味深い効果は、本当に連続した注意を保てるようになったときに現れるようだ
左右の目に互いに異なる画像を見せ、何を見たかを尋ねると、発話と筆記がそれぞれ異なる脳半球によって制御されているため、互いに異なる答えを話したり書いたりできた
これは、意識的注意のボトルネックが動物の脳に本質的な限界というより、経験の連鎖を一貫して保つために発達した合意メカニズムである可能性を示唆している
私たちは複数の人と同時にコミュニケーションし、同じ人とも複数の会話の流れを維持する
もちろん実際の並列処理というよりはタスク間を切り替えているのであって、多くても、ある人の話を聞きながら2人目に口頭で返答し、3人目にテキストで返しつつ、4人目に何と答えるかを考える程度だ
要点は、注意の焦点をかなり素早く切り替えているということだ
言語による独白は本質的に逐次的なので、2つの発話の流れを同時に話したり理解したりすることはできない
「バックグラウンドで」浮かぶアハ体験は、実は本当の自分、本当の心であり、むしろ前景に近い。独白が生じると、それがすべてを押しのけ、ときにはアハ体験まで妨げているように思える
必要なのは言語ではなく内的沈黙だ
10ビット/秒という数字をどこから持ってきたのかわからない
出力をgzipで圧縮しても、私は秒間10ビットよりはるかに速くタイピングできる
意識的に処理する感覚情報、つまり入力情報ではなく概念的に分析する情報量を考えても、もっと高いはずだ。10ビット/秒は直感的に合わない
適切に設計されたイエス／ノーの質問は、それぞれ未知の対象について1ビットの情報を明らかにし、当てる側が安定して勝てるなら、考えている人は数秒以内に約2²⁰、つまり100万個の可能な項目にアクセスできるという意味になる
したがって、制約のない思考速度は数秒で20ビット、つまり秒間10ビット以下という計算だ
コンピューターはgzipを使っても、英語をそれほど効率よく表現できるわけではない
サッカーの試合を見ても、脳は600個ほどある筋肉を高速に制御している。それだけでも秒間ビット数は多いはずだし、コンピューター制御のロボットよりはるかに優れている
「脳が10ビット/秒を処理するのに、なぜ数十億個のニューロンが必要なのか」については、TeslaのFSD車両も処理能力は大きいが、それでも消防車に突っ込まないようにするのは依然として難しい。多くのリソースが必要になり得る
どうかコメントする前に論文を読んでほしい。タイトルをざっと見ただけで浮かぶ多くの疑問に答えていて、かなり興味深い
論文を読んだ人同士で成功した議論をするのに向いた構造ではない
中国の卓球の達人たちが試合をしているとき、脳はどの速度で処理しているのだろうか？
相手が打った球を見て、無意識に速度と角度と回転を計算し、体、脚、腕、手、さらには指までどう動かすかを決めなければならない
標準的な卓球台の長さは2.74mで、速いプロの試合では球がこの距離を90〜140msで通過することがある。選手には0.1秒未満の反応時間しかない
ものすごい画像処理速度だけでなく、その視覚データを1秒未満で数百個の筋肉の正確な位置と動きへ変換する精神的速度も必要だ。秒間10ビットなどあり得ない
人間の処理をビットで測るのが適切なのは、タイプした文書のようなデジタル情報の成果物を処理したり作り出したりする場合だけである
私たちの身体のシステムは生化学的なウェットウェアであり、ブール値ベースでは適切に説明できない
人間はデジタル論理のブール的な説明よりも、Boltzmann の統計力学的な現実説明にはるかに近い
システムが取り得る異なる可能な構成の数を数え、必要に応じて統計的不確実性や偏りを反映したうえで、その数の 2 を底とする対数を取れば、そのシステムの情報量になる
これは生物学的システムであるかどうかにかかわらず、ほとんどどこにでも適用できる
性に基づく「古典的な」ジェンダー概念は、さまざまな点を考慮すればかなり合理的だが、だからといって公共空間でジェンダーを別の形で表現しようとする人々を、尊厳と願いを尊重して扱うべきだという点が消えるわけではない
https://philosophersmag.com/unexceptional-sex/
情報理論の場合と同じく、ビット数は表現可能な状態数の log2 であり、整数である必要もない
たとえば 10 ビットの情報があれば、1024 個の異なる状態を区別できる。それが 1024 種類の色であれ、望むなら 1024 種類のジェンダーであれ関係なく、重要なのは物を入れる 1024 個の箱があるという点である
記事の結果どおりなら、「内部の脳」は毎秒 1024 段階のニュアンスを持つ 1 つの色、あるいはそれぞれ 16 段階のニュアンスを持つ独立した 2 つの色を処理できるという意味になる。色同士が独立でなければ、さらに多くを処理できる可能性もある
「男性/女性を 1 ビットでエンコードしよう」とか、「101 はセロトニン、110 はドーパミン」と言っているわけではない
人間が生み出す情報内容は、毎秒およそ 10 ビットに圧縮できるという統計的な説明である
ただしビットは、特定の底における情報量にすぎない。望むなら「ニット（nit）」で議論してもよい
要点は、具体的な表現がデジタル計算の仮定に基づいていたとしても、情報そのものは依然として実在するということだ
末梢神経系がギガビット/秒レベルで環境情報を吸収できるのに、人間の行動の情報処理量は非常に小さいことをパラドックスと呼んでいるが、GPU が毎秒何十億もの演算をしても Cyberpunk がせいぜい 60fps で動くのと似ており、パラドックスではない
さらに脳は画像認識のような課題で GPU よりうまくやっているように見える。おそらく GPU より毎秒多くの演算をしているからだろう
GPU ははるかに多くの項目を持つデータベースに接続できるし、無作為な人々を多数認識する、かなり印象的な顔認識デモも可能だ
しかし人間は初めて見る物体でも用途を推測できる。これは物体認識よりさらに優れた何かに近い
人間は通常の音声で最大39 ビット/秒まで伝送できるため、人間の「処理量」が 10 ビット/秒しかないと表現するのは正確ではなさそうだ
https://www.science.org/content/article/human-speech-may-hav...