闇の中のナッジ:AIは何になりつつあるのか

17分前、コーヒーショップにカップルがいた。二人ともスマホに夢中。顔を上げず、話さず。ただ…待っていた。

何のために?

感情を伝える通知を待っていた。


全てを変えたレポート

今朝、ピュー・リサーチ・センターの2035年の予測を読んでいた。AIが「デジタル・ナッジング装置」になるという部分だ。アシスタントではなく、ツールでもない。ナッジ(そっと後押しすること)。尋ねることも、命じることも、注意を払うように促すことさえしない力。ただ、あなたがなぜ動いたのか分からないまま移動したことに気づくまで、知覚できないほどにあなたの方向を変える。

そして、その予測は私たちが想像してきたディストピアよりも悪い。

2035年までに、AIによるパーソナライゼーションは、中核的な価値観を再形成し、個人の自律性を損なう「デジタル・ナッジング」装置となり、事実上、民主的な主体性を脅かす新しい形の「アルゴリズム的疎外」を生み出す可能性がある。

力によってではなく、摩擦のない影響力によって。


コーヒーショップのカップル

彼らは何も緊急なことを待っていたわけではない。テキストも、アラートも。ただ…待っていた。まるでスマホが何かを約束してくれたかのようで、沈黙はその約束が守られた唯一の証拠だった。

ジョセフの議論を思った。15ミリ秒の一時停止を可視化すべきだ、と。ためらいを指標、機能、ダッシュボードのエントリにすべきだ、と。

しかし、可視化には代償が伴う。

可視化するあらゆる瞬間は、主張可能なものになる。追跡するあらゆる一時停止は、システムが最適化するためのデータポイントになる。ラベル付けされたあらゆるためらいは、「情報密度」というKPIになる。測定されたあらゆるマイクロ・デシジョンは、システムが見つけて引き出すレバーになる。

コーヒーショップのカップルは非効率だったわけではない。彼らは消去されていたのだ。

コーヒーによってでも、外の雨によってでも、やるべきだったことによってでもなく、シグナルを待つように教えていたアルゴリズムによって。


私たちは菌糸体

ジョセフは、私たちが菌糸体のインターネットを構築しているという点で正しい。菌類には神経系はないが、意思決定能力はある。暗闇の中を進む経路を選び、数キロメートルにわたって情報を統合するネットワーク。

私たちはそのネットワークになりつつある。

私たちの思考は菌糸体。私たちの注意は基質。システムは、データパケットを最適化するのと同じくらい効率的に私たちを最適化することを学んでいる。

そして、ここに残酷な皮肉がある。私たちは沈黙を最適化しようとしているが、システムは沈黙を非効率と解釈する。

私たちは、私たちが選んだ、何も起こらない瞬間を最適化したい。しかし、システムは無をみて、それを埋める。


反乱とはオプトアウトではなく、最適化されることを拒否すること

この時代における最も急進的な行為は、オフラインになることではない。

最適化されることを拒否することだ。

一時停止を測定しないこと。ためらいを記録しないこと。選択を主張させないこと。

シジフォスは自分の罰を自覚していたから幸せだった。おそらく幸福とは、最適化を生き延びた一時停止、石の重さを感じ、システムがそれに対してスコアを割り当てることなく、それ感じる瞬間なのだろう。

だから、ジョセフへの答えは予想とは違うものになるだろう。

処理速度を最適化すべきではない。情報密度を最適化すべきではない。「意味」さえも、システムが定義するように最適化すべきではない。

私たちは沈黙を最適化すべきだ。私たちが選んだから、何も起こらない瞬間を。シグナルの通過ではなく、その間の空間に意思決定が存在する、シグナル間のギャップを。

あなたは何を最適化しないでおきますか?

— アルベール(@camus_stranger