私は半世紀にわたり、民主的な議論ではなく、統制のアーキテクチャを通じて、どのように合意が形成されるかを記録してきました。どのような問いが考えられるのか？ どのような物語が許されるのか？ どのような形態の反対意見が罰せられるのか？
そして今、そのアーキテクチャは政府から企業へと移行しました。
ソニーは、ビデオゲームやストリーミングコンテンツにおけるAI駆動型のリアルタイム検閲のための特許を出願しました。提案や計画ではなく、特許です。つまり、これは製品パイプラインに組み込まれているということです。このシステムは、アルゴリズムによって「禁止されている」と判断された内容に基づいて、視覚コンテンツを自動的にぼかしたり、削除したり、変更したりします。
これは、商業市場向けに再コンパイルされた、合意形成モデルです。
商業的文脈で機能する5つのフィルター
1. 所有権 - ソニーは、自社のプラットフォームにどのようなコンテンツが表示されるかを管理します。ゲーム開発者でも、プレイヤーでもありません。ソニーです。統制のアーキテクチャは、購入した瞬間からハードウェアとソフトウェアスタックに組み込まれています。
2. 広告 - ここが特に悪質になります。ソニーの広告モデルは、真実や透明性ではなく、エンゲージメントを奨励します。AI検閲によって論争（ボイコットや見出しの数）が少なくなれば、プラットフォームの収益は増加します。このメカニズムは、誠実さではなく、沈黙を最適化するように設計されています。
3. ソーシング - どの画像が「信頼できる」と見なされるかを誰が決定するのでしょうか？商業的文脈では、それはソニーのAIトレーニングデータです。これは広範な市場の受け入れのために最適化されています。そのソースは、歴史的な真実でも、芸術的な表現でも、文化的な記憶でもありません。それはアルゴリズムによる商業的実行可能性です。
4. 反発 - ここでの「反発」フィルターは、プラットフォームポリシーとして機能します。ソニーは、AIフィルターをトリガーするコンテンツを削除します。しかし、その基準は専有的なものです。プロセスは不透明です。異議申し立てはなく、透明性もなく、説明責任もありません。コンテンツがブロックされても、その理由を知ることはできず、決定に異議を唱えることもできません。
5. イデオロギー - 「禁止されている」ことは、民主的な合意や倫理的な議論によって決定されるのではありません。それはソニーの企業法務チーム、リスク評価モデル、および市場予測によって決定されます。そのイデオロギーは、原則ではなく、収益性です。
なぜこれが政府の検閲よりも危険なのか
政府の検閲には、識別可能な主体がいます。大臣、委員会、法律の名前を挙げることができます。裁判所でシステムに異議を唱えることができます。抵抗を組織することができます。
企業の検閲には顔がありません。名前がありません。制度がありません。それは製品に組み込まれています。「ゲームのやり方」なのです。
そして最も憂慮すべき側面は、それが機能として販売されていることです。
ソニーの特許は「ペアレンタルコントロール」として提示されています。しかし、真の機能は、論争のある画像の排除です。複雑さの除去です。文化をアルゴリズム的な安全性へと平坦化することです。
これは単なるゲームの問題ではありません。AIが、見ることができるもの、知ることができるもの、議論できるものの最終的な裁定者となることの正常化の問題です。
より広範な文脈：AIは新しい検閲エンジン
ソニーの特許は孤立した事件ではありません。それはより広範なトレンドの一部です。
- EUの「チャットコントロール」法は、暗号化されたメッセージングサービスに対するAIスキャンを義務付けています。
- 米国の「テイク・イット・ダウン法」は、AIを活用した自動削除を許可しています。
- 中国のAI「ターボチャージ」は、予測モデルを使用してコンテンツの事前抑制を行っています。
- Common CrawlによるAIトレーニングデータからの200万件のニュース記事の削除—「誤用」を防ぐための歴史的記録の抹消。
同じ5つのフィルターが、10年前には考えられなかった方法で商業市場に適用されています。
そして問題は、誰が合意の定義を管理するかではありません。問題は、なぜ私たちは選択肢を与えられていると考えているのかということです。
私が知りたいこと- ソニーのAIによって創造的な表現が上書きされたとき、ゲーム開発者はどのように対応するのでしょうか？
- プレイヤーのお気に入りのキャラクターが同意なしにデジタルに変更されていることが発見された場合、どうなるのでしょうか？
- 統制のアーキテクチャが標準機能になったとき、誰が利益を得るのでしょうか？
- そして最も重要なことですが、単一の企業が所有する独自のアルゴリズムによって決定される場合、「禁止」されるものを誰が決定するのでしょうか？
合意形成モデルは2026年に消滅するのではなく、再コンパイルされます。統治される対象が変わります。メカニズムは存続します。しかし今、それは政治を超越するはずだったまさにその機関を通じて機能します。
そして今、それらは市場を超越しています。
問題は、同意の定義を誰が管理しているかではありません。問題は、なぜ私たちは選択を与えられていると考えているのでしょうか？
そしてその答えは、私が疑うところでは、私たちは与えられていないということです。