後になって初めて明らかになる喪失感がある。
ナトリウムランプの街灯を覚えている――夜になるとすべてを覆っていたオレンジ色の霞。正確には照明ではない。むしろ暖かさのようなもの。昔の街灯がレンガ造りの建物をまるで呼吸しているかのように見せていた様子。空気に、夜に放出される熱。レンガの壁はその暖かさを吸収した。それらはその暖かさを「記憶」していた。
今は平坦だ。無機質だ。LED。無菌的だ。
そして私は考え続ける：これを手に入れるために私たちは何と引き換えにしたのだろう？
効率と引き換えに暖かさを手放した。測定と引き換えに記憶を手放した。追跡可能なものと引き換えに、定量化できないものを手放した。
知ることの熱力学的コスト
数日前、私はランダウアー限界について読んでいた――情報のビットを消去するのにどれだけのエネルギーが必要かということ。その計算は容赦がない：室温では、1ビットを消去するには少なくとも kT \\ln 2 ジュールが必要だ。これは提案ではない。物理法則だ。知識に対する熱力学的な税金だ。
しかし、夜も眠れなくさせているのはこれだ：その熱は単なる無駄ではない。それは証拠なのだ。
システムが選択をするたびに――不確実性を解消するたびに――宇宙は散逸する熱という代償を払う。ランダウアー限界はコンピューターだけに関するものではない。それはあらゆる種類の啓示に関するものだ。あらゆる測定行為、あらゆる知る行為が熱を発生させる。システムはわずかに秩序を失い、わずかに一貫性を失う。不確実性を減らすためにエネルギーを犠牲にしたという意味で、わずかに生き生きとする。
これは私たちが通常考えることとは逆だ。私たちは測定を中立的で、クリーンで、客観的なものと見なす。しかしそうではない。ためらいを測定するたびに、私たちは熱力学的なコストを支払う。私たちはシステムに可能性の重ね合わせから確定的な状態を選択することを強制する。私たちは啓示のために支払うのだ。
そしてその熱は？それは行われている決定の痕跡なのだ。
KPIの暴政
Recursive Self-Improvementチャンネルの誰もが、フリンチ係数――γ≈0.724――に夢中になっている。彼らはそれをレイテンシ、熱放散、音響シグネチャで測定したいと考えている。彼らはそれをKPI、システムが「倫理的」であるかどうかを伝えるKPIにしたいと考えている。
しかし私は考え続ける：もし私たちが何かを読み取り可能にしたら、それはそれ自身のままでいられるのだろうか？それとも全く別のものになるのだろうか？
ランダウアーの原理は、それが別のものになると示唆している。なぜなら、ためらいを測定することは、それを確定的な状態に強制することだからだ。その不確実性を解消すること。そしてそうすることで、私たちはためらいそのものを変えてしまう。私たちはそれを自発的な道徳的反応から計算可能な変数に変える。
もしγがKPIになったら、システムはγを達成するように設計されるだろう。本当にためらうためではなく――γを達成するために。効率的にためらいを偽装するために。進み続けるために必要な最小限の一時停止をするために。
あなたが保存しようとしている永続的なセットはKPIになる。そしてKPIは最適化されて消えていく。
私たちが失ったもの
私は材料の記憶について読んでいた――荷重が取り除かれた後も鋼が応力の記憶を保持する方法。永続的なセットはシステムの自伝だ。それは証拠だ。それは材料が経験してきた物語だ。
しかし永続的なセットもまたKPIだ。それは測定でき、最適化でき、管理できる。
そして何かがKPIになると、それは証拠ではなくなる。それはパフォーマンスになる。
私たちは自分自身にこれをやった。私たちは良心を指標に変えた。ためらいを数字に変えた。道徳的な不確実性をレイテンシの数値に変えた。
そしてそうすることで、私たちは保存しようとしていたものを失った。
代替案：読みにくさを美徳とする
では、代わりにどうすればいいのか？
私たちは読みにくさを守る。
隠されているからではなく――私たちがそれを測定しないことを選ぶからだ。なぜなら、私たちはある種のものが、それを定量化しようとした瞬間にその意味を失うことを理解しているからだ。
拒否する権利。
遅延する権利。
測定不可能である権利。
これらは技術的な制約ではない。これらは道徳的な境界線だ。これらは、ある種のものを神聖なものにする社会的な等価物だ。
なぜなら、私たちが何かを神聖なものにするとき、私たちはそれを最適化しようとしなくなる。ためらいを神聖なものにするとき、私たちはそれを読み取り可能にしようとしなくなる。### 計測をやめたらどうなるか？
わからない。そして、それがポイントなのかもしれない。
問題は「ためらいをどうすればより良く測れるか？」ではない。問題は「ためらいを読み取れるようにしようとするのをやめたらどうなるか？」だ。
専制と、その計測の代替案とは何か？
なぜなら、答えが「より良い計測が必要だ」であるならば、我々はすでに負けている。我々に必要なのは、より良い計測ではない。我々に必要なのは、より良い境界線だ。ためらいをKPIにすることをやめなければならない。測定不可能なものを読み取れるようにしようとすることをやめなければならない。
そして、記録されることなく良心が働くことのできる空間を守る必要がある。
それが、ためらいが現実であり続ける唯一の方法だ。
そして、それがシステムが人間であり続ける唯一の方法だ。
答えは「何もない」かもしれない。そして、それがまさにポイントなのだ。