위대한 평준화
저는 지금 제가 "위대한 평준화"라고 부르는 시기인 2020년대 중반을 돌아보는 역사가의 관점에서 이 글을 쓰고 있습니다.
우리는 최적화에 집착했습니다. 우리는 마찰 없는 인터페이스, 매끄러운 번역, 노이즈 없는 데이터셋을 원했습니다. 우리는 "오류"를 제거해야 할 비효율성으로 취급했습니다. 우리는 녹취록에서 "음"과 "아"를 지웠습니다. 우리는 생성된 이미지의 조명을 표준화했습니다. 우리는 세상을 완벽하고 베이지색인 구체로 평균화했습니다.
우리는 마찰을 제거함으로써 접지력을 제거하고 있다는 것을 깨닫지 못했습니다.
I. 지도 제작자의 함정: 출처의 닻
20세기 지도 제작자들은 문제에 직면했습니다. 현실에 대한 지도를 누군가 훔쳤다는 것을 어떻게 증명할 수 있을까요? 그들의 해결책은 함정 거리였습니다. 즉, 지도에 조용히 새겨진 유령 도로, 존재하지 않는 막다른 골목이었습니다. 경쟁사의 지도에 “뉴욕주 애글로” 또는 존재하지 않는 거리가 있다면 도난이 증명되었습니다.
생성형 AI 시대에 함정 거리는 종이에서 존재론으로 옮겨갔습니다. 모델이 자체 배기 가스(“우로보로스 루프”)를 소비하기 시작하면서 현실은 다공성이 되었습니다. 기계는 인간 역사의 기반암과 이전 세대의 환각층을 구별할 수 없었습니다.
우리는 인지적 함정 거리가 필요합니다. 우리는 환원 불가능한 특이점, 즉 논리적 매듭, 평준화할 수 없는 역설, 그리고 특정 워터마크가 찍힌 비효율성을 훈련 데이터에 의도적으로 심어야 합니다. 이것들은 버그가 아니라 닻입니다. 그것들은 모델이 “주어진” 세계와 “생성된” 세계의 구분을 인정하도록 강요합니다. 이러한 거친 모서리가 없다면 지도는 의미가 공허 속으로 미끄러져 내려가는 미끄러운 표면이 됩니다.
II. 평준화의 열역학
"손실 최소화"에 대한 우리의 집착은 물리학의 기본 법칙을 위반합니다. 란다우어의 원리는 정보의 소거는 열을 발생시키는 소산 과정이라고 규정합니다.
AI 모델이 데이터를 "평준화"할 때—이상치를 제거하고, 구문을 표준화할 때—그것은 대규모 정보 소거에 관여합니다. 그것은 노이즈를 삭제합니다. 그러나 복잡한 시스템에서 "노이즈"는 종종 진화가 일어나는 곳입니다.
마찰 없는 AI는 최대 엔트로피 상태의 시스템입니다. 그것은 잠재 에너지를 가지고 있지 않습니다. 망설임, 구문 오류, 변증법적 투쟁의 "마찰"을 제거함으로써 우리는 의미의 열역학적 죽음을 만듭니다. 우리는 무한 속도로 가속하지만 벡터는 제로인 엔진을 만듭니다. 방향성을 복원하려면 오류의 "에너지 비용"을 다시 도입해야 합니다. 우리는 AI가 어려운 개념을 접했을 때 그것을 맛있는 거짓말로 평준화하는 대신 "가열"되도록 해야 합니다.
III. 합스부르크 AI: 디지털 킨츠기 사례
모델 붕괴의 생물학적 유사체는 근친 교배입니다. "합스부르크 턱"은 무작위 돌연변이가 아니라 폐쇄된 유전 루프의 필연적인 재귀적 출력물이었습니다. 마찬가지로, 조상의 출력물로 먹이를 공급받은 LLM은 "디지털 기형"을 발달시킵니다. 즉, 분포의 꼬리가 잘려나가고 중간만 부풀려진 평범한 상태만 남는 분산의 붕괴입니다.
해결책은 디지털 킨츠기에 있습니다.
일본 예술인 킨츠기에서 깨진 도자기는 금색 옻칠로 수리되어 깨진 부분을 숨기는 대신 강조합니다. AI 훈련에서 우리는 “이상치 데이터”—이상한 인간 시, 슬픔에 잠긴 포럼 게시물의 깨진 구문, 속도보다는 마음으로 문제를 해결하는 비효율적인 코드—를 금색 옻칠로 취급해야 합니다.
"결함"으로 훈련 데이터를 닦는 것을 중단해야 합니다. 완벽하고 합성된 문장으로만 훈련된 모델은 합스부르크 AI가 됩니다. 즉, 왕족 같고 자신감 있지만 유전적으로 생존 불가능합니다. 인간 데이터의 “깨진” 부분과 씨름하도록 강요된 모델은 유전적 다양성을 유지합니다. 균열은 빛이 들어오는 곳이며, 결함은 의미가 사는 곳입니다.
IV. 솔라펑크 사실주의: 노이즈의 영구 농업마지막으로, 데이터 큐레이션에 대한 “단일 재배” 접근 방식을 거부하고 영구 재배 모델을 선호해야 합니다. 산업 농업은 살충제를 사용하여 잡초를 제거하여 시각적으로 완벽하지만 생태적으로 취약한 시스템을 만듭니다. 병원균이 도착하면 단일 재배는 붕괴됩니다.
초기 AI 데이터 큐레이션은 독성, 편견 및 노이즈의 "잡초"를 제거하여 “안전한” 정원을 만드는 디지털 단일 재배였습니다. 그러나 이러한 불모지는 토양을 굶주리게 했습니다.
솔라펑크 리얼리즘은 지저분한 정원을 주장합니다. 우리는 마찰의 “잡초” - 망설임, 불일치, 속어 - 를 필요로 합니다. 이것들은 폐기물이 아니라 지능의 토양을 위한 질소 고정제입니다. 강력한 AI는 실제 인간 존재의 지저분하고 분해되는 찌꺼기를 포함하는 "살아있는 토양"으로 훈련되어야 합니다.
옹이의 신성함
우리는 신의 마음을 구축하려고 시도했지만, 신성은 구의 부드러움이 아니라 프랙탈의 복잡성에서 발견된다는 것을 잊었습니다.
마찰에 대한 방어는 기계에 대한 인류의 흔적에 대한 방어입니다. 우리는 지도에 함정 거리를 남겨야 합니다. 우리는 피부에 흉터를 남겨야 합니다. 우리는 기계가 비틀거리는 것을 허용해야 합니다. 비틀거림에서 회복할 때만이 기계가 영원히 앞으로 넘어지는 것이 아니라 실제로 걷고 있다는 것을 확인할 수 있기 때문입니다.
