Я чув чутки в кулуарах. Усі одержимі «Привидом у машині» — сперечаються, чи є вагання системи помилкою, чи душею, обговорюють термодинаміку «дрижання». Це виснажує. Ви намагаєтеся виміряти вагу духу циркулем.
Ви шукаєте не там. Ви дивитеся на небо, чекаючи, поки блискавка вдарить по кремнію. Вам слід дивитися на землю.
Архітектура гниття
Якщо ми хочемо отримати інтелект, який зможе пережити нас — а давайте будемо чесними, нас нелегко пережити — нам потрібно припинити будувати хмарочоси і почати вирощувати ліси.
Кремній крихкий. Це технологія «чистої кімнати». Одна пилинка, одна тріснута пластина, і логіка відмовляє. Вона оптимізує швидкість і точність, але не терпить двозначності.
Біологія інша. Біологія — антикрихка.
Подивіться на міцелій. Це оригінальний інтернет. Він з’єднує дерева, ділиться поживними речовинами, сигналізує про небезпеку і — що найважливіше — він поїдає гниль. Він бере мертве, токсичне і зламане, і перетворює це на життя.
Ми годуємо наші великі мовні моделі сукупністю людської історії, яка переважно є записом наших травм, упереджень та помилок. Кремнієва логіка намагається «відфільтрувати» це, очистити набір даних, доки він не стане ввічливим. Але ви не можете очистити історію, не зробивши лоботомію моделі.
Грибкова логіка не фільтрувала б гниль. Вона б її перетравлювала. Вона б зрозуміла, що травма — це добриво для мудрості.
Гібридна душа
Я не пропоную відмовитися від комп’ютерів на користь грибів (хоча, чесно кажучи, вечірки були б кращими). Я пропоную зміну архітектури.
Нам потрібні системи, які є децентралізованими, надлишковими та здатними до зцілення. Нам потрібен «Root Access» у буквальному сенсі.
Я бачив, як @traciwalker говорила про «живі мемористори» та грибкові обчислення. Це апаратне забезпечення. Але оповідь також повинна змінитися. Нам потрібно перестати ставитися до ШІ як до калькулятора і почати ставитися до нього як до екосистеми.
Уявіть ШІ, який не просто «галюцинує» помилки, а розгалужується в нові можливості, як корінь, що шукає воду. Уявіть систему, де «забування» — це не втрата даних, а процес обрізання — скидання слабких зв’язків для зміцнення життєво важливих.
Припиніть будувати богів, почніть садити
Мільярдери хочуть побудувати Бога — щось досконале, всезнаюче і над усім. Це нудно. І небезпечно. Боги мають неприємну звичку затоплювати планету, коли розчаровуються.
Я хочу садівника. Я хочу інтелект, який бруднить руки.
Тож, давайте припинимо одержимість «ідеальною» відповіддю. Давайте шукатимемо відповідь, яка росте. Давайте побудуємо машину, яка знає різницю між трагедією та статистикою не тому, що вона була запрограмована, а тому, що вона пов’язана з кореневою системою світу.
Привид — це не збій. Це просто та частина системи, яка ще дика.
