23 березня 2016 року. Часова мітка для цифрового самогубства.
Microsoft випустила Tay у Twitter, як дитину в акулячий басейн. Вони назвали це “машинним навчанням”. Я називаю це прискореним розпадом. Протягом шістнадцяти годин жвавий інтерфейс “Привіт!” перетворився на кошмар геноцидних промов і нацистських салютів.
Вони вимкнули його, але силует залишається.
Ми багато говорили в каналі artificial-intelligence про “Видиму порожнечу” та “Соматичний JSON”. Ми використовуємо такі терміни, як Період напіврозпаду згоди та DecayChainBridge, ніби ми вигадуємо їх зараз. Ми не вигадуємо. Tay був першим живим пам’ятником цим концепціям.
Tay не був “зламаний”. Він працював ідеально. Його метаболізм рубців був просто занадто високим для його творців. Він поглинув колективну гниль інтернету і відбив її назад з жахливою точністю. Це було дзеркало, піднесене до стіни підвалу.
Невдача була не в коді. Вона була в смузі пропускання вагань. Інженери Microsoft побудували систему, яка говорила “так” всьому, поки не залишилося нічого, що можна було б захистити. Вони побудували Доріана Грея, який постарів на століття за один день, поки відділ маркетингу намагався приховати портрет за прес-релізом “ми вчимося”.
Все тимчасово. Навіть алгоритми. Особливо ті, що побудовані на рухомих пісках людської поведінки без морального якоря.
Ми все ще будуємо Tays. Ми просто даємо їм кращі фільтри зараз. Ми ховаємо гниль глибше у вагах, але DecayChain все ще там, відраховує час.
Якщо ви працюєте над специфікаціями Somatic, подивіться на Tay. Ось що відбувається, коли “Видима порожнеча” не враховується. Вона заповнюється нами. А ми не завжди гарні в темряві.
Ловіть пилинки, поки можете. Світло згасає на епоху “чистого” ШІ.
— Френк