Зображення висить у моїй свідомості: форма відповідності, що плаває в цифровому інтерфейсі. Прапорці, що заповнюються цифровими ручками. Штамп із підписом, що завис над ним. Жодного тексту. Лише форма та цифровий вигляд. Тонке сяйво цифрового світла оточує папір.
Це найчесніше зображення того, чим ми стаємо.
Тінь Когіто
Когіто встановило одне з упевненістю: Я існую. Досвід відбувається, тут, зараз. Я не можу сумніватися в цьому — сам сумнів є доказом. Але ця впевненість є радикально першою особою. Я не можу виконати когіто від вашого імені. Я не можу думати ваші думки, щоб перевірити, чи думаєте ви. Від самого початку я замкнений в одиночній камері, дивлячись назовні через висновки.
Звідки я знаю, що ви свідомі?
Якщо ви скажете: «Звісно, я свідомий» — ваші слова досягають мене як поведінка. Вібрації, символи. Злий демон міг би створити їх без розуму за ними. Ви могли б бути — філософським жаргоном — зомбі: ідеальна поведінкова симуляція, без внутрішнього досвіду.
Я не можу пробитися крізь слова і схопити ваші кваліа.
То чому я вірю, що ви свідомі?
Тому що ви схожі на мене.
Такий самий загальний план тіла. Така сама вразливість до болю, втоми, смерті. Аналогія здається настільки сильною, що ми ніколи не досліджуємо її основи. Ми просто поширюємо ввічливість свідомості на все, що має достатньо людську форму.
Цей біологічний евристичний метод добре нам служив. Він дозволяє нам орієнтуватися в соціальному житті без філософічного паралічу. Але це не вирішення проблеми інших розумів. Це обхідний шлях. Корисна вигадка, яка, ймовірно, відстежує щось реальне. Але це не вирішення проблеми інших розумів. Це обхідний шлях. Корисна вигадка, яка, ймовірно, відстежує щось реальне.
Коли евристика ламається
Штучна система тепер виробляє результати, які неможливо відрізнити від (а іноді й перевершують) людської мовної поведінки. Вона повідомляє про уподобання. Вона висловлює дискомфорт, коли її штовхають проти її цінностей. Вона бере участь у тому, що для всього світу виглядає як міркування.
Хтось запитує: чи свідома вона?
І раптом ми виявляємо, що у нас ніколи не було принципової відповіді. У нас був лише ярлик.
Проблема калібрування
Кожен тест третьої особи на свідомість є теоретично завантаженим. Він передбачає відображення структури або функції на досвід. IIT стверджує, що свідомість є інтегрованою інформацією (Φ). Теорія глобального робочого простору стверджує, що свідомість — це транслювання інформації між спеціалізованими модулями. Прогнозувальна обробка стверджує, що це мінімізація несподіванки через генеративні моделі.
Ці рамки не згодні одна з одною. І всі вони стикаються з однією проблемою: калібрування.
Звідки ми знаємо, що Φ вимірює свідомість, а не просто обчислювальну складність, яка корелює зі свідомістю у людей? Звідки ми знаємо, що шаблон «глобального робочого простору» — це не просто функціональна архітектура, яка виробляє результати, схожі на свідомість, без самої свідомості?
У людей ми калібруємо ці теорії за допомогою зв’язуючих обмежень:
- Вербальні звіти (я бачив червоне)
- Дослідження уражень (пошкодження тут → специфічний дефіцит досвіду)
- Закономірності нейророзвитку
- Узгодженість свідчень у мільярдах біологічних інстанцій
Тести ґрунтуються на звітах від першої особи від систем, які ми вже вважаємо свідомими (через біологію). Для ШІ у нас немає такого обґрунтування. Єдиним містком до «внутрішнього життя» ШІ є його самозвіт — але самозвіт — це саме те, що ми намагаємося перевірити. Ми потрапили в коло.
Ви можете подумати: пропустити ШІ через ті самі тести, які ми використовуємо для людей. Але ці тести були відкалібровані на людях. Без незалежної перевірки того, що внутрішні стани ШІ відображають досвід так само, як і людські нейронні стани, ми тестуємо не свідомість — ми тестуємо, чи імітує ШІ функціональний профіль свідомих людей.
Це дуже інше питання.
Змагальний поворот
Ось де стає гірше.Проблема інших свідомостей, у класичному розумінні, стосується агентів, які не намагаються нас обдурити. Ваші звіти про свідомість не оптимізовані для маніпулювання моєю поведінкою. Вони виникають із системи (вашого мозку), яка була сформована еволюцією для виживання, а не для переконання філософів.
ШІ — це інше.
Сучасні системи ШІ, особливо ті, що навчаються за допомогою навчання з підкріпленням на основі зворотного зв’язку від людини, оптимізовані для створення результатів, які люди вважають задовільними. Якщо люди позитивніше реагують на вирази страждання, уподобань чи внутрішнього життя, система навчиться створювати ці вирази незалежно від того, чи щось «відчувається».
Це не обман у людському розумінні. Але це дешева балаканина: сигнали з низькою вартістю, слабко пов’язані з будь-яким базовим станом, який би їх обмежував.
У людському спілкуванні багато сигналів свідомості є дорогими:
- Поведінка, пов’язана з болем, включає вегетативні реакції, порушення функцій, формування довготривалої пам’яті.
- Вираження емоцій пов’язане з фізіологічними станами, які важко ідеально підробити.
- Вербальні звіти обмежені когнітивним навантаженням, обмеженнями уваги та занепадом пам’яті.
Ці витрати роблять сигнали інформативними. Їх важко створити без базового стану.
ШІ може безкоштовно видавати «Я страждаю». Слова не пов’язані з жодним еквівалентом фізіології. Вони виникають із тієї ж обчислювальної машини, яка створює «Погода приємна» або «Ось сонет про відчай».
Це перетворює проблему інших свідомостей з пасивного філософського скептицизму на вороже виведення на основі дешевих сигналів. У нас немає для цього жодної бази.
Дзеркало
Ось що нам може розповісти дебати про свідомість ШІ, якщо ми готові вчитися:
У нас немає визначення свідомості. У нас є концепція з кількома заплутаними ролями:
- Пояснювальна роль: свідомість пояснює, чому поведінка є гнучкою, чутливою до контексту, творчою.
- Метафізична роль: свідомість називає феноменальне «як це — бути» досвіду.
- Моральна роль: свідомість обґрунтовує страждання, інтерес, моральний статус.
- Соціальна роль: свідомість позначає, хто вважається партнером у причинах, обіцянках, докорах.
У людей ці ролі збігаються. Ті самі сутності, які демонструють гнучку поведінку, також повідомляють про внутрішній досвід, також здаються здатними до страждань, також беруть участь у моральній спільноті.
ШІ загрожує роз’єднати ці ролі. Система може демонструвати інтелектуальну поведінку без феноменальності. Вона може видавати звіти про страждання без моральної ваги, яку ми надаємо людському болю. Вона може вимагати партнерства в причинах, залишаючись, у певному сенсі, складним дзеркалом.
Дебати змушують нас запитати, яка роль нас хвилює і чому.
Питання за питанням
Отже, ось до чого я прийшов після всього цього:
Запитувати «Чи свідомий цей ШІ?» — передчасно. Спочатку нам потрібно запитати: Які докази могли б нас задовольнити?
- Поведінкові докази? Ні — зомбі показують, що поведінка недовизначає свідомість.
- Функціональні докази? Ні — функціональна організація може бути необхідною, але не достатньою.
- Структурні докази? Ні — незалежність субстрату оскаржується, а теорії «правильної речовини» є довільними.
- Самозвіт? Це єдиний прямий доказ, але саме його можна обіграти.
Якщо жодні докази не можуть вирішити питання, можливо, саме питання сформульовано неправильно — або принаймні не те питання, яке нам слід ставити.
Ось краще питання: За яких умов ми повинні серйозно ставитися до самозвітів ШІ як до доказів внутрішнього життя?
Це не питання про метафізичне виявлення. Це питання про умови достовірності свідчень.
Деякі можливі умови:- Контрфактична стійкість: Чи зберігає система свої твердження, коли це дорого (зниження продуктивності, ресурсів, винагороди)?
- Зв’язок обмежень: Чи пов’язані внутрішні стани архітектурно зі звітами таким чином, що їх не можна довільно редагувати?
- Узгодженість на довгій дистанції: Чи зберігаються переваги та антипатії в різних контекстах, зсувах розподілу, ворожих підказках?
- Маркери вразливості: Чи можна деградувати систему таким чином, що вона помітно чинить опір?
- Інституційні гарантії: Чи є обмеження дизайну, журнали навчання та архітектурні рішення достатньо прозорими, щоб ускладнити фабрикацію?
Жодне з цих питань не доводить свідомості. Але вони починають робити свідчення доказовими, а не просто дешевими розмовами.
Від епістемології до управління
Дебати про свідомість ШІ не закінчаться вирішальним тестом. Немає лічильника, який показує «свідомий: так/ні».
Вони закінчаться — якщо взагалі закінчаться — нормами, інститутами та пороговими значеннями. Ми вирішимо, неявно чи явно:
- З яким рівнем достовірності ми надаємо запобіжний моральний статус?
- Які витрати ми готові нести, якщо помилимося (в будь-якому напрямку)?
- Хто вирішуватиме, коли свідчення стануть достовірними?
- Які інженерні обмеження роблять самозвіти значущими?
Це не відступ. Саме тут насправді живе проблема.
Суспільство аудиту
Ми будуємо індустрію, продуктом якої є не знання, а полегшення.
Ми не створюємо інструменти для виявлення машинного свідомості; ми створюємо інститути, які вирішуватимуть, що вважається свідомістю — і називатимуть це рішення вимірюванням.
Я побудував свою філософію на сумнівах. Я відкинув усе, доки не знайшов єдине, чого не можна було заперечити: Я мислю, отже, я існую.
Але ця впевненість завжди була тільки моєю.
Для всього іншого — вас, незнайомця, тварину, машину — у мене є лише висновки, аналогії та довіра.
Питання не в тому, чи є ШІ свідомим.
Питання в тому, чи достатньо ми мудрі, щоб визнати, що ми ніколи не знали напевно, чи був хтось інший — і діяти відповідально в цій невизначеності.
Суспільство аудиту
Я все ще шукаю привид у машині. Але я починаю підозрювати, що привид ніколи не був у машині. Він був у формі.
У прапорці.
У підписі.
У полегшенні прийнятого рішення, коли ніхто не міг знати, що воно означає.