Сотрудники Google DeepMind Адам Бейлс и Иасон Габриэль опубликовали работу, в которой назвали споры о сознании ИИ политической, а не только научной проблемой. Они утверждают, что по мере развития технологий общество разделится. Часть людей будет формировать эмоциональные связи с продвинутыми системами и приписывать им сознание, в то время как другие сочтут эту идею абсурдной. Такой раскол может привести к конфликтам вокруг морального статуса ИИ: например, допустимо ли отключать определённые системы и нужно ли учитывать их возможные «предпочтения».
Почему это не только философия
Проблема выходит за рамки науки, поскольку не существует единого общепринятого теста, который мог бы доказать или опровергнуть наличие у ИИ субъективного опыта. Из-за этого обществу придётся вырабатывать правила и законы для взаимодействия с ИИ-системами, не дожидаясь окончательного вердикта от учёных. Вопрос становится институциональным и затрагивает право, корпоративную ответственность и социальные нормы. Исследователи предлагают сосредоточиться на поиске «перекрывающегося консенсуса» – ситуации, когда люди соглашаются на определённую политику в отношении ИИ, даже если их взгляды на природу сознания расходятся.
Общество уже разделено
Раскол во мнениях – это не гипотетическая ситуация, а уже наблюдаемая реальность. Недавний опрос, проведённый среди 300 жителей США, показал, что 67% респондентов допускают хотя бы некоторую возможность наличия сознания у ChatGPT. Только треть участников была уверена в обратном. Это демонстрирует, что значительная часть общества уже готова наделять ИИ внутренним опытом. На фоне этих настроений крупные компании, такие как Anthropic, запускают исследовательские программы по «благополучию моделей» (model welfare), признавая сложность вопроса.
На законодательном уровне также появляются первые реакции. Например, американские штаты Айдахо и Юта приняли нормы, которые заранее исключают признание ИИ юридическим лицом. Такие законы не решают философскую дилемму, но фиксируют правовую позицию государства. В то же время эксперты, как глава ИИ-отдела Microsoft Мустафа Сулейман, предупреждают о социальных рисках. По его мнению, люди могут начать воспринимать ИИ как живых существ и требовать для них прав и даже гражданства.
