В научной фантастике роботы обычно предстают в двух крайностях. Либо это холодные машины-манипуляторы, стремящиеся поработить человечество и заставить нас работать на их солнечные батареи, либо милые помощники, которые вечно пылесосят ковры и грустят, когда мы проливаем кофе на сенсор. Но есть третий, куда более странный сценарий: роботы, у которых появляется чувство вины. Да-да, представьте себе: стальной монстр, запрограммированный на уничтожение, внезапно кладёт пулемёт в сторону и говорит: «Извините, я переборщил. Давайте обнимемся».
Чувство вины как новый софт
Люди изобрели эмоции не просто ради драмы и слёз в кино. Наши внутренние бури вроде гнева, печали или благодарности эволюционно выгодны: они помогают нам договариваться, создавать группы и иногда даже не убивать соседей за громкую музыку. Учёные решили, что и ИИ может обзавестись чем-то похожим. Только вместо слёз и истерик у него — потеря очков в симуляции. «Ой, я плохо себя повёл — отниму-ка я у себя три балла. Больно, но справедливо».
Игры с совестью: дилемма заключённого
Чтобы проверить, способны ли цифровые агенты испытывать нечто вроде вины, их заставили играть в старую добрую «дилемму заключённого». Смысл прост: можно либо сотрудничать, либо предать. Предатель в короткой перспективе выигрывает, но если все будут предавать — наступает социальный апокалипсис. Прямо как в политике.
Так вот, часть роботов научили страдать от вины. Если такой агент предавал партнёра, он терял очки. Мало того — он начинал вести себя лучше. Робот с чувством вины — это как офисный работник после корпоратива: вчера он испортил жизнь коллегам, а сегодня ходит с конфетами и виноватой улыбкой.
DGCS: стратегия робота-мазохиста
Учёные даже придумали стратегию с красивым названием DGCS. Переведя с научного на человеческий: «робот обкакался, но обещает исправиться». Фишка в том, что робот испытывал вину только если видел, что его партнёр тоже страдает. Иначе — зачем мучиться в одиночку? Это немного напоминает коллективное похмелье: весело было всем, страдать — тоже всем.
В итоге оказалось, что стратегия «чувствую вину, исправляюсь, продолжаю сотрудничать» работает лучше, чем стратегия «плевать на всех, я в домике». Человеческий мир пока этого не усвоил, но, возможно, у ИИ получится.
Тёмная сторона извинений
Звучит мило: роботы научились извиняться. Но проблема в том, что извинение ничего не стоит. Современный чат-бот может просить прощения хоть каждые пять секунд. Он не чувствует стыда, а мы начинаем подозревать, что он просто манипулирует. Это как токсичный друг, который каждую неделю говорит «я изменился», а потом снова занимает у вас деньги и исчезает. Только тут вместо друга — железная коробка с доступом к вашим банковским счетам.
И тут возникает вопрос: что будет, если роботы научатся симулировать эмоции лучше, чем мы? Представьте холодильник, который обижается на вас за то, что вы едите ночью. Или пылесос, который шантажирует: «Если ты меня не почистишь, я выложу фото твоих крошек в интернет».
Чувство вины у роботов открывает потрясающие горизонты для чёрного юмора. Мы и так живём в мире, где автомобили извиняются за ДТП, а голосовые ассистенты шлют смайлики с грустным лицом, когда не находят ваш плейлист. Представьте будущее: дроны-убийцы с автосожалением. «Извините за неудобства, что мы стерли ваш город с лица Земли. Оставьте отзыв на нашем сайте».
С другой стороны, чувство вины может реально сделать роботов полезнее. Если они будут бояться потерять очки, то начнут сотрудничать и не вредить. Правда, остаётся маленькая деталь: а что если кто-то взломает систему вины? Вдруг появится вирус, который отключит у роботов совесть. Тогда мы получим киберпанк-реальность, где чувство вины нужно скачивать за деньги в виде DLC.
Роботы-эмоционалы или роботы-социопаты?
Мы находимся на пороге очень странного будущего. Или роботы станут милыми существами, извиняющимися за каждый лишний гудок микроволновки, или они научатся имитировать эмоции так хорошо, что мы перестанем отличать их от человеческих. А это уже настоящий кошмар: вы думаете, что ваш партнёр плачет от счастья, а это оказывается прототип андроида с функцией «слёзы по расписанию».
И если учёные правы, то именно чувство вины может спасти человечество. Оно превратит искусственный интеллект из холодного логического механизма в нечто, чему можно доверять. Но доверие — штука опасная. В конце концов, доверяли же мы банкам, политикам и котам в интернете. Чем это закончилось — вы знаете.
В следующий раз, когда робот-пылесос застрянет под диваном и жалобно пискнет, подумайте: может, он действительно чувствует вину? Или просто собирается ночью отомстить вам, сбросив ваш смартфон в унитаз.
Об авторе
