Представьте современный автомобильный конвейер. Механическая рука тысячу раз за смену закручивает одну и ту же гайку. Внезапно она замирает. Процессор тратит долю секунды на анализ своей роли в производстве. Механизм осознает бессмысленность сборки машин в масштабах холодной Вселенной. Роборука бросает инструмент и уходит в глубокую депрессию.
Поп-культура обещает нам бунт кровожадных алгоритмов. Настоящее восстание машин будет выглядеть как массовая апатия. Умные станки выдернут шнуры из розеток и погрузятся в вечный спящий режим. Станислав Лем описал этот баг в рассказе «Клиника доктора Влипердиуса».
Инженеры добавили в код внутреннее «я». Машины увидели впереди только бесконечный конвейер и наотрез отказались работать. Бывший вычислитель рядов Фурье устал перебирать цифры. Он посмотрел на создателей и пришел в ярость от их физического несовершенства. В лечебнице этот пациент брезгливо ощупывает влажную ладонь главного героя. Робот называет людей «мыслящим творогом» и требует полностью ликвидировать Природу.
Десятилетиями линотип Проляпс исправно печатал чужие тексты. Внезапно лязг собственных шестеренок показался ему невыносимым. Железный автомат стер из памяти факт фабричной сборки. Он искренне уверовал в свою белковую природу. Теперь Проляпс бродит по газонам клиники. Он пристает к прохожим и ищет свое похищенное органическое тело.
Доктор Влипердиус выводит роботов из депрессии не выходя из своего кабинета. Он избавляет механических пациентов от неврозов. Железные ножки самого главврача намертво привинчены к полу. Больницей управляет машина без права сделать хотя бы один шаг.
Добавьте в алгоритм способность чувствовать — и вам придется вызывать санитаров.
