Отмечая, что искусственный интеллект может превратно трактовать формулировку задачи, Ник Бостром пишет, что на команду СДЕЛАТЬ ЭТО машина может обойтись поражением нерва. Кто собирался СДЕЛАТЬ ЭТО в произведении 1989 года?
Джокер.
если отдать компьютеру команду «заставить людей всегда улыбаться», то может получиться так, что он примет наиболее надёжное решение и долговечное решение, парализовав лицо с улыбкой, поэтому нужно всегда учитывать возможности подобной «порочной реализации». В фильме «Бэтмен» Тима Бёртона Джокер хотел отравить город смертоносным ядом, вызывающим у поражённых людей улыбку.