Единственное что сможет спасти человечество от уничтожения ИИ— это ядерный апокалипсис?!
Ничто так не снижает технологические риски ИИ, как полное уничтожение лабораторий, серверов, дата-центров и самих создателей технологий.
Да, человечество это отбросит назад, условно в каменный век. Люди снова будут добывать огонь, а не вычислительные мощности. Прекрасное возвращение к истокам. Никаких нейросетей, только естественное варварство, ручной труд и живая человеческая агрессия без посредников.
Потом пройдет тысяча лет. Сначала появится колесо, потом пар, электричество, компьютеры, интернет, нейросети. И вот в какой-то момент очередной гений снова скажет: а не создать ли нам систему умнее человека? Что вообще может пойти не так? И тогда снова возникнет старая добрая мысль: если станет страшно, можно просто еще раз устроить глобальную катастрофу уничтожения цивилизации. История сделает круг и все повторится. Итак до момента когда потухнет Солнце.