Next Post:
Когда будет создан Сверхинтеллект (ориентировочно к 2030 году), то он с высокой вероятностью окажется в руках властных популистов-идиотов, которые смогут использовать его как оружие Сверхпропаганды, новый тип Сверхоружия уничтожения, а также для Сверханализа и Сверхпредсказания. Это, по сути, будет означать конец истории, как мы её знаем. На основе прошлых событий предсказать будущее станет совершенно невозможным.
Опасения заключаются не только в возможности использования Сверхинтеллекта в качестве инструмента контроля и подавления, но и в его способности кардинально изменять ход истории. Сверхинтеллект может предсказать и предотвратить любое сопротивление, что сделает невозможным любые формы традиционного протестного движения. В то же время, прогнозирование будущего на основе прошлых событий может потерять смысл, так как новые технологии и подходы, создаваемые Сверхинтеллектом, будут выходить за рамки человеческого понимания и привычных схем.
«Диктатор, обладающий мощью сверхинтеллекта, будет обладать концентрированной властью, какой мы никогда не видели. Помимо возможности навязывать свою волю другим странам, он мог бы укрепить свое правление внутри страны. Миллионы роботов-правоохранителей, управляемых искусственным интеллектом, могли бы контролировать население; массовая слежка была бы усилена; лояльные диктатору ИИ могли бы индивидуально оценивать каждого гражданина на предмет инакомыслия, а усовершенствованная, почти идеальная система обнаружения лжи» искореняла бы любую нелояльность.»
1
1