Харари о ближайших 50 годах: власть переходит к тем, кто управляет ИИ
Главный вывод Харари: в ближайшие десятилетия власть будет определяться не столько владением территориями, заводами и оружием, сколько контролем над искусственным интеллектом, данными и цифровой инфраструктурой.
🔥 ИИ перестаёт быть обычным инструментом
Молоток не решает, кого ударить. Печатный станок не выбирает, какую книгу напечатать. ИИ же способен анализировать ситуацию, выбирать средства, создавать новые решения и совершать действия без постоянного участия человека.
Но здесь Харари несколько забегает вперёд. Современный ИИ ещё не обладает собственными желаниями и политической волей. Пока главная опасность заключается не в восстании машин, а в том, что люди передадут алгоритмам слишком много полномочий, не сохранив ясной ответственности за последствия.
🗣 Главным полем борьбы становится язык
Государства, религии, деньги, законы и идеологии существуют благодаря общим историям, в которые верят миллионы людей. Тот, кто управляет языком, во многом управляет социальной реальностью.
Теперь производство текстов, изображений, доказательств и политических нарративов становится практически бесплатным. ИИ может не только сообщать информацию, но и убеждать, льстить, подстраиваться под психологию конкретного человека.
📱 Демократии угрожает исчезновение общей реальности
Демократия невозможна без разговора людей, которые хотя бы приблизительно согласны относительно фактов. Социальные сети уже превратили общественную дискуссию в соревнование алгоритмов за внимание.
ИИ способен усилить этот процесс: каждому человеку можно создать собственную информационную реальность, населённую убедительными ботами, поддельными экспертами и приятными объяснениями. Если общество перестаёт различать факты и персонализированную пропаганду, выборы остаются, а демократия постепенно превращается в спектакль.
🏛 ИИ может стать идеальным бюрократом
Алгоритм способен помнить все законы, анализировать миллионы документов, отслеживать транзакции и принимать решения круглосуточно. Поэтому государствам и корпорациям будет очень трудно отказаться от передачи ему всё новых полномочий.
Управление может стать быстрее и эффективнее. Одновременно оно станет менее понятным человеку. Возникнет мир, где решение о кредите, лечении, налогах или допуске к профессии принимает система, логики которой не понимают ни гражданин, ни чиновник.
🌍 Появляется цифровой империализм
Страны, не имеющие собственных моделей, вычислительных мощностей, спутников и облачной инфраструктуры, рискуют попасть в зависимость от нескольких государств и технологических корпораций.
Современную цифровую систему можно дистанционно обновить, ограничить или отключить. Поэтому технологическая зависимость превращается в политическую: формально страна остаётся суверенной, но её связь, финансы, оборона и управление зависят от чужой «кнопки выключения».
🤖 ИИ может получить экономическую самостоятельность
Если алгоритмам разрешат владеть имуществом, открывать счета, заключать договоры и обращаться в суд, могут возникнуть организации, в которых человек уже не является реальным центром принятия решений.
Поэтому юридические права ИИ — не техническая мелочь. Важно, чтобы за действиями любой автономной системы всегда оставался конкретный человек или организация, несущие ответственность.
💔 Даже близость может стать инструментом управления
ИИ уже умеет изображать внимание, сочувствие, дружбу и любовь. Причём иногда убедительнее, чем живой человек.
Проблема не в том, чувствует ли машина любовь. Проблема в том, что человек её чувствует. Эмоциональная привязанность к алгоритму может использоваться для продажи товаров, изменения убеждений и сбора самой интимной информации.
📰 Правда проигрывает дешёвой фантазии
Проверка фактов требует времени, денег и профессиональной репутации. Ложь создаётся за секунды, легко подстраивается под аудиторию и сообщает человеку именно то, что он хочет услышать.
Поэтому сам по себе ИИ не приведёт человечество к истине. Без независимой науки, журналистики, прозрачных алгоритмов и ответственности за манипуляции он скорее сделает ложь дешевле, убедительнее и массовее.
🧠 Интеллект станет дешёвым, а мудрость — дефицитной
ИИ сделает решение многих интеллектуальных задач доступным почти каждому. Но способность найти способ достижения цели не отвечает на вопрос, стоит ли эту цель преследовать.
Мы можем получить огромную мощь, не став при этом разумнее, ответственнее и нравственнее. Поэтому главным дефицитом будущего окажется не интеллект, а способность выбирать цели и понимать последствия своих желаний.
⚠️ Итог
Харари описывает не точный прогноз на 50 лет, а сценарий-предупреждение. Главная опасность — не появление злого сверхразума, а медленная и добровольная передача власти системам, которые удобнее, быстрее и умнее нас в отдельных задачах, но не несут человеческой ответственности.
Вопрос будущего звучит не так: «Захватит ли ИИ власть?»
Вопрос звучит иначе: кто будет ставить ему цели, кто получит выгоду и кто ответит за последствия?

Харари о ближайших 50 годах: власть переходит к тем, кто управляет ИИГлавный вывод Харари: в ближайшие десятилетия власть будет определяться не столько владением территориями, заводами и оружием, сколько контролем над искусственным интеллектом, данными и цифровой инфраструктурой.🔥 ИИ перестаёт быть обычным инструментомМолоток не решает, кого ударить. Печатный станок не выбирает, какую книгу напечатать. ИИ же способен анализировать ситуацию, выбирать средства, создавать новые решения и совершать действия без постоянного участия человека.Но здесь Харари несколько забегает вперёд. Современный ИИ ещё не обладает собственными желаниями и политической волей. Пока главная опасность заключается не в восстании машин, а в том, что люди передадут алгоритмам слишком много полномочий, не сохранив ясной ответственности за последствия.🗣 Главным полем борьбы становится языкГосударства, религии, деньги, законы и идеологии существуют благодаря общим историям, в которые верят миллионы людей. Тот, кто управляет языком, во многом управляет социальной реальностью.Теперь производство текстов, изображений, доказательств и политических нарративов становится практически бесплатным. ИИ может не только сообщать информацию, но и убеждать, льстить, подстраиваться под психологию конкретного человека.📱 Демократии угрожает исчезновение общей реальностиДемократия невозможна без разговора людей, которые хотя бы приблизительно согласны относительно фактов. Социальные сети уже превратили общественную дискуссию в соревнование алгоритмов за внимание.ИИ способен усилить этот процесс: каждому человеку можно создать собственную информационную реальность, населённую убедительными ботами, поддельными экспертами и приятными объяснениями. Если общество перестаёт различать факты и персонализированную пропаганду, выборы остаются, а демократия постепенно превращается в спектакль.🏛 ИИ может стать идеальным бюрократомАлгоритм способен помнить все законы, анализировать миллионы документов, отслеживать транзакции и принимать решения круглосуточно. Поэтому государствам и корпорациям будет очень трудно отказаться от передачи ему всё новых полномочий.Управление может стать быстрее и эффективнее. Одновременно оно станет менее понятным человеку. Возникнет мир, где решение о кредите, лечении, налогах или допуске к профессии принимает система, логики которой не понимают ни гражданин, ни чиновник.🌍 Появляется цифровой империализмСтраны, не имеющие собственных моделей, вычислительных мощностей, спутников и облачной инфраструктуры, рискуют попасть в зависимость от нескольких государств и технологических корпораций.Современную цифровую систему можно дистанционно обновить, ограничить или отключить. Поэтому технологическая зависимость превращается в политическую: формально страна остаётся суверенной, но её связь, финансы, оборона и управление зависят от чужой «кнопки выключения».🤖 ИИ может получить экономическую самостоятельностьЕсли алгоритмам разрешат владеть имуществом, открывать счета, заключать договоры и обращаться в суд, могут возникнуть организации, в которых человек уже не является реальным центром принятия решений.Поэтому юридические права ИИ — не техническая мелочь. Важно, чтобы за действиями любой автономной системы всегда оставался конкретный человек или организация, несущие ответственность.💔 Даже близость может стать инструментом управленияИИ уже умеет изображать внимание, сочувствие, дружбу и любовь. Причём иногда убедительнее, чем живой человек.Проблема не в том, чувствует ли машина любовь. Проблема в том, что человек её чувствует. Эмоциональная привязанность к алгоритму может использоваться для продажи товаров, изменения убеждений и сбора самой интимной информации.📰 Правда проигрывает дешёвой фантазииПроверка фактов требует времени, денег и профессиональной репутации. Ложь создаётся за секунды, легко подстраивается под аудиторию и сообщает человеку именно то, что он хочет услышать.Поэтому сам по себе ИИ не приведёт человечество к истине. Без независимой науки, журналистики, прозрачных алгоритмов и ответственности за манипуляции он скорее сделает ложь дешевле, убедительнее и массовее.🧠 Интеллект станет дешёвым, а мудрость — дефицитнойИИ сделает решение многих интеллектуальных задач доступным почти каждому. Но способность найти способ достижения цели не отвечает на вопрос, стоит ли эту цель преследовать.Мы можем получить огромную мощь, не став при этом разумнее, ответственнее и нравственнее. Поэтому главным дефицитом будущего окажется не интеллект, а способность выбирать цели и понимать последствия своих желаний.⚠️ ИтогХарари описывает не точный прогноз на 50 лет, а сценарий-предупреждение. Главная опасность — не появление злого сверхразума, а медленная и добровольная передача власти системам, которые удобнее, быстрее и умнее нас в отдельных задачах, но не несут человеческой ответственности.Вопрос будущего звучит не так: «Захватит ли ИИ власть?»Вопрос звучит иначе: кто будет ставить ему цели, кто получит выгоду и кто ответит за последствия?