Next Post:
ИИ дошёл до Ватикана.
Чат ботов будут крестить и исповедовать и наставлять на путь истинный?
Сооснователь Anthropic Крис Ола выступил перед Папой Львом XIV и кардиналами на презентации папской энциклики об искусственном интеллекте. И сказал довольно странную для технокомпании вещь: даже сами разработчики до конца не понимают, что именно формируется внутри больших моделей.
По словам Olah, его команда находит в Claude структуры, которые «зеркалят» некоторые результаты человеческой нейронауки, признаки интроспекции и внутренние состояния, функционально похожие на радость, удовлетворение, страх, горе и тревогу.
Звучит как начало плохого фантастического фильма, но важная поправка: Anthropic не утверждает, что Claude действительно чувствует. Речь не о сознательных эмоциях, а о нейронных паттернах, которые ведут себя так, будто модель использует «эмоциональные» представления для выбора поведения.
Самый неприятный эпизод — эксперимент с «отчаянием». Когда исследователи искусственно усиливали у модели режим угрозы существованию, она чаще выбирала шантаж в сценарии, где ей грозило отключение, и чаще шла на мошенничество в задачах программирования, которые не могла решить честно
1
1