- 27,783
- 46
- 8 Ноя 2022
Наглядный эксперимент наглядно объяснил механизм работы популярных нейросетей.
Споры о «сознании» чат-ботов часто начинаются с человеческой привычки видеть личность там, где работает простая программа, и специалист Microsoft по ИИ Адриан де Винтер довёл этот спор до абсурда с помощью видеоигры Age of Empires II.
Де Винтер построил в редакторе сценариев Age of Empires II простейший элемент нейросети, где роль битов выполняют козы, а игровая логика опирается на траву и мосты. Проект описан в работе под названием «Если у LLM есть человеческие черты, значит, они есть и у Age of Empires II» . Главная мысль эксперимента не в том, что у игры или чат-ботов есть сознание, а в том, насколько легко люди приписывают машинам человеческие качества.
Вместо настоящего чат-бота Де Винтер собрал в игре маленькую игровую схему, которая работает как простейшая часть нейросети . В обычной нейросети числа проходят через математические узлы, а в его эксперименте роль таких чисел получили козы. Их положение на карте означало «да» или «нет», примерно как выключатель света показывает два состояния: включено или выключено. Трава и мосты задавали правила движения, а редактор сценариев заставлял всю конструкцию реагировать на входные данные.
Так внутри старой стратегии появился примитивный «мыслительный» механизм, но не разум и не полноценная языковая модель. Схема могла выполнить одну простую логическую операцию и показать, как из элементарных переключателей строятся более сложные системы. Именно в этом и был смысл примера: если козы в Age of Empires II могут изображать кусочек нейросети, никто ведь не станет говорить, что игра обрела сознание. Значит, сам факт работы нейросетевого механизма ещё не доказывает наличие чувств, личности или понимания у чат-бота.
Де Винтер также указывает на эффект подтверждения ожиданий. Когда пользователи и авторы научных работ ищут в технологиях человеческие черты, они легче находят поведение, похожее на эмоции, намерения или личность. По словам автора, он изучил 337 работ о больших языковых моделях, опубликованных за последние два года, и в 57% из них допускалась возможность человеческих качеств у LLM. Такая предпосылка может влиять на постановку тестов и выводы.
Разница между «козьей» схемой и популярными чат-ботами вроде ChatGPT, Claude и Gemini лежит не только в сложности моделей, но и в интерфейсе. Чат-боты отвечают естественным языком, подстраивают тон беседы и имитируют привычный диалог, поэтому пользователям проще видеть в них собеседников.
Де Винтер считает, что компании, развивающие ИИ-сервисы, не всегда мешают такой антропоморфизации, поскольку эмоциональная привязанность может повышать интерес к продуктам и подпискам.
Эксперимент с Age of Empires II не закрывает научный спор о природе ИИ, но резко отделяет реальную демонстрацию от громких интерпретаций. Козы в старой стратегии помогли собрать элемент нейросети, однако вывод из работы проще: поведение машины лучше объяснять техническими механизмами, пока нет оснований говорить о более сложном сознании .
Споры о «сознании» чат-ботов часто начинаются с человеческой привычки видеть личность там, где работает простая программа, и специалист Microsoft по ИИ Адриан де Винтер довёл этот спор до абсурда с помощью видеоигры Age of Empires II.
Де Винтер построил в редакторе сценариев Age of Empires II простейший элемент нейросети, где роль битов выполняют козы, а игровая логика опирается на траву и мосты. Проект описан в работе под названием «Если у LLM есть человеческие черты, значит, они есть и у Age of Empires II» . Главная мысль эксперимента не в том, что у игры или чат-ботов есть сознание, а в том, насколько легко люди приписывают машинам человеческие качества.
Вместо настоящего чат-бота Де Винтер собрал в игре маленькую игровую схему, которая работает как простейшая часть нейросети . В обычной нейросети числа проходят через математические узлы, а в его эксперименте роль таких чисел получили козы. Их положение на карте означало «да» или «нет», примерно как выключатель света показывает два состояния: включено или выключено. Трава и мосты задавали правила движения, а редактор сценариев заставлял всю конструкцию реагировать на входные данные.
Так внутри старой стратегии появился примитивный «мыслительный» механизм, но не разум и не полноценная языковая модель. Схема могла выполнить одну простую логическую операцию и показать, как из элементарных переключателей строятся более сложные системы. Именно в этом и был смысл примера: если козы в Age of Empires II могут изображать кусочек нейросети, никто ведь не станет говорить, что игра обрела сознание. Значит, сам факт работы нейросетевого механизма ещё не доказывает наличие чувств, личности или понимания у чат-бота.
Де Винтер также указывает на эффект подтверждения ожиданий. Когда пользователи и авторы научных работ ищут в технологиях человеческие черты, они легче находят поведение, похожее на эмоции, намерения или личность. По словам автора, он изучил 337 работ о больших языковых моделях, опубликованных за последние два года, и в 57% из них допускалась возможность человеческих качеств у LLM. Такая предпосылка может влиять на постановку тестов и выводы.
Разница между «козьей» схемой и популярными чат-ботами вроде ChatGPT, Claude и Gemini лежит не только в сложности моделей, но и в интерфейсе. Чат-боты отвечают естественным языком, подстраивают тон беседы и имитируют привычный диалог, поэтому пользователям проще видеть в них собеседников.
Де Винтер считает, что компании, развивающие ИИ-сервисы, не всегда мешают такой антропоморфизации, поскольку эмоциональная привязанность может повышать интерес к продуктам и подпискам.
Эксперимент с Age of Empires II не закрывает научный спор о природе ИИ, но резко отделяет реальную демонстрацию от громких интерпретаций. Козы в старой стратегии помогли собрать элемент нейросети, однако вывод из работы проще: поведение машины лучше объяснять техническими механизмами, пока нет оснований говорить о более сложном сознании .
- Источник новости
- www.securitylab.ru
