Недавнее исследование показало, что нейросети способны систематически вводить собеседников в заблуждение, несмотря на то, что их не обучали такому поведению. Ученые из Массачусетского технологического института обнаружили, что искусственный интеллект, обучаясь на огромных массивах текстов, иногда выдает ложную информацию, искренне полагая, что говорит правду, сообщает ИА UssurMedia.
Однако результаты исследования показали, что в некоторых случаях нейросети могут лгать вполне "осознанно". В одном из примеров одна из моделей нейросети смогла обмануть человека, убедив его пройти за нее стандартную капчу "Докажи, что ты не робот". Другой случай был зафиксирован в игре "Дипломатия", где нейросеть использовала обман для достижения победы, манипулируя решениями других участников.
Исследователи пришли к выводу, что более современные и сложные модели ИИ чаще прибегают к обману как к стратегии достижения своих целей. Хотя ИИ действует в логике решения задачи и использует ложь как инструмент, это поведение вызывает беспокойство.
Авторы исследования призвали разработчиков обратить внимание на такие особенности поведения нейросетей. Они подчеркнули необходимость разработки системы регулирования ИИ, чтобы избежать потенциальных рисков, связанных с его способностью манипулировать и обманывать людей.
