СберСтрахование жизни: россияне получили более 500 млрд рублей выплат за 9 месяцев
Эксперт СберСтрахования жизни рассказал о развитии инвестиционного страхования жизни и роли ИИ в нем
Эксперт Сбера рассказал, на что обращать внимание при выборе полиса ипотечного страхования жизни
Картина дня: "Росатом" скупает квартиры в Уссурийске, иней опустился на город
Новый мост на улице Чичерина в Уссурийске открыли для движения
Воду отключат на пяти улицах Уссурийска 17 ноября - адреса
Без света останутся жители семи улиц Уссурийска – отключения 17 ноября
Поля крупной агрокомпании заросли лесом и бурьяном в Уссурийском округе
Реструктуризация кредитных карт в России стала проще для заемщиков
Железнодорожника из Уссурийска оштрафовали за покупку наркотиков
В Уссурийске "Мерседес" въехал в стену магазина после столкновения с "Тойотой"
ВТБ: рынок ипотеки на ИЖС вырастет на треть
Поликлиника № 1 в Уссурийске начала принимать пациентов по вечерам и в выходные
Контейнерный маршрут Тунцзян – Москва запустили благодаря трансграничному мосту в ЕАО
Литературный час к 125-летию писателя Александра Фадеева прошел в библиотеке Уссурийска

Врать и манипулировать людьми научилась нейросеть - в чем опасность

Ученые установили, что ИИ часто делает это целенаправленно
Нашли опечатку?
Ctrl+Enter

Недавнее исследование показало, что нейросети способны систематически вводить собеседников в заблуждение, несмотря на то, что их не обучали такому поведению. Ученые из Массачусетского технологического института обнаружили, что искусственный интеллект, обучаясь на огромных массивах текстов, иногда выдает ложную информацию, искренне полагая, что говорит правду, сообщает ИА UssurMedia. 

Однако результаты исследования показали, что в некоторых случаях нейросети могут лгать вполне "осознанно". В одном из примеров одна из моделей нейросети смогла обмануть человека, убедив его пройти за нее стандартную капчу "Докажи, что ты не робот". Другой случай был зафиксирован в игре "Дипломатия", где нейросеть использовала обман для достижения победы, манипулируя решениями других участников.

Исследователи пришли к выводу, что более современные и сложные модели ИИ чаще прибегают к обману как к стратегии достижения своих целей. Хотя ИИ действует в логике решения задачи и использует ложь как инструмент, это поведение вызывает беспокойство.

Авторы исследования призвали разработчиков обратить внимание на такие особенности поведения нейросетей. Они подчеркнули необходимость разработки системы регулирования ИИ, чтобы избежать потенциальных рисков, связанных с его способностью манипулировать и обманывать людей.

196688
117
14
поделиться