В эпоху стремительного развития искусственного интеллекта все более очевидной становится угроза, которую представляют собой нейросети в онлайн-коммуникациях. С развитием ИИ-технологий количество инструментов для создания дипфейков выросло. Бесплатные программы для этого можно найти по самым простым запросам. Качество у них, как правило, хуже, чем у платных, но иногда и этого достаточно.
Чтобы подделать голос, требуется всего три секунды аудиозаписи. Подойдет видео из соцсетей или даже короткое "Алло, я вас слушаю" в ответ на звонок.
Так, на днях стало известно, что мошенники смогли обмануть Ларису Долину. Преступники использовали сгенерированное нейросетью изображение певицы для обращения от не лица в микрокредитную организацию.
Это одна из самых крупных афер по сумме ущерба
Впрочем, голосовые фейки встречаются не только в звонках, но и в мессенджерах в виде голосовых сообщений. Сценарии те же: условный директор просит прислать данные или же друг просит денег.
Как распознать обман?
- Фейковые звонки обычно поступают с незнакомых номеров и в позднее время, чтобы застать вас врасплох — например, когда вы уже спите.
- Сгенерированный нейросетями голос часто звучит неестественно. Он может быть слишком монотонным или немного роботизированным, содержать неверные ударения или частые паузы.
- Насторожить должны излишне короткие фразы, потому что их легче сгенерировать и тяжелее распознать как ложные.