Дипфейк — технология на основе искусственного интеллекта, с помощью которой можно «наложить» голоса и лица людей на видео любого содержания. В результате получается фальшивый контент, в котором человек будто бы произносит слова и совершает поступки, которых в действительности не было.

Технология Deepfake  (дипфейк) создана давно, однако раньше ей владели исключительно ИТ-специалисты; сейчас появились открытые источники алгоритмов машинного обучения, библиотеки и SDK. Цифровое мошенничество стало доступно практически каждому. Сферы возможного применения технологии с целью фальсификации информации и дезинформации: финансовые махинации, дискредитация политических лидеров, шантаж,розыгрыши и пропаганда.

Как это работает

Deepfake анализирует несколько снимков человека в разных ракурсах. Таким образом, алгоритм изучает, как он может двигаться, какая ему свойственна мимика. При этом действуют две нейросети. Первая генерирует видеоизображения, и отправляет их второй на оценку. Если вторая решает, что видеопоток не кажется убедительным, возвращает его на доработку.

Риски

Дипфейк — орудие политических войн. Уже известны различные сфабрикованные видеоматериалы, где один глава государства якобы оскорбляет другого или произносит речь в состоянии алкогольного опьянения. Все это подрывает репутацию авторитетных лиц и может привести к скандалам такого уровня, что потребуется отстранение от должности или международным скандалам.

Вред от дипфейков возможен также и для системы информационной безопасности. Киберпреступник заставляет сотрудника выполнить действие (оплата поддельного платежного поручения, перевод денежных средств или документов), отправив аудиосообщение или совершив звонок с имитацией голоса генерального директора. Такие подходы часто используют в целевых атаках

Что делать, чтобы уберечься от дипфейков?

Чтобы минимизировать вред от дипфейков в корпоративной среде, следует проинформировать сотрудников о существовании такой вредоносной активности, а еще лучше —  комплексно заняться повышением осведомленности персонала в области информационной безопасности.

Также обратите внимание на ряд простых рекомендаций:

• Включать критическое мышление; если разговор происходит через опосредованный канал коммуникации, обращать внимание на любые неточности, странности формулировок или запросов
• Использовать многофакторную аутентификацию сотрудников, электронную подпись для защиты email-сообщений и так далее
• Ввести практику «зашифрованного» общения с контрагентами: использовать устные пароли, кодовые слова и другие ключи, известные ограниченному кругу лиц

Всем безопасности!