Дипфейки - инструмент мошенников: эксперты АРФГ рассказали о новых угрозах

Дипфейки пока не носят массового характера, но это ненадолго и стоит уже сегодня подготовиться к отражению атак – считают генеральный директор Ассоциации финансовой грамотности** Вениамин Каганов и начальник отдела информационной безопасности «СёрчИнформ» Алексей Дрозд. Эксперты назвали «приметы» дипфейков и дали советы, как избежать обмана.

Технология дипфейка использует машинное обучение для создания поддельных изображений, видео или аудио. Плодами технологии пользуются рекламщики, режиссеры и фотохудожники. В пример можно привести рекламу компании Мегафон с Брюсом Уиллисом, использован был образ актера, который воссоздали при помощи технологии генерации лиц на основе нейросетевых алгоритмов. (Все сразу заподозрили, что с Брюсом что-то не так…). Что касается видео, то ролики все еще не идеальны, даже не специалисты способны подделку, а вот с лжеголоса очень реалистичны.
Злоумышленники могут злоупотреблять этой технологией, притворяться известными личностями и использовать мошеннические схемы с целью выманивания денег или шантажа. Есть также случаи, когда пользователь может услышать голос знакомого человека в поддельном аудиосообщении или увидеть его на поддельном видео.
АРФГ получает сигналы о случаях использования дипфейков для кражи денег у бизнесменов в российских регионах. «На заседании клуба журналистов АРФГ наша коллега из Нижнего Новгорода Наталья Халезова рассказала о паре подобных случаев. Бухгалтеру фирмы местной компании позвонила ее начальница на мобильный и попросила передать наличные из сейфа в руки курьера. Курьер тут же подъехал, все забрал. И лишь позже выяснилось, что звонили мошенники! Голос был не просто похож, скопировали даже интонации. Так что этот способ выманивать деньги уже не заморская экзотика. Сюжет известной сказки про волка и семерых козлят становится былью», – считают в АРФГ.
Вениамин Каганов отметил, что тема прозвучала на Уральском киберфоруме - крупнейшем мероприятии в сфере выработки решений для обеспечения информационной безопасности, она находится в фокусе внимания руководства Банка России.
«Мошенники повышают свои цифровые компетенции, они используют нейросети для создания дипфейков, которые становятся частью преступного сценария. Злоумышленники крадут звуковые файлы через мессенджеры и подделывают голоса, чтобы вызвать доверие у своих жертв. Такие случаи пока еще не являются распространенными, так как требуют больших ресурсов для подготовки, но уже завтра они могут стать серьезным вызовом для россиян», – считает генеральный директор Ассоциации развития финансовой грамотности.
При этом он отметил, что основное зло по-прежнему – «социальная инженерия», мошенники придумывают все новые схемы обмана, дипфейки же становятся частью аферы. И настоящей защитой от мошенников станет формирование в обществе финансовой культуры. В частности, он обратил внимание на пенсионеров, которые зачастую становятся жертвами мошенников из-за социальной изоляции. «Если вы будет чаще звонить своим пожилым родственникам, у них наверняка будет меньше желания общаться с незнакомцами. А эта тема уже выходит за рамки простой финграмотности», - пояснил он. Глава АРФГ пригласил уральских журналистов к сотрудничеству, призвав их делиться идеями, как вывести финграмотность на уровень полезных привычек и внутренних установок.
Специалист по информбезопасности Алексей Дрозд объяснил, что для изготовления правдоподобного дипфека требуются ресурсы, поэтому мошенники ищут уязвимости у компаний, чтобы оправдать свои траты. Но доступность технологий станет поводом перейти на физлиц. При этом он уверен, что граждане не останутся наедине с проблемой, регулятор и финансовое сообщество работают на опережение. По его словам, не за горами, когда будет доступно ПО, которое поможет автоматически «на входе» осекать поддельные голоса и изображения. В настоящее время он посоветовал: «Стоит обращать внимание на монотонность звукового ряда и «шумовую завесу», ведь любые помехи маскируют искусственность голоса. Также стоит фиксировать стилистические особенности речи – даже отсутствие характерного для конкретного человека словесного мусора может указывать на дипфейк».
Он также согласился с коллегой, что дипфеки сегодня – это дополнение к основным приемам. «Например, старая схема под условным названием «мама я попал в аварию», сегодня может дополняться голосовыми дипфейками, то есть тот же сценарий в других декорациях. К тому же, даже зная все это, человек может растеряться. Ведь мошенники использую эффект неожиданности, всячески «раскачивают» жертву и требуют мгновенного реагирования. Вот такой нажим и торопливость больше скажут о том, что на том проводе находится аферист. Когда речь идет о денежных просьбах – нужно взять за правило выдерживать паузу, перезванивать самому», - резюмировал Алексей Дрозд.

Рекомендации:

1. Не совершайте ничего на основе голосового сообщения, прослушанного «на бегу».
Некачественный голосовой дипфейк можно распознать при должном внимании, правда нередко мы ведем телефонные переговоры или слушаем голосовые записи в соцсетях «на бегу», но если вас ничто не отвлекает, и вы вслушиваетесь в то, что вам говорят, то узнать подделку – это реально. Так что – не торопитесь с выводами!

2. Обращайте внимание на шум.
Вас должно насторожить плохое качество звука, это отвлекающий момент, ведь в тишине голос будет звучать неестественно. Иногда шум подозрительно «цикличный», на протяжении разговора появляются одинаковые звуковые эффекты. (Например, порыв ветра, звук отъезжающей машины- лай собаки и… по кругу).Неестественный плач, монотонные всхлипывания тоже могут служить отвлекающим маневром + способом психологического давления на человека.
 
3. Обращайте внимание на интонации.
Неестественная монотонность голоса часто выдает дипфек. 
Обращайте внимание на произношение.
Неразборчивая речь или присутствие ощущения «акцента» - это случается при обработке голоса с помощью нейросети.
Обращайте внимание на стиль речи и речевые ошибки.
Стиль речи может значительно отличаться от оригинала. Если филолог, известный вам, как поборник чистоты русского языка, вдруг говорит звОнит, то это можно считать за «звоночек» в плане мошенничества. Пока что мошенники озабочены лишь звукоподражанием, не учитывая авторский стиль контента.
 
4. Обращайте внимание, с какого номера вам звонят и приходят голосовые сообщения.
Мошенники могут позвонить со своего номера или с поддельного аккаунта в мессенджере. Стоит оценить, на самом ли деле это телефон абонента. И если мошенники утверждают, что «я попал в аварию», то нужно самому перезвонить на номер абонента. Это нередко спасает от злоумышленников, знакомый поднимает трубку и говорит, что у него все в порядке.
 
Что делается в этом отношении
Минцифры сообщало в конце прошлого года, что работает над создание ПО, которое будет определять дипфейки за пользователей. При этом первоочередной задачей сейчас все же является правовое определение этого явления. В Госдуме работают над законопроектом о запрете дипфейков. Об этом сообщил депутат Александр Хинштейн на заседании Госдумы.
23 января 2024 года Госдума приняла в первом чтении законопроект об оборотных штрафах за утечку персональных данных. Зампред думского комитета по науке и высшему образованию Олег Смолин при обсуждении новеллы предложил доработать ее ко второму чтению, добавив положения о дипфейках.
Хинштейн сообщил, что думский IT-комитет уже готовит поправки к законодательству о персональных данных, которые введут ответственность за несанкционированное использование голоса и изображения людей. По мнению депутата, проблема с дипфейками стоит достаточно остро: физические параметры человека используются для мошенничества и дискредитации, при этом для обмана людей применяются технологии искусственного интеллекта. Хинштейн не уточнил сроки подготовки новеллы.

В ходу старые схемы
Люди оказываются жертвами мошенников и без применения сложных технологий. Простая социальная инженерия по-прежнему в ходу. (Звонки оперуполномоченных, сотрудников банков, центробанка, госуслуг и прочих с приставкой лже).

Советы тут известные: не сообщать секретные коды, номера счетов, вообще с осторожностью относиться к персональным данным. Не паниковать, всегда класть трубку и взять за правило советоваться с кем-то, кому вы доверяете перед тем, как снять деньги и передать кому-то или перевести на какой-то счет и так далее, в разговоре с близкими вы сможете успокоиться и проанализировать информацию с холодной головой.
Не совершать установку ПО или перевод денег, а иногда и продажу квартиры(!) под диктовку, если диктуют и «ведут», предупреждая, что это нельзя рассказывать никому — это мошенники. 
Особенно хочется донести эту информацию до пенсионеров, которым трудно ориентироваться в цифровом мире. И еще один совет от главы АРФГ — просто будьте более внимательны к пожилым родственникам, чаще их навещайте и больше с ними разговаривайте, станьте для них волонтером финансового просвещения. 
Но надо помнить, что когда на простые звонки «оперуполномоченных» никто не будет реагировать, то количество дипфейков будет расти. Нужно работать на опережение – разъясняя людям риски ближайшего будущего, чтобы опередить мошенников, лишая их форы.

Источник: РГР