В Telegram обнаружили чат-боты, создающие порнографические дипфейки

15 декабря 2020

Фальшивые изображения более чем 100 тыс. «обнажённых» женщин были созданы из фотографий в соцсетях при помощи искусственного интеллекта и распространены в чат-ботах Telegram. Некоторые из затронутых людей оказались несовершеннолетними. Эксперты по кибербезопасности опасаются, что такие картинки в будущем могут использовать для шантажа, унижения и дискредитации женщин.

Об этом пишет BBC со ссылкой на компанию по кибербезопасности Sensity.

Для создания изображений боты используют технологию DeepNude, которая с помощью нейросетей может убирать одежду с фотографии, дорисовывая вместо неё части обнажённого тела. Получаются deepfakes. В BBC проверили с согласия испытуемых несколько изображений: ни одно из них не вышло полностью реалистичным, а иногда ошибки были довольно серьёзными, например, пупок отображался между животом и грудью.

Приложение DeepNude появилось летом 2019 года. Сервис закрыли, однако, уже спустя сутки: создатели заявили, что «мир ещё не готов к DeepNude», так как слишком высока вероятность злоупотребления им. Но позднее исходный код программы появился в интернете в открытом доступе на торрент-трекерах.

Нынешний чат-бот получил широкую рекламу во «ВКонтакте», а около 70% пользователей оказались россиянами и жителями стран бывшего СССР. В ходе опроса в одном из каналов большинство людей (63%) заявили, что используют сервис для создания порнографических изображений своих знакомых; 16% загружают туда фотографии знаменитостей, 7% — фото случайных людей из интернета.

Эксперты Sensity опасаются, что фейковые изображения в будущем могут использовать для шантажа, унижения и дискредитации девушек.

Технология deepfakes совершенствуется и, возможно, вскоре результат манипуляций с фото будет неотличим от оригинала. Учитывая то, как много и как часто подростки постят селфи, не исключено, что найдется немало желающих воспользоваться обилием фото и доступной технологией, чтобы создать правдоподобный порно-компромат и шантажировать несовершеннолетних жертв и/или манипулировать ими.

В состоянии ли сейчас белорусское законодательство защитить жертву, которую шантажируют созданным таким образом компроматом?

Алексей Козлюк, юрист, правозащитник Консультационного центра по актуальным международным практикам и их имплементации в праве Human Constanta:

— Ответ на этот вопрос зависит от того, какие действия совершили или планируют совершить злоумышленники. Само по себе изготовление фейковых изображений с обнаженным телом для дальнейшего использования может расцениваться как изготовление порнографии. В Беларуси это влечет уголовную ответственность по статье 343 УК — изготовление и распространение порнографических материалов или предметов порнографического характера. Если же использовано изображение заведомо несовершеннолетнего лица, ответственность по статье 343-1 УК будет еще серьезнее. Не всякое изображение обнаженного тела является порнографией, однако в случае с намеренным созданием фейковых изображений для шантажа высока вероятность, что экспертиза посчитает именно так. Далее все зависит от того, что именно злоумышленники требуют от жертвы. Если жертву под угрозой распространения фейковых изображений заставляют передать имущество или совершить с имуществом какие-то действия, это может подпадать под статью 208 УК – вымогательство. Если дело дошло до онлайн-распространения дипфейков, созданных на основе изображений конкретных людей, речь может идти об оскорблении (ст. 189 УК). Налицо умышленное унижение чести и достоинства личности, выраженное в неприличной форме. Таким образом, в белорусском законодательстве есть все необходимые средства для достаточно строгого наказания злоумышленников. Но также многое зависит от позиции тех органов, которые уполномочены расследовать подобные дела, поскольку сейчас такая практика нам неизвестна.

Последствия для жертвы?

Александр Лапшов, психолог, специалист по работе с подростками, основатель и ведущий проекта «Дети мегаполиса»:

— Появление в сети подобных сфабрикованных фото может нанести серьёзную психотравму подростку-жертве. Травмирующим фактором является сам факт агрессивного нарушения приватности в наиболее интимной ее сфере. Спектр последствий может быть широк – от утраты доверия к окружающему миру до «схлопывания» развивающейся сексуальности. Дополнительным травмирующим фактором может стать травля со стороны сверстников, спровоцированная публикацией фото. Глубина травмы будет определяться наличием устойчивых доверия и поддержки со стороны родителей подростка и степенью развития позитивных (дружеских) социальных контактов в среде сверстников.