Редактор дня:
Alexandra Nekrasova
Cообщи

Из AppStore удалили приложения для "раздевания" после расследования Би-би-си (1)

BBC
Фото статьи
Фото: BBC

Apple удалила из AppStore группу приложений после того, как Би-би-си обнаружила, что они рекламируются в TikTok как инструменты для создания дипфейков, "раздевающих" людей на фото без их согласия.

Приложения с функцией "раздевания" (declothing) или "нудификации" (nudify) позволяют цифровым способом убрать одежду с фотографий, создавая изображения или видео с обнаженными или частично обнаженными телами.

На официальных страницах приложений в AppStore и их веб-сайтах они описывались как инструменты, позволяющие "сделать селфи более пикантными".

Однако в рекламе в TikTok разработчики приложений позиционировали их как способ создавать сексуализированные изображения женщин без их разрешения.

В одной рекламе пользователей призывали скачать приложение, чтобы "получить самые горячие фото своего объекта обожания". Другая реклама обещала, что приложение "позволит раздеть кого угодно". В некоторых других заявлялось о способности приложения "переодеть любого человека в бикини".

Мы не называем конкретные приложения, чтобы не привлекать к ним внимания, так как создание сексуализированных изображений людей без их согласия может быть незаконным согласно законодательству ряда стран, включая Великобританию.

Nudify-приложения становятся глобальной проблемой: громкие скандалы уже произошли в Испании, Южной Корее и США, где жертвами этой технологии становились школьницы. Известны случаи, когда созданные с помощью технологии deepfake изображения использовались для шантажа.

Приложения предлагают готовые "паки" для того, чтобы превратить обычную фотографию в изображение с сексуальным подтекстом.
Приложения предлагают готовые "паки" для того, чтобы превратить обычную фотографию в изображение с сексуальным подтекстом. Фото: BBC

По мнению профессора Арвинда Нараянана из Принстонского центра политики в области информационных технологий, ограничение распространения приложений для "нудификации" является моральным долгом технологических компаний.

"Необходимо значительно усложнить доступ пользователей к подобным технологиям", — говорит он, подчеркивая, что регуляторы во всем мире должны запретить подобные приложения и гарантировать, что социальные сети не смогут извлекать прибыль из их рекламы.

В некоторых рекламных роликах на платформе TikTok для демонстрации того, как приложение может раздеть человека до нижнего белья, использовались фотографии звезд сериала "Игра престолов", актрис Лины Хиди и Мэйси Уильямс.

Одно из приложений использовало для рекламы фотографии актрис из "Игры престолов".
Одно из приложений использовало для рекламы фотографии актрис из "Игры престолов". Фото: BBC

Би-би-си обнаружила, что четыре подобных приложения платили за рекламу в TikTok, который на данный момент удалил эти рекламные ролики.

Однако аналогичные видео, по всей видимости, созданные аккаунтами, связанными с разработчиками приложений, по-прежнему доступны на платформе.

Представитель TikTok заявил Би-би-си, что реклама нарушала правила сервиса, запрещающие платное продвижение контента эротического характера. При этом компания не пояснила, каким образом данные рекламные ролики прошли модерацию.

Компания Apple также отреагировала на расследование Би-би-си, удалив указанные приложения из своего AppStore. Как заявили в компании, три приложения удалены "до тех пор, пока разработчики не устранят выявленные проблемы".

Еще одно приложение, специализирующееся на создании видеороликов с полуобнаженными танцующими женщинами на основе загруженных в него фотографий, было удалено окончательно, а аккаунт его разработчика заблокирован.

Представители Google Play Store сообщили, что начали проверку этих приложений.

Самое популярное из приложений, изученных Би-би-си, было скачано из Google Play более миллиона раз (Apple статистику по скачиваниям приложений не раскрывает).

Примеры рекламы nudify-приложений, найденной Би-би-си на платформе TikTok.
Примеры рекламы nudify-приложений, найденной Би-би-си на платформе TikTok. Фото: BBC

Хотя оно не позволяло создавать полностью обнаженные изображения, с его помощью можно было легко сгенерировать изображение любого человека с явным сексуальным подтекстом.

Для этого предлагались специальные готовые "паки" — подборки образов, включая такие, где женщины изображаются лежащими на полу или принимающими ванну.

В TikTok приложение рекламировалось как способ "получить самые горячие фото своего краша".

Разработчик ответил на запрос Би-би-си по электронной почте, заявив, что не намеревался рекламировать его как инструмент для создания сексуализированных дипфейков, и пообещал пересмотреть свои практики.

Комментарии (1)
Актуальные новости
Не пропусти
Наверх