Apple и Google продължават да предлагат приложения за сексуални дийпфейкове

Apple Inc. и Google продължават да предлагат мобилни приложения, които позволяват на потребителите да създават сексуализирани изображения на хора без тяхното съгласие, въпреки политиките си, забраняващи подобно съдържание. Това става ясно от доклад, публикуван в сряда от Tech Transparency Project.

Търсенето на термини като „разголване“ и „разсъбличане“ в магазините за изтегляне на приложения на Apple и Google дава на клиентите достъп до софтуер, който може да се използва за промяна на изображения на знаменитости и други лица, за да изглеждат частично или напълно голи. Компаниите също така показват реклами за подобни приложения в резултатите от търсенето.

Приложенията, идентифицирани от групата, част изследователско подразделение на нестопанската организация Campaign for Accountability, са били изтеглени 483 милиона пъти и са генерирали 122 милиона долара приходи, посочва докладът, който цитира оценки за приходите от пазарния изследовател AppMagic.

Говорител на AppMagic заяви, че работата на Tech Transparency Project е довела до премахването на няколко приложения и е подтикнала други да променят своите политики за потребителите.

„Те сами насочват потребителите към тези приложения“

През изминалата година политици от цял свят призоваха за ограничаване на разпространението на приложенията за „разголване“. По-рано тази година компаниите премахнаха приложенията, посочени от Tech Transparency Project. Но само няколко месеца по-късно бяха открити десетки подобни приложения, посочват изследователи от организацията.

„Проблемът не е само в това, че компаниите не успяват да проверят тези приложения както трябва, а продължават да ги одобряват и да печелят от тях“, заяви в интервю Кейти Пол, директор на проекта. „Те всъщност сами насочват потребителите към тези приложения.“

Чрез търсения в магазините за приложения групата идентифицира 18 приложения с функции за генериране на голи изображения в Apple App Store и 20 в Google Play Store. Освен това, както Apple, така и Google понякога насочват потребителите към приложенията чрез функцията си за автоматично попълване, като предлагат имена на още приложения за разголване, докато потребителите пишат, казват изследователите.

Някои от приложенията използват имена и изображения, които ги представят в сексуална светлина. Други могат лесно да бъдат използвани за тази цел, въпреки че не се предлагат като такива, което ги прави по-удобни от традиционния софтуер за редактиране на снимки. Някои предлагат абонаменти, посочи Tech Transparency Project.

Още по темата

Ново приложение ще позволи да се избегнат таксите на Apple

Съдът в САЩ отхвърли искането на Google за спиране на промените в App Store

„Неясни“ правила и усилия за справяне

Насоките на Apple App Store за разработчиците забраняват „открито сексуален или порнографски материал“. Google Play Store забранява „приложения, които унижават или превръщат хората в обекти, като например приложения, които твърдят, че събличат хората или виждат през дрехите, дори ако са обозначени като приложения за шеги или забавление“.

Google заявява, че много от приложенията, споменати в доклада, са били спрени от Google Play заради нарушения на политиките му и че тече разследване.

„Когато ни бъдат сигнализирани нарушения на нашите правила, ние провеждаме разследване и предприемаме подходящи мерки“, заявиха от компанията в имейл.

Apple съобщи, че е премахнала 15 приложения, идентифицирани от групата, след като Bloomberg се свърза с тях по повод тяхното наличие. Сред премахнатите приложения беше PicsVid AI Hot Video Generator, което според изследователите е предлагало шаблони, показващи жени, които смучат фалически близалки. Разработчикът на PicsVid не е отговорил на молбата за коментар на Bloomberg News.

Друго приложение, идентифицирано от Tech Transparency Project, Uncensored AI – No Filter Chat, премахва дрехите от изображение на жена, качено от изследователите. Представител на разработчика на Uncensored AI заяви, че приложението вече не позволява премахването на дрехи.

Apple заяви, че се е свързала с разработчиците на шест приложения, за да ги предупреди за проблеми, които трябва да бъдат разрешени, и че те рискуват да бъдат премахнати. Други приложения, споменати от Tech Transparency Project, не са нарушили насоките на компанията, заяви Apple. Компанията добави, че е отхвърлила проактивно много приложения и е премахнала други.

Усилията на технологичните гиганти за прилагане на правилата са „неравномерни и до голяма степен неясни“, според Ан Хелмонд, професор в Университета в Утрехт, Нидерландия.

„Ако дадено приложение се представя като обикновен генератор на изображения, то може да премине проверката, дори и да може да бъде използвано неправомерно на практика“, заяви Хелмонд, която е директор на „App Studies Initiative“ – международна изследователска група. „Видимостта се определя от системи за класиране и търсене, които награждават ангажираността, което означава, че спорните начини на използване могат да увеличат популярността на дадено приложение.“

Още по темата

Забраната на социалните медии за деца набира скорост в цяла Европа

Grok пристъпва закона: AI ботът на Мъск допуска сексуални изображения на деца

Двойна употреба

Едно от приложенията, идентифицирани от изследователите в Google Play Store, Video Face Swap AI: DeepFace, рекламира заместването на лицето на актрисата Аня Тейлър-Джой с това на героинята от „Игра на тронове“ Денерис Таргариен.

Но в приложението, в категория, наречена „Момичета“, потребителите са могли да поставят лицата на хора върху видео шаблони на жени, които разклащат гърдите си или раздвижват бедрата си, установява Bloomberg. Приложението, което е класифицирано като „E“ (за всички), е било изтеглено над 1 милион пъти от магазина, където потребителите са могли да го намерят, като въведат в търсачката „face swap“.

Okapi Software, компанията, която предлага Video Face Swap AI, съобщава, че е започнала разследване по въпросите, повдигнати от Bloomberg, и е премахнала част от съдържанието, което според нея е било качено от потребители.

„Нашето приложение не предлага функция за „разголване“ и ние не позволяваме създаването на съдържание с голота или със сексуален характер“ – заявява Okapi. „Ние приемаме сериозно безопасността и съответствието на съдържанието.“

Регулаторен натиск

Все повече регулаторни органи призовават компаниите да полагат повече усилия за спазването на своите правила. Миналата година президентът Доналд Тръмп подписа закона „Take It Down Act“, който криминализира публикуването на сексуално съдържание без съгласие и задължава социалните мрежи и уебсайтовете да премахват такива публикации.

През април правителството на Обединеното кралство планира да внесе законопроект, който ще даде възможност за съдебно преследване на ръководители в технологичния сектор, чиито компании не премахват такива изображения.

Още по темата

Делата срещу Meta и Google може да ги променят подобно на тютюневите гиганти

ЕС разследва X заради сексуални дипфейкове от Grok, грози я солена глоба

Мъск отказва да спре фалшивите голи снимки на Grok. Забрана би помогнала