Meta е пуснала над 300 реклами с предполагаемо сексуално насилие над деца

Тази година Meta Platforms Inc. е пуснала над 300 реклами в Instagram и Facebook, съдържащи материал, за който се предполага, че показва сексуално насилие над деца, според доклад на неправителствената организация Tech Transparency Project (TTP), публикуван във вторник.

Рекламите са достигнали общо над 29 000 души и обикновено са използвали изкуствен интелект, за да изобразяват сексуално насилие над малки деца, съобщава TTP. Много от тях са рекламирали приложения за създаване на дийпфейк изображения чрез „събличане“, които бяха обект на по-ранен доклад на организацията.

Тогава TTP проследи произхода им до разработчици на приложения и рекламен партньор на Meta в Китай. TTP е изследователско звено на базираната във Вашингтон, окръг Колумбия, непартийна организация Campaign for Accountability, която следи действията на компании и правителства.

Meta е под засилен натиск заради вредите от социалните мрежи върху децата

Неспособността да бъде предотвратено появяването на подобно съдържание в услугите на Meta, използвани от милиарди хора по света, идва в момент, когато компанията е под безпрецедентен натиск заради твърденията за вредите, които социалните мрежи причиняват на децата.

Рекламите нарушават собствените политики на Meta, забраняващи сексуалната експлоатация, насилието и голотата, както и федералните закони на САЩ. TTP съобщи, че е подала сигнал за рекламите до Националния център за изчезнали и експлоатирани деца (National Center for Missing & Exploited Children), създаден със закон на Конгреса на САЩ.

„Съдържанието, свързано със сексуално насилие над деца, е сред най-сериозните материали, които могат да бъдат открити онлайн“, заяви Кейти Пол, директор на TTP. „Но това съдържание не се крие в тъмните кътчета на интернет. То се използва в платени реклами в платформите на Meta.“

Още по темата

Бизнесът има интерес децата да имат защита срещу дизайна на социалните мрежи

Meta бе обвинена в съда, че е пристрастявала деца към Facebook и Instagram

Част от рекламите са използвали реални снимки на деца

В един от случаите TTP е открила реклами, които са използвали снимка, публикувана от младо момиче в нейния Instagram профил, на която тя е облечена в спортна униформа.

Рекламата е превърнала изображението ѝ в анимирано видео, в което тя е представена като извършваща сексуален акт, съобщава TTP. Друга реклама е показвала момиче в ранна тийнейджърска възраст, което сваля горната си дреха, придружено от текст, обещаващ „мрачно“ съдържание.

„Не толерираме приложения за събличане или каквато и да е форма на експлоатация на деца, независимо дали съдържанието е реално или генерирано от изкуствен интелект“, заяви говорителят на Meta Анди Стоун пред Bloomberg.

Той каза, че много от сигнализираните реклами вече са били премахнати. По думите му хората, стоящи зад подобна дейност, често променят подхода си, за да заобикалят системите на Meta, а компанията продължава да подобрява механизмите си за откриване и прилагане на правилата.

Новото проучване обхваща по-графично съдържание

През юли TTP съобщи, че Meta е показала хиляди сексуално провокативни реклами на приложения за събличане, които са предназначени дигитално да премахват дрехи или да превръщат снимки на реални хора в графични изображения или видеоклипове. Новите констатации се отнасят до реклами с по-графично съдържание, посочва TTP.

Към 1 септември Meta е премахнала около половината от проблемните реклами от рекламната си библиотека, съобщи TTP. По данни на организацията компанията е премахнала останалите реклами, след като TTP е споделила с нея резултатите от проучването си.

Терминът CSAM подчертава престъпния характер на съдържанието

Подобно съдържание често се нарича детска порнография, но правоохранителните органи и експертите използват и термина „материал със сексуално насилие над деца“, или CSAM, тъй като той показва, че става дума за доказателство за престъпление без съгласието на жертвата.

Натискът върху технологичните компании се засилва в САЩ и Европа

Докладът на TTP беше публикуван скоро след като Meta се съгласи на историческо споразумение за изплащане на до 18 млрд. долара за уреждане на искове от щати в САЩ, свързани с твърденията, че приложенията ѝ са нанесли вреди на млади хора.

Австралия и над две дузини държави въвеждат или обмислят забрани за достъп на лица под 16 години до социални мрежи като Instagram. Във вторник британското правителство заяви, че ще задължи Apple Inc. и Alphabet Inc. - съответно компаниите, отговорни за операционните системи на iPhone и Android - да не позволяват на деца да създават, споделят или гледат голи изображения на телефоните и таблетите си.

Отвъд Meta правоохранителните органи в САЩ се затрудняват да се справят с разпространението на сексуално съдържание, променено чрез изкуствен интелект, до голяма степен заради инструменти, които улесняват създаването на незаконни материали.

Рекламите са достигнали потребители в пет големи пазара

332-те реклами, открити от TTP, са достигнали до хора, които може да са разглеждали Instagram и Facebook в Европейския съюз, Обединеното кралство, САЩ, Индия и Австралия. Някои от отделните реклами са достигнали само до шепа потребители, други - до стотици, а две от тях са достигнали до повече от 2500 души само в ЕС.

През миналия месец Wired съобщи, че Meta е пуснала повече от 50 реклами, съдържащи CSAM. Новото проучване на TTP включва новооткрит материал, за който по-рано не е било съобщавано.

Повечето от рекламите, за които е било подадено оплакване до Meta, са имали под 200 импресии, а общите разходи за рекламите са били под 5000 долара, заяви Стоун. През второто тримесечие Meta отчете приходи от 60,8 млрд. долара, а услугите ѝ са имали средно 3,6 млрд. дневно активни потребители към юни.

Китайски компании използват платформите на Meta за глобална реклама

Макар Instagram и Facebook да не са достъпни в Китай, базирани в страната компании ги използват като рекламни платформи за достигане до глобална аудитория. Meta има няколко рекламни партньори в Китай, като според TTP някои от тях са публикували реклами, съдържащи CSAM.

Още по темата

Meta се съгласи да плати до $16,7 млрд. по дело за социалните мрежи

Meta тихомълком се превърна в един от най-големите AI клиенти на Microsoft