Голи снимки на знаменитости, генерирани с AI, се продават в eBay

Ebay гъмжи от хиляди генерирани от изкуствен интелект и обработени с Photoshop порнографски снимки на поне 40 знаменитости, сред които Марго Роби, Селена Гомес и Джена Ортега, показва разследване на Forbes. След като Forbes уведоми eBay, гигантът в електронната търговия свали стотици кадри и спря акаунтите на продавачите.

Магазинът на един дългогодишен продавач с над 400 артикула включваше на обработени с Photoshop голи снимки на Тейлър Суифт, Селена Гомес, Кейти Пери, Ариана Гранде, Александрия Окасио-Кортес и др. Друг е продал стотици генерирани от изкуствен интелект голи снимки, включително на Джена Ортега, Марго Роби и Гал Гадо за по 6,39 долара.

Платформата хоства и генерирани от изкуствен интелект изображения със сексуално внушение на публични личности. Най-малко пет такива снимки на Тейлър Суифт, като например едно, показващо попзвездата в разкриващи бикини с американското знаме, се продават за 5,60 долара от “продавач с най-висок рейтинг” в eBay, който е пласирал над 14 000 артикула и е един от “най-уважаваните продавачи” в онлайн магазина, според тяхната страница. Според насоките на програмата най-високо оценените продавачи получават допълнителни предимства от eBay, като  по-високо класиране в резултатите от търсенето и финансови привилегии.

Алгоритъмът за препоръки на eBay насочва заинтересованите купувачи към “подобни спонсорирани артикули” от продавачи, които плащат на eBay процент от продажбите си, ако купувачът кликне върху артикула и го закупи. Един от тези продавачи, оценен като топ продавач, е продал над 2000 артикула в eBay, включително фалшиви порнографски изображения на личности като Дженифър Лорънс и Дженифър Анистън. За някои фалшиви порнографски изображения в eBay не е ясно дали са били манипулирани с помощта на изкуствен интелект или друг вид софтуер.

“Не става дума само за продавачите. Компании като eBay също печелят от сексуална злоупотреба с изображения”, казва Лина Нилон, изпълнителен директор на Националния център за сексуална експлоатация. “Те превръщат в стока женските тела и това е ужасяващо, защото става без съгласието и знанието на тези, които са изобразени.”

Макар че eBay позволява на продавачите да публикуват изображения, показващи голота (стига да са включени в категориите изкуство и колекционерски предмети), както и генерирани от изкуствен интелект голи изображения на фалшиви хора, “генерираните от изкуствен интелект или обработени с фотошоп голи или сексуално внушаващи изображения на публични личности” са забранени, съгласно политиката за артикули за възрастни. Въпреки това платформата прелива от такива.

Въпреки че компанията е изтеглила от сайта стотици голи снимки на известни личности, обработени с фотошоп и генерирани от изкуствен интелект, и е забранила продавачите, тя е оставила сексуално внушаващи снимки на Тейлър Суифт, генерирани от изкуствен интелект, които изглежда нарушават нейната политика. Представител на Суифт отказа коментар. Компанията потвърди, че “е в процес на активно актуализиране на политиките по отношение на дълбоките фалшификати без голота”, така че на продавачите да е ясно какво е и какво не е позволено в eBay.

Освен това говорителката Трина Сомера заяви, че компанията използва комбинация от “технология с изкуствен интелект, професионално обучени следователи на eBay и проверки на пазара”, за да идентифицира и премахва обяви, които нарушават политиката й за забранени стоки. “Обявите с генерирани от изкуствен интелект или обработени с фотошоп изображения на известни личности за възрастни, които нарушават правилата на eBay, ще бъдат блокирани или премахнати. Потребителите, за които бъде установено, че се опитват да публикуват забранени стоки, могат да бъдат изправени пред последствия, достигащи до окончателно отстраняване”, заяви Сомера.
Представители на Ортега, Гомес, Анистън, Лорънс, Пери, Гранде, Роби и Гадот не отговориха на молбата за коментар.

ЕBay не е единствената платформа, в която се разпространяват порнографски изображения, генерирани от изкуствен интелект. Reddit, X (бивш Twitter) и дори Etsy, както Forbes първи съобщи, също се борят с наплива на генерирани от изкуствен интелект сексуални изображения.

В края на януари генерирани от изкуствен интелект голи снимки на Тейлър Суифт се разпространиха в X и бяха гледани милиони пъти в платформата за социални медии. Скоро след това законодатели, сред които и конгресменката Александрия Окасио-Кортес, представиха Закона за прекъсване на експлицитни фалшиви изображения и неконсенсусни редакции (или DEFIANCE), който предоставя на жертвите на неконсенсусна дълбокофалшива порнография средства за защита, за да предприемат действия срещу създателите и разпространителите на съдържанието. “Жертвите на неконсенсусни дълбокофалшиви порнографски материали чакаха твърде дълго за федерално законодателство, което да подведе под отговорност извършителите. Конгресът трябва да действа, за да покаже на жертвите, че няма да бъдат изоставени”, заяви Окасио-Кортес в съобщение за медиите. Въпреки че не съществуват федерални закони за защита на жертвите на дълбокофалшива порнография, в Конгреса са внесени и три други законопроекта, които разглеждат тези проблеми, каза Нилон. “Наистина се нуждаем от федерални закони и от тях се нуждаем бързо, защото, както често се случва, технологиите се движат с по-бързи темпове от нашите законодатели и виждаме това експоненциално нарастване с изкуствен интелект и с разпространението на дълбоките фалшификати”, каза тя пред Forbes.

Търсенето в eBay за “знаменитост” показва над 2,3 млн. обяви, много от които са със сексуално внушение и порнографски характер. В допълнение към хостинга на хиляди грубо обработени с фотошоп голи снимки на известни хора, eBay е дом на десетки “подобрени с изкуствен интелект” изображения на публични личности, които са подпечатани с техните подписи и се продават на по-висока цена – от 10,95 USD.

“Потопете се в изключителна яснота и спиращи дъха детайли с тази подобрена с изкуствен интелект снимка”, гласи описанието на гола снимка на Дженифър Лопес, която изглежда включва нейния подпис. “Всяко завладяващо изражение, всеки магнетичен поглед са безупречно запазени, представяйки в изящни детайли несравнимия чар и талант на Дженифър Лопес.”
Лопес не е отговорила на молбата за коментар.

Проблемът е широко разпространен. Търсенето в eBay за “знаменитост” връща над 2,3 млн. обяви, много от които са със сексуално внушение и порнографски характер. (При същото търсене в Amazon не се появява веднага порно с изкуствен интелект). Сега, когато има лесен достъп до приложения с изкуствен интелект и софтуер с отворен код, които могат да събличат и “разголват” всеки, порнографията, генерирана от изкуствен интелект, се разпространява бързо, казва Нилон. “В магазина за приложения на Apple всъщност има няколко приложения за разголване. Само през изминалата седмица открих едно, което е класифицирано за възраст над 4 години”, каза тя. “Междувременно имате Microsoft GitHub, където се намират някои от най-известните технологии за deepfake и синтетични сексуално-експлицитни материали.”

Основана през 1995 г., eBay регистрира 10,1 млрд. долара приходи през 2023 г. и има пазарна капитализация от около 26 млрд. долара. Онлайн пазарът е дом на 132 милиона активни купувачи и 2 милиарда обяви за продукти – всичко от маратонки и видеоигри до витаминни добавки и масички за кафе. През септември 2023 г. eBay стартира собствени инструменти за генериращ изкуствен интелект, които могат да генерират заглавия и описания на продукти, след като продавачите качат изображение на артикула, който искат да продадат. Инструментите са създадени с помощта на модели с отворен код и големи езикови модели от Microsoft Azure OpenAI. През януари 2024 г. онлайн пазарът също така съкрати 1000 работници, което представлява 9% от работната му сила.

Софи Мадокс, научен сътрудник в Центъра за медии в риск към Университета на Пенсилвания, заяви, че едва ли е изненадана, че е станало обичайно да се намират генерирани от изкуствен интелект порнографски изображения, които бълбукат из уебсайтовете в интернет. “Ако разгледаме по-дългосрочната история на интернет, ще разберем, че сексът се продава и сексуализираните образи се продават. И затова не мисля, че е съвпадение, че платформи като eBay са домакин на такова съдържание”, казва Мадокс. “Съществува по-широк контекст, който играе роля в тази идея, че ако сте известна жена, можете да бъдете разсъблечена без ваше съгласие и някой друг може да печели от образа ви без ваше съгласие. И това се разпростира върху всички.”