За първи път: американските власти използваха промптове от ChatGPT, за да разкрият престъпник

Forbes България

Избрани статии и новини от редакцията на Forbes България

През последната година американски федерални агенти се мъчеха да разкрият идентичността на даркуеб сайт за детска експлоатация, без особен успех. После се откри възможност за пробив благодарение на използването на ChatGPT от заподозрения.

КЛЮЧОВИ ФАКТИ

• В първата известна федерална заповед за претърсване, с която се иска потребителски данни от OpenAI, прегледана от Forbes след разсекретяването ѝ миналата седмица в Мейн, Отделът за разследвания към Министерството на вътрешната сигурност (Homeland Security Investigations, HSI) разкри, че е разговарял под прикритие с администратора в сайта за детска експлоатация, когато заподозреният споменал, че използва ChatGPT.
• Заподозреният след това разкрил някои промптове (prompts) и отговори, които е получил, описвайки привидно безобиден разговор, започнал с: „Какво би станало, ако Шерлок Холмс се срещне с Кю от Star Trek?“ В друг разговор заподозреният казал, че е получил отговор от ChatGPT на неуточнено запитване относно поема от 200 000 думи, като в отговор получил „примерен откъс от хумористична поема в стил Тръмп за любовта му към Y.M.C.A. на Village People, написана в онзи преувеличен, самовъзхваляващ, поток на съзнанието стил, с който е известен.“ След това той копирал и поставил тази поема.
• Правителството разпоредило на OpenAI да предостави различни видове информация за човека, който е въвел тези промптове, включително подробности за други разговори, които е провеждал с ChatGPT, имена и адреси, свързани със съответните акаунти, както и каквито и да било платежни данни.
• Случаят показва как американските правоохранителни органи могат да използват промптове към ChatGPT, за да събират данни за потребители, заподозрени в престъпна дейност.
• В миналото търсачки като Google са били молени да предават лична информация за потребители, които са въвеждали определени търсения, но до този момент не беше известно генеративна AI платформа да е била молена за същото по отношение на промптове. Това прави случая първия публичен пример за подобна „обратна“ заявка за AI промптове.

КЛЮЧОВА ИСТОРИЯ

Въпреки това правителството не се нуждаело от данните на OpenAI, за да идентифицира човека. Вместо това успели да извлекат достатъчно информация по време на разговори под прикритие със заподозрения, за да открият, че той е свързан с американските военни. Заподозреният, например, споделил, че преминава здравни оценки, живял е в Германия седем години и че баща му е служил в Афганистан.

По-късно от военните научили, че заподозреният е работил във военновъздушната база Рамщайн в Германия и е кандидатствал за допълнителна работа в Министерството на отбраната, макар че не било уточнено в кое подразделение. С достатъчно индикатори правителството твърди, че 36-годишният Дрю Хьонър е администраторът на сайта. Срещу него е повдигнато обвинение за конспирация с цел рекламиране на материали, съдържащи сексуално насилие над деца (CSAM).

Отделът за разследвания към Министерството на вътрешната сигурност, специализиран екип в рамките на Службата за имиграция и митници на САЩ (ICE), фокусиран върху детска експлоатация, киберпрестъпления и трафик на хора, се опитвал да открие идентичността на този човек от 2019 г. насам. Разследващите вярвали, че същият човек, сега идентифициран като Хьонър, е бил или модератор, или администратор на 15 различни даркнет сайта, съдържащи CSAM, които са имали обща потребителска база от поне 300 000 души. Всички са били в мрежата Tor, която криптира трафика на потребителите и го препраща през множество сървъри, за да затрудни проследяването на онлайн действията и идентичностите им.

Заповедта не разкрива имената на най-новите сайтове на заподозрения, но те били силно организирани, управлявани от екип администратори и модератори, които раздавали значки и отличия на онези, които допринасяли най-много за сайта. Имало различни подкатегории незаконни материали, включително и една, посветена на изкуствения интелект, която вероятно е била за хостване на CSAM, генерирано от програми с изкуствен интелект.

Не е ясно какви конкретни данни е получило правителството. Документ показва, че претърсването е било завършено и OpenAI е предоставила на агентите една Excel таблица с информация. Не са публикувани повече подробности. Възможно е информацията от OpenAI да бъде използвана, за да помогне на прокурорите да потвърдят идентификацията на подсъдимия.

ЗА КАКВО ДА СЛЕДИМ

Макар самите промптове да не са свързани с детска експлоатация, ChatGPT, както всички големи приложения, може да бъде цел за педофили. Данни на OpenAI показват, че между юли и декември миналата година са докладвали 31 500 единици съдържание, свързано с CSAM, до Националния център за изчезнали и експлоатирани деца — звеното, пред което всички технологични компании са длъжни да докладват изображения на злоупотреба с деца. За същите шест месеца компанията е била молена 71 пъти да разкрие или потребителска информация, или съдържание, като е предоставила на правителствата информация от 132 акаунта.

Дженифър Линч, юрисконсулт във Фондацията „Електронна граница“ (Electronic Frontier Foundation), каза, че макар заповедта да изглежда ограничена до фокус върху два промпта от един потребител, тя показва, че правоохранителните органи все по-често се обръщат към ChatGPT за доказателства в наказателни разследвания.

„Това означава, че е по-важно от всякога OpenAI и други компании за изкуствен интелект да мислят как да ограничат количеството данни, които събират за своите потребители“, добави тя.