В ерата на deepfake изкуственият интелект кара истински водещи да съобщават фалшиви новини

Deepfake новините, т.е. създадени или подправени с изкуствен интелект, се разпространяват като вирус в интернет.  Това е повратна точка за манипулираните медии, особено обезпокоителна, ако се задават избори на хоризонта.

“Интервюираме единствения оцелял след скорошната стрелба в училище: Тиктокърът Кришна Сахай”, казва водещата на новините на CBS Ан-Мари Грийн в началото на новинарския сегмент. ”
“Това трябва да е било абсолютно травмиращо?”, пита интервюиращ в друго видео на Сахай. “Какво е минало през главата на всички?” Сахай прави пауза, преди да отговори: “Куршуми!”

Звездата на TikTok и YouTube е сред нарастващия брой потребители на социални медии, които използват генеративен изкуствен интелект и друг софтуер, за да създават привидно реални новинарски емисии с водещи в големи новинарски агенции – от Нора О’Донъл от CBS Evening News до журналисти от CNN, BBC и други. Благодарение на технологията, водещите изглеждат и звучат като самите себе си. А с помощта на мощните алгоритми на платформите сензационни истории и фалшиви заглавия с техните имена и подобие (или логото на новинарския канал) се разпространяват под прикритието на авторитетни новини.

Тази седмица истински видеозапис на кореспондентката на CNN Клариса Уорд, която се крие от ракети близо до границата между Израел и Газа, беше разпространен с фалшив аудиозапис, който компрометираше нейния репортаж. По-рано този месец в интернет се разпространи генериран от изкуствен интелект клип на ко-водещата на “Тази сутрин” по CBS Гейл Кинг, която рекламира продукт, който никога не е използвала и дори не е чувала за него. Deepfake на водещия от CNN Андерсън Купър, който заявява, че бившият президент Доналд Тръмп “ни скъсва задника”, също наскоро стана суперразпространяемl, след като Тръмп и синът му го споделиха в Truth Social и Х, известна доскоро като Twitter. А в предполагаемите новинарски предавания на Сахай – които му помогнаха да събере милионна аудитория – се включиха повече от дузина известни водещи от различни телевизионни мрежи, които изнасят проблематични коментари и интервюират създателя, докато той се подиграва със стрелбите в училищата, терористичните атаки от 11 септември, жертвите на изнасилвания и други хора, пострадали при престъпления.

В много случаи тези измислени сегменти с участието на реални телевизионни водещи привличат повече зрители, отколкото истинските клипове, публикувани в профилите на новинарските организации в социалните медии. Например един от последните фалшификати на Сахай с Маргарет Бренън от Face The Nation беше харесан над 300 000 пъти в TikTok, докато най-популярният видеоклип, публикуван същия ден в официалния акаунт на Face The Nation в TikTok, събра само 7 000 харесвания.
Докато Forbes отразяваше тази история, Сахай беше забранен от TikTok и не отговори на многобройните молби за коментар и подробен списък с въпроси. Въпреки че акаунтът му в TikTok вече е неактивен, далекоизточните видеоклипове на Сахай все още са лесно откриваеми в платформата, препубликувани от други потребители, а редица от тях остават на живо в YouTube.

Повечето големи платформи за социални медии имат политики срещу deepfake. Говорителката на TikTok Ариана Селие заяви, че “TikTok изисква от създателите да обозначават реалистичното съдържание, генерирано от изкуствен интелект”, със стикер или в надпис, и че TikTok “продължава да премахва съдържание, което може да навреди на хората или да ги подведе”. (Повечето от видеоклиповете на Сахай не са включвали подобен отказ от отговорност.) TikTok забранява deepfake, съдържащи образа на частни лица, и “макар да предоставяме по-голяма свобода на действие за публичните личности, не искаме те да бъдат обект на злоупотреба или хората да бъдат подвеждани по политически или финансови въпроси”, заявява компанията в своя правилник. Говорителката на YouTube Елена Ернандес каза, че “отдавна имаме политики за дезинформация, които забраняват съдържание, което е технически манипулирано или подправено по начин, който създава сериозен риск от сериозни вреди”.

Говорителката на CNN Емили Кун отказа да коментира клиповете с deepfake новини, но заяви, че манипулираното аудио в клипа на кореспондента на CNN близо до границата между Израел и Газа “е изфабрикувано, неточно и безотговорно изкривява реалността на момента, който беше отразен на живо по CNN, който хората трябва да гледат изцяло за себе си на доверена платформа“. О’Донъл, водещата от CBS, не отговори веднага на молбата за коментар, но говорителката на CBS News Ейприл Андрюс заяви, че “CBS се отнася много сериозно към правата си върху интелектуалната собственост”. Говорителят на Би Би Си Робин Милър посочи, че “всеки път, когато разберем за deepfake видео, нашите адвокати предприемат действия” и че “в свят на нарастваща дезинформация призоваваме всички да проверяват връзките и URL адресите, за да са сигурни, че получават новини от надежден източник”.

Нова ера за deepfake

“Дълбоките фалшификати” и по-нискобюджетните “евтини фалшификати” не са нещо ново. Само този месец те бяха използвани и тяхна мишена бяха всички – от Том Ханкс (чийто двойник, създаден с изкуствен интелект, рекламираше план за зъболечение) до най-добрия създател в YouTube MrBeast (който изглеждаше като домакин на “най-голямото в света раздаване на iPhone 15”). “Готови ли са  социалните медии да се справят с възхода на “дълбоките фалшификати” с изкуствен интелект?” MrBeast, чието истинско име е Джими Доналдсън, предупреди миналата седмица в X: “Това е сериозен проблем.” (Отбелязваме, че Доналдсън ще стане член на управителния съвет на Forbes, когато завърши планираната продажба на компанията.) Тази седмица Надзорният съвет на Facebook обяви и случай, свързан с манипулирано видео на президента Джо Байдън.

Но фалшифицираните новинарски предавания, които разчитат на гласовете и лицата на високопоставени журналисти, изглежда са по-нова и потенциално по-опасна стратегия. По-рано тази година фирмата за анализ на социални медии Graphika публикува изследване за “нова и отличителна форма на видеосъдържание”, която е открила във Facebook, Х и YouTube: Това са новини, генерирани от изкуствен интелект, които са част от “прокитайска политическа спам операция”. (Китайските държавни медии също са експериментирали с новинарски водещи с изкуствен интелект.) А по-дългите, по-високопродуктивни deepfake видеa, като някои от новинарските клипове от Сахай, продължават да набират популярност в платформите.

“Видеоклиповете с водещи на новини са убедителен начин за разпространение на дезинформация”, казва Хани Фарид, професор в Училището по информация към Калифорнийския университет в Бъркли, който е свидетелствал пред Конгреса за “дълбоките фалшификати”. “В много от случаите водещите са познати на зрителите и те им се доверяват, а дори и да не са, общият формат на новините е познат и следователно се ползва с по-голямо доверие.”

“Резултатите, макар и все още да не са перфектни, са много добри, особено когато се гледат на мобилно устройство и когато зрителите се движат бързо в социалните медии”, добавя Фарид, чиито изследвания са насочени към човешкото възприятие и анализа на изображения. “Ще трябва да се заемем по-сериозно със защитата на правата на хората, чиито образ и глас се подправят.”

“Дълбоките фалшификати” често се използват в мемета, за да разсмиват хората, а по-крайният сценарий – че това манипулирано съдържание може да послужи за разпространение на дезинформация или заблуда, целяща да промени хода на избори, първични публични предлагания на компании и други събития с голям залог – не се е сбъднал. Но изборите в САЩ през 2020 г. значително предшестваха експлозията на изкуствения интелект, предизвикана от ChatGPT. По-рано тази година тойсе превърна в едно от най-бързо развиващите се потребителски приложения в историята и допринесе за широкото разпространение на технологията и за милиарди финансиране на стартъпи, работещи с изкуствен интелект.

Сега почти всеки може да използва лесен за употреба и достъпен софтуер за изкуствен интелект, за да прави видеоклипове или аудиозаписи на публични фигури (или обикновени хора), докато вършат и казват неща, които всъщност никога не са правили. Това засили опасенията, че изкуственият интелект ще превърне предстоящите избори в САЩ през 2024 г. в хаотичен Див запад – опасение, което се засилва само от нарастването на броя на “дълбоките фалшификати”, използвани за привидно истински новинарски репортажи. Според адвокат Кевин Голдбърг, специалист по Първата поправка в базираната във Вашингтон организация с нестопанска цел Freedom Forum, най-голямото притеснение е, че видеоклиповете, в които се появяват реални водещи на новини в реалистично изглеждащи ситуации, могат да бъдат използвани като “агресивна форма на дезинформация… реално притеснение, с което ще трябва да се справим в посока на изборите през 2024 г.”. Но той предупреди, че “също така не искаме да реагираме прекалено остро”.

“Да, тук има потенциал за дезинформация”, казва Голдбърг пред Forbes. “Но нашата правна система и нашето общество са повече от добре подготвени да се справят с тази нова среда.”