Избрани статии и новини от редакцията на Forbes България
Проф. Мартин Вечев, основател и научен директор на INSAIT, е сред ограничен кръг изследователи, с които OpenAI ще работи по усъвършенстването на технологията си за маркиране и разпознаване на текст, генериран от AI. Разработката идва в ключов момент, когато новите европейски правила вече поставят конкретни изисквания пред компаниите за разпознаваемост на AI съдържанието.
КЛЮЧОВИ ФАКТИ
- OpenAI посочва проф. Вечев, който е и професор по компютърни науки в ETH Zurich, сред ограничена група изследователски партньори, които ще помагат на компанията да разбере по-добре възможностите и ограниченията на новата технология. Сред партньорите са още проф. Джон Тикстън от Cornell University и изследователи от Kempelen Institute of Intelligent Technologies.
- Технологията на OpenAI се нарича textGrain и работи като невидим воден знак. Вместо да добавя скрити символи или специална пунктуация, тя променя по контролиран начин вероятностите, с които AI моделът избира отделните думи и части от думи. Така в текста се появява статистически сигнал, който специализиран детектор впоследствие може да разпознае.
- Това е съществена разлика спрямо много от досегашните AI детектори, които анализират вече написан текст и търсят характерни езикови модели. При textGrain сигналът се вгражда още по време на генерирането на съдържанието.
- OpenAI започна поетапното въвеждане на текстовия воден знак за отговарящите на условията потребители на ChatGPT и Codex в Европейския съюз, като технологията ще обхване всички планове. Клиентите на API в целия свят вече могат доброволно да активират маркирането за поддържаните модели.
- Самият детектор засега няма да бъде публично достъпен. OpenAI ще предоставя достъп на одобрени изследователи и експертни организации, тъй като технологията все още има ограничения. Кратки текстове, сериозно редактиране, перифразиране или превод могат да направят водния знак по-труден за откриване.
ЗАЩО МАРТИН ВЕЧЕВ
Участието на Вечев идва на фона на активната работа на неговия изследователски екип именно върху надеждността на водните знаци при големи езикови модели.
През 2026 г. Вечев и негови колеги публикуваха изследвания за създаването на по-устойчиви водни знаци, включително методи, които запазват сигнала дори след последващи промени в AI моделите. Друго тяхно изследване предлага обща рамка за оценка на различните технологии за маркиране, а проектът AutoMark използва AI модели за автоматично откриване на нови и по-ефективни методи за водни знаци.
ДОПИРАТЕЛНА
Технологията не може сама по себе си да докаже кой е написал даден текст. Откриването на воден знак показва, че OpenAI система вероятно е генерирала или обработила съдържанието, но не разкрива кой я е използвал, колко голям е човешкият принос, кой притежава текста или дали информацията в него е вярна. Липсата на воден знак също не е доказателство, че текстът е написан от човек.
КЛЮЧОВА ИСТОРИЯ
Зад ускоряването на разработката стоят и новите правила в ЕС. Член 50 от Акта за изкуствения интелект изисква доставчиците на системи, които генерират текст, изображения, аудио или видео, да направят резултатите машинно разпознаваеми като генерирани или манипулирани от AI, доколкото това е технически възможно.
Правилата се прилагат от 2 август 2026 г., а за системите, пуснати на пазара преди тази дата, е предвиден ограничен преходен период до 2 декември 2026 г. по отношение на маркирането и откриването на AI съдържание. Санкциите при нарушения на изискванията на член 50 могат да достигнат 15 млн. евро или 3% от глобалния годишен оборот на компанията.
Това превръща надеждното маркиране на AI съдържание от чисто изследователски проблем в технология с пряко значение за компании като OpenAI, а участието на основателя на INSAIT поставя български учен сред хората, които ще работят по едно от ключовите предизвикателства пред масовото използване на генеративен AI.
