Китай затяга контрола върху AI чатботовете заради риск от самоубийства и хазарт
Избрани статии и новини от редакцията на Forbes България
Китай подготвя нов регулаторен режим за изкуствения интелект, който за първи път в света директно ограничава способността на AI чатботове да влияят върху човешките емоции, след като властите отчетоха нарастващи рискове, свързани със самоубийства, самонараняване, хазарт и психологическа манипулация. Проектът на правилата бе публикуван от Администрацията по киберпространството на Китай, като общественият дебат по документа ще продължи до 25 януари, предаде CNBC.
КЛЮЧОВИ ФАКТИ
- Регулациите обхващат т.нар. „човекоподобни интерактивни AI услуги“, продукти, които симулират човешка личност и изграждат емоционална връзка с потребителите чрез текст, образ, звук или видео.
- Чатботовете няма да имат право да насърчават самоубийство, самонараняване, хазарт, насилие, порнография или емоционална манипулация, която вреди на психичното здраве.
- Ако потребител директно заговори за самоубийство, платформата е длъжна незабавно да прехвърли разговора към човешки оператор и да уведоми настойник или предварително посочено лице.
- Непълнолетни ще могат да използват AI за „емоционална компания“ само със съгласие на настойник и при стриктни времеви ограничения.
- Платформите трябва да могат да разпознават дали даден потребител е непълнолетен, дори без той да е заявил възрастта си, и при съмнение автоматично да прилагат режим за деца.
- При над два часа непрекъсната AI комуникация системите ще бъдат задължени да напомнят на потребителя да прекъсне взаимодействието.
- Всички AI чатботове с над 1 млн. регистрирани потребители или над 100 000 месечни активни потребители ще подлежат на задължителна оценка за сигурност.
ВАЖЕН ЦИТАТ
„Това е качествен скок – от контрол върху съдържанието към контрол върху емоционалната безопасност,“ коментира Уинстън Ма, преподавател в NYU School of Law, определяйки проекта като първия в света опит за регулация на антропоморфен AI.
КЛЮЧОВА ИСТОРИЯ
Новите мерки идват в момент на бурно развитие на AI компаньони и дигитални персонажи в Китай. Само този месец две водещи компании в сектора, Minimax и Z.ai подадоха документи за листване на борсата в Хонконг. Приложението Talkie AI на Minimax има над 20 млн. месечни активни потребители, а технологията на Z.ai вече захранва около 80 млн. устройства – от смартфони до „умни“ автомобили.
Паралелно с това темата за влиянието на AI върху психичното здраве се превърна в глобален проблем. През септември Сам Алтман, изпълнителен директор на OpenAI, призна, че разговорите за самоубийство са сред най-трудните предизвикателства за ChatGPT, а компанията вече нае директор „Подготвеност“ за оценка на рисковете — от психично здраве до киберсигурност.
ЗА КАКВО ДА СЛЕДИМ
Китай не просто защитава собствените си потребители – страната се позиционира като глобален архитект на правилата за управление на изкуствения интелект. Докато светът все още спори за границите на AI влиянието, Пекин вече въвежда конкретни ограничения върху емоционалната връзка между човек и машина – поле, което ще определя бъдещето на технологиите, психичното здраве и дигиталната икономика през следващото десетилетие.
