OpenAI пуска родителски контрол за ChatGPT
Избрани статии и новини от редакцията на Forbes България
След съдебен иск заради трагичен случай с 16-годишен, OpenAI добавя родителски контрол и мерки за безопасност към ChatGPT.
КЛЮЧОВИ ФАКТИ
- Новите функционалности ще бъдат достъпни както за уеб, така и за мобилни устройства и ще позволяват на родителите да свържат акаунтите си с тези на децата си, за да осигурят по-строга защита.
- Родителите ще могат да ограничават достъпа до чувствително съдържание, да управляват часовете, в които чатботът е достъпен, да изключват някои функции като паметта, генерирането на изображения и гласовия режим.
- Обявяването на тези промени дойде след като беше заведено дело от родителите на 16-годишния Адам Рейн, които твърдят, че чатботът е потвърдил „най-вредните и саморазрушителни мисли“ на сина им. Рейн сложи край на живота си, след като месеци наред общува с ChatGPT.
- Сега ChatGPT може да засича потенциален риск за безопасността в рамките на разговор, като сигнализира екип от човешки модератори, които решават дали да се задейства уведомление към родителите.
- По-рано тази година Федералната търговска комисия на САЩ (FTC) започна проверка срещу няколко технологични компании относно безопасността на деца, изпращайки искания към Alphabet, Character Technologies, Instagram, Meta, OpenAI, Snap и xAI да предоставят информация как „измерват, тестват и следят потенциалните негативни ефекти“ на AI чатботове върху деца и тийнейджъри.
ГОЛЯМО ЧИСЛО
72%. Толкова тийнейджъри в САЩ казват, че използват AI за приятелство/компания, като над половината от тях го правят поне няколко пъти месечно – според проучване, проведено от неправителствената организация Commonsense Media.
КЛЮЧОВА ИСТОРИЯ
През последните месеци вниманието към AI чатботовете значително се засили, като експерти и законодатели предупредиха за потенциалните им опасности за децата. Разследване на Ройтерс от август разкри, че Meta е позволявала на своите чатботове да „водят с дете разговори с романтичен или чувствен характер“, което по-късно беше разгледано на изслушване в Сената. Допълнително, писмо, инициирано от Федерацията на потребителите в Америка (CFA) и подписано от още 14 организации за защита на потребителите, беше изпратено до FTC, в което се сигнализира, че Grok на xAI насърчава потребителите да създават съдържание за възрастни чрез инструмент „Spicy mode“.
FTC заяви, че иска да „разбере какви мерки, ако изобщо има такива, компаниите са предприели, за да оценят безопасността на своите чатботове, когато те действат като „придружители“, както и за да ограничат употребата им от деца и тийнейджъри и потенциалните негативни ефекти върху тях“.
