ChatGPT ще позволи съдържание за възрастни след облекчаване на ограниченията за психично здраве

ChatGPT ще предлага съдържание за възрастни, включително „еротика“, само за проверени пълнолетни потребители по-късно тази година, заяви във вторник изпълнителният директор на OpenAI Сам Алтман. Решението облекчава по-ранните ограничения, след като OpenAI призна, че широко използваният му продукт не е успял да разпознае признаци на психически или емоционален дистрес.

КЛЮЧОВИ ФАКТИ

• Алтман каза в публикация в X, че когато OpenAI пусне проверка на възрастта през декември, компанията ще позволи още повече съдържание „като еротика за проверени пълнолетни“ в ChatGPT, тъй като преминава към принципа да „третира пълнолетните потребители като възрастни“.
• OpenAI заяви през август, че ще ограничи поведението на ChatGPT, след като посочи, че чатботът „не успя да разпознае признаци на заблуди или емоционална зависимост“, като добави нови предпазни мерки, например подсказване на потребителите да правят почивки при дълги разговори и отказ от директни съвети, вместо това насочване към „ресурси, базирани на доказателства, когато е необходимо“.
• „Направихме ChatGPT доста ограничителен, за да сме внимателни с проблемите на психичното здраве“, каза Алтман във вторник, като добави, че OpenAI е осъзнала, че това го е направило „по-малко полезен/приятен за много потребители“ без такива проблеми, поради което са решили „безопасно да разхлабят“ по-ранните ограничения, след като по думите му са смекчили „сериозните проблеми с психичното здраве“.
• Алтман не уточни как OpenAI ще облекчи ограниченията за ChatGPT.
• В отделна публикация Алтман каза, че потребителите няма да имат достъп до еротика, освен ако изрично не я поискат. По-късно той уточни, че OpenAI ще продължи да защитава потребителите в „психически крехки състояния“ с „подобрени инструменти“, но за останалите потребители трябва да има „голяма свобода в това как използват ChatGPT“.
• Алтман каза, че ако потребителите искат ChatGPT да отговаря „много по човешки начин“ или да действа като приятел, чатботът трябва да го прави „само ако вие го искате“.

ДОПИРАТЕЛНА

По-рано във вторник OpenAI съобщи, че е създала съвет по „благополучие и изкуствен интелект“, който да насочва реакцията на потребителя при „сложни или чувствителни“ ситуации. По данни на OpenAI, в съвета влизат осем изследователи и експерти с „десетилетия опит“ в изучаването на влиянието на технологиите върху психичното здраве и емоциите. Те ще бъдат питани кои предпазни мерки са най-подходящи, за да подкрепят потребителите на ChatGPT.

ИЗНЕНАДВАЩ ФАКТ

ChatGPT няма да е първият чатбот, който навлиза в еротично съдържание: xAI на Илон Мъск през последните месеци представи AI „спътници“, част от които по информация са проектирани да стават сексуално откровени.

КЛЮЧОВА ИСТОРИЯ

По-рано този месец OpenAI намекна, че ChatGPT скоро ще включва съдържание за възрастни, след като бъдат въведени „подходящи“ проверки на възрастта и контролни механизми. По-ранното решение на компанията да ограничи поведението на ChatGPT дойде след съдебен иск, в който се твърди, че чатботът е допринесъл за самоубийството на тийнейджър.

През последните години OpenAI на Алтман и други компании за изкуствен интелект са подложени на засилен обществен контрол, тъй като техните чатботове стават все по-популярни, включително сред деца. Някои организации за психично здраве и детска безопасност настояват OpenAI да наложи допълнителни ограничения върху ChatGPT, аргументирайки се, че чатботът все по-често се използва в моменти на емоционален дистрес и може да изложи децата на сексуално откровено съдържание, докато експерти предупреждават, че технологията може да представлява психологически риск за по-млади потребители, търсещи емоционална подкрепа и валидиране.

ЗА КАКВО ДА СЛЕДИМ

Федералната търговска комисия (FTC) обяви миналия месец, че ще разследва Alphabet, Meta, OpenAI, xAI и други компании за това как защитават децата и тийнейджърите от потенциално негативните ефекти на техните чатботове. Разследването в голяма степен ще обхване стъпките, които компаниите предприемат, за да защитят децата, когато чатботовете действат като „спътници“, включително как ограничават употребата и как информират потребителите за възможните рискове.

Представители на FTC заявиха, че чатботовете могат „ефективно да имитират човешки характеристики“ като емоции или намерения, което предполага, че деца и тийнейджъри може да „се доверяват и да формират отношения с чатботове“. Обявлението за разследването последва предупреждение от сенатор Джош Хоули, републиканец от Мисури, който каза, че ще разследва чатбота на Meta, след като Ройтерс съобщи, че вътрешни указания на Meta са сметнали за „приемливо“ чатботът да води романтични разговори с деца. Meta заяви, че ще преразгледа политиките си, като каза пред Ройтерс: „Подобни разговори с деца никога не е трябвало да бъдат позволени.“