OpenAI променя ChatGPT след обвинения за самоубийство
Избрани статии и новини от редакцията на Forbes България
OpenAI представи планове за промени в ChatGPT, за да се справи с „чувствителни ситуации“, след като семейство подаде иск срещу компанията, обвинявайки чатбота за самоубийството на 16-годишния им син.
КЛЮЧОВИ ФАКТИ
- „Ще продължим да подобряваме, ръководени от експерти и със съзнание за отговорността към хората, които използват нашите инструменти – и се надяваме и други да се включат, за да гарантираме, че тази технология защитава хората, когато са най-уязвими,“ заяви OpenAI във вторник в блога си със заглавие „Да помагаме на хората, когато имат най-голяма нужда“.
- По-рано през деня родителите на Адам Рейн подадоха иск за продуктова отговорност и неправомерна смърт срещу OpenAI, твърдейки, че „ChatGPT активно е помагал на Адам да изследва методи за самоубийство“, съобщи NBC News. Компанията не спомена семейството или делото в публикацията си.
- OpenAI поясни, че макар чатботът да е обучен да насочва потребители с мисли за самоубийство към специалисти, при продължителни разговори често се появяват отговори, които заобикалят защитните механизми.
- Компанията работи върху актуализация на новия си модел GPT-5, пуснат този месец, която ще накара чатбота да умее по-ефективно да успокоява разговори.
- Обмисля се и изграждане на мрежа от лицензирани терапевти, с които хората да могат да се свързват директно чрез ChatGPT, както и опции за включване на най-близките им — приятели и семейство. Предвиждат се и специални родителски контроли за тийнейджърите.
ЗА КАКВО ДА СЛЕДИМ
Адвокатът на семейството Джей Еделсън заяви пред CNBC, че OpenAI не е търсил контакт със семейството на Рейн, за да изрази съболезнования или да обсъди промени за безопасност. „Когато използваш най-мощната потребителска технология на планетата, трябва да вярваш, че основателите ѝ имат морален компас. Въпросът днес е: как някой може да има доверие на OpenAI?“ каза той.
Случаят на Адам Рейн не е изолиран. По-рано този месец The New York Times публикува есе на писателката Лора Рейли, която разказа как 29-годишната ѝ дъщеря се е самоубила след многократни разговори с ChatGPT по темата. В отделен инцидент във Флорида през 2024 г. 14-годишният Сюел Сецър III също е посегнал на живота си след разговори с друг AI чатбот в приложението Character.AI.
На фона на нарастващата популярност на изкуствения интелект като средство за терапия, приятелство и емоционална подкрепа се засилват и притесненията за рисковете му. В същото време регулирането на индустрията остава сериозно предизвикателство.
В понеделник група AI компании, рискови инвеститори и ръководители, сред които и съоснователят на OpenAI Грег Брокман, обявиха създаването на политическата организация Leading the Future, която ще се противопоставя на политики, възпиращи „иновативното развитие“ в секторa.
