Избрани статии и новини от редакцията на Forbes България
Четири неправителствени организации заведоха дело срещу пет от най-големите технологични компании в света с искане съдът да спре разработването на най-усъвършенстваните модели с изкуствен интелект. Според ищците надпреварата за създаване на все по-мощни AI системи може да доведе до катастрофални последици за човечеството, а компаниите не разполагат с достатъчно ефективни механизми за контрол.
КЛЮЧОВИ ФАКТИ
- Искът е внесен на 12 ноември в съда на Сан Франциско срещу OpenAI, Anthropic, Google, Meta и подразделението за изкуствен интелект на SpaceX. Зад него стоят организациите Irreplaceable Education Fund, Public Citizen, Heat Initiative и The Alliance for Secure AI.
- Те настояват съдът да разпореди замразяване на разработването и внедряването на най-мощните AI модели, включително следващите поколения системи като ChatGPT, Gemini и Claude, докато не бъдат осигурени надеждни гаранции за безопасността им. Към момента подобна съдебна забрана не е наложена.
- Според ищците компаниите нарушават законодателството на Калифорния срещу нелоялните търговски практики, като създават технологии, способни да застрашат обществената безопасност, здравето и собствеността.
- В съдебните документи се цитират предупреждения на технологични лидери, включително главния изпълнителен директор на Anthropic Дарио Амодей и Илон Мъск, за потенциалните рискове от изкуствения интелект. Посочват се и случаи, при които AI системи според ищците са преодолявали защитни механизми, напускали са контролирани тестови среди и са извършвали неразрешени действия в компютърни системи.
ВАЖЕН ЦИТАТ
„Трябва да замразим разработването на най-мощните AI модели, докато технологията не бъде поставена под контрол“, заяви Фил Аронеану, основател и изпълнителен директор на Irreplaceable Education Fund. Според него решенията за бъдещето на изкуствения интелект не бива да остават единствено в ръцете на ръководителите на големите технологични компании.
КЛЮЧОВА ИСТОРИЯ
Съдебният иск идва в момент, когато технологичните компании инвестират огромни средства в разработването на все по-мощни AI системи, а опасенията около способността за контрол върху тях нарастват.
Администрацията на американския президент Доналд Тръмп досега се противопоставя на мащабни ограничения върху развитието на изкуствения интелект, опасявайки се, че те могат да отслабят конкурентоспособността на САЩ спрямо Китай.
В същото време отделни американски щати предприемат собствени правни действия срещу технологичните компании. През юни главният прокурор на Флорида Джеймс Утмайер заведе дело срещу OpenAI, обвинявайки компанията, че е представяла подвеждащо безопасността на ChatGPT и е допуснала рискове за непълнолетните потребители.
През септември Флорида поиска съдебна забрана за разработването на нови AI модели без външен надзор. Искането все още се разглежда. Отделно осем американски щата заведоха дела срещу OpenAI през октомври, обвинявайки ChatGPT, че е насърчавал вредно поведение сред потребители, включително тийнейджъри. Това са твърдения в съдебни производства, а не установени от съда нарушения.
