Избрани статии и новини от редакцията на Forbes България
Развитието на изкуствения интелект изпреварва както научното разбиране, така и способността на правителствата да го регулират, а науката вече не може да гарантира, че все по-мощните AI системи няма да причинят катастрофални вреди. Това предупреждава първият предварителен доклад на Независимия международен научен панел на ООН по изкуствен интелект, публикуван в сряда.
КЛЮЧОВИ ФАКТИ
- Докладът определя AI като технология, чиито възможности се развиват по-бързо от механизмите за научна оценка и регулация, което според авторите създава “спешна необходимост” от нови стандарти и управление на риска.
- Според панела индустрията вече преминава от генеративни модели към агентни AI системи, които могат самостоятелно да вземат решения и да изпълняват задачи в реалния свят. В по-дългосрочен план експертите очакват появата на самоусъвършенстващи се системи, интегрирани с роботика, квантови изчисления и биотехнологии.
- Докладът предупреждава, че съществуващите методи за оценка на AI вече изостават от развитието на технологиите. Сред рисковете са загуба на контрол върху автономни системи, подвеждащо поведение на моделите, кибератаки, биологични заплахи и масово разпространение на дезинформация.
- В същото време експертите отбелязват, че AI вече носи измерими ползи в науката, медицината, образованието и селското стопанство, включително ускоряване на научните открития и разработването на лекарства. Реалният ефект обаче зависи от човешкия контрол, местния капацитет и качеството на управлението.
АКЦЕНТ
Един от най-силните изводи в доклада е, че управлението на AI вече се случва в несигурна среда. Според експертите това не е необичайно за новите технологии, но при изкуствения интелект ситуацията е различна, защото развитието му се концентрира в ръцете на малък брой компании, агентните системи представляват качествено нов етап, а някои грешки може да се окажат необратими.
ВАЖЕН ЦИТАТ
“Възможностите на AI изпреварват както научното разбиране, така и способността на правителствата да се адаптират. Науката в момента не може да гарантира, че с продължаващото увеличаване на възможностите AI няма да причини катастрофални вреди”, посочва Йошуа Бенджио, съпредседател на Независимия международен научен панел на ООН.
ДОПИРАТЕЛНА
Паралелно с публикуването на доклада генералният секретар на ООН Антониу Гутериш призова държавите да ускорят работата по глобалното управление на AI, предупреждавайки, че “светът не може да управлява това, което не може да разбере”. В същия ден беше обявено и създаването на новата Глобална комисия “AI for Good”, която ще бъде съпредседателствана от президента на Руанда Пол Кагаме и главния изпълнителен директор на Salesforce Марк Бениоф.
