AI крие риск за човечеството, подобен на ядрените оръжия
Отразявам новини в сферата на технологиите и международната политика. Вярвам, че зад всеки успех стои една вдъхновяваща човешка история, която си струва да бъде разказана.
Правителството на САЩ трябва да действа “бързо и решително”, за да предотврати значителните рискове за националната сигурност, които изкуственият интелект крие. В най-лошия случай AI представлява екзистенциална заплаха за човешкия вид, предупреждава доклад на американските власти.
КЛЮЧОВИ ФАКТИ
- Докладът е плод на продължила три години работа и стъпва върху интервюта с над 200 държавни служители, експерти и работници в компании в областта на изкуствения интелект, като OpenAI, Google DeepMind, Anthropic и Meta.
- Анализът е поръчан от Държавния департамент на САЩ през ноември 2022 г. като част от договор на стойност 250 хил. долара.
- Данните показват, че има сериозни опасения за развитието на изкуствения интелект заради потенциала от порочни практики и недобросъвестност.
- Докладът препоръчва да се предприемат мащабни и безпрецедентни политически действия, които да доведат до радикални промени в цялата индустрия. Сред тях например е предложения Конгресът на САЩ да обяви за незаконно обучението на модели на AI, които използват повече от определено ниво на изчислителна мощност, което да бъде определено от новосформирана федерална агенция за изкуствен интелект на база нивата на изчислителна мощност, използвани за обучение на настоящи модели като ChatGPT на OpenAI или Gemini на Google.
КЛЮЧОВ ЦИТАТ
“Възходът на усъвършенствания AI и AGI (изкуствен общ интелект) има потенциала да дестабилизира глобалната сигурност по начин, подобен на ядрените оръжия”, се казва в доклада.
КЛЮЧОВА ИСТОРИЯ
Препоръките в доклада на държавния департамент на САЩ идват на фона на главозамайваща поредица от важни събития в областта на изкуствения интелект, които накараха много наблюдатели да преосмислят позицията си по отношение на технологията.
С пускането на ChatGPT през ноември 2022 г. напредъкът в областта стана за пръв път видим за обществото и повдигна въпроси за потенциалната опасност от недобросъвестно използване на изкуствения интелект. Заговори се за нуждата от регулации в сектора.
Към днешна дата развитието на изкуствения интелект се движи с огромни темпове. Продължават да се появяват все повече инструменти, предлагащи все повече възможности.
Докато правителствата по света обсъждат как най-добре да регулират изкуствения интелект, най-големите технологични компании в света бързо изграждат инфраструктурата за обучение на следващото поколение по-мощни системи – в някои случаи планират да използват 10 или 100 пъти повече изчислителна мощ.
