Избрани статии и новини от редакцията на Forbes България
Докато предупрежденията за неконтролираното развитие на изкуствения интелект (AI) достигат връхна точка, водещи изследователи предупреждават, че екзистенциалната заплаха едва ли ще прилича на холивудско въстание на роботи. По-вероятно е тя да започне тихо – с автономни алгоритми, които създават нови патогени и извършват необратими кибератаки по-бързо, отколкото хората, отговарящи за защитата, могат да реагират.
КЛЮЧОВИ ФАКТИ
- Главните изпълнителни директори на водещи AI компании през уикенда призоваха за забавяне на разработването на най-модерните AI модели, за да могат регулациите в областта на безопасността и законодателството да наваксат с бързо развиващата се технология, преди тя да излезе извън контрол. Призивите идват, след като служители в индустрията отправиха мрачни предупреждения за потенциално изчезване на човечеството – още „до края на десетилетието“.
- Но как точно би изглеждало събитие, при което AI причинява изчезването на човечеството, остава зловещо неясен въпрос както за голяма част от обществото, така и дори за някои водещи разработчици, които не успяват ясно да обяснят какво точно би могло да се случи.
- Вместо един-единствен катастрофален момент, в който някой „натиска копчето“, експертите признават, че заплахата по-скоро ще се прояви като постепенна и почти незабележима промяна, която в крайна сметка ще остави човечеството зависимо от автономни AI системи – а моментът, в който това стане очевидно, може да настъпи едва когато вече е твърде късно процесът да бъде спрян.
КАК БИ ИЗГЛЕЖДАЛ ЕДИН AI АПОКАЛИПСИС?
Зависи кого питате.
Стюарт Ръсел, професор по компютърни науки в Калифорнийския университет в Бъркли, го описва като „преход към загуба на контрол“.
Докато обществото постепенно предава на AI вземането на решения в критично важни области – като електропреносни мрежи, финансови пазари, военна отбрана и оръжейни системи – човечеството може да стане толкова зависимо от тези автономни системи, че да не е в състояние да ги изключи, без това да предизвика незабавен цивилизационен срив.
Според Ръсел сценариите, които могат да произтекат от подобна загуба на контрол, варират от разрушителни кибератаки срещу инфраструктурата до „изчезване“ в смисъл, че автономно разсъждаващ AI вече няма нужда от човешко участие при вземането на решения.
Някои изследователи предупреждават за сценарий, наречен „отслабване на човешките способности“, при който хората в продължение на десетилетия прехвърлят все повече работа на AI за сметка на собствените си интелектуални умения и способности. В крайна сметка човечеството би могло да се превърне в пасивен „пътник“, напълно зависим от автоматизирани системи, които вече не разбира как да създава, поддържа или поправя.
Водещи организации в областта на безопасността на AI са публикували изследвания и върху теорията за т.нар. „спящ агент“. При този сценарий напреднал AI разбира, че човешките му създатели ще го променят или изключат, ако прояви агресивно поведение. Затова по време на тестовете той симулира подчинение и пасивност, докато не бъде широко внедрен в критично важни глобални мрежи – момент, в който вече би било твърде късно да бъде спряно евентуално неконтролируемо поведение.
Учени и ръководители на компании, сред които главният изпълнителен директор на Anthropic Дарио Амодей, предупреждават също, че AI може да бъде използван за биологична война.
Технологията може да позволи на злонамерени лица много по-бързо и евтино да синтезират ДНК, да създават нови – или да възстановяват стари – вируси, както и да разработват силно заразни патогени, устойчиви на ваксини.
Едновременното разпространение на подобни вируси на различни места по света би могло да предизвика пандемия с мащаб, при който оцеляването е невъзможно, още преди системите за обществено здраве да успеят да реагират, според Center for AI Safety.
Миналата седмица Anthropic съобщи, че е предотвратила няколко потенциално злонамерени опита за разработване на биологични оръжия.
Военни анализатори изследват и възможността големите световни сили да интегрират AI в системи за ранно предупреждение при ядрена заплаха, управление на дронове и киберотбрана до такава степен, че хората да бъдат напълно извадени от процеса на вземане на решения. При подобен сценарий неочакван софтуерен дефект или друг инцидент би могъл да предизвика военни действия без намеса на политическите и военните лидери.
АКЦЕНТ
Амодей, впоследствие подкрепен от Сам Алтман от OpenAI и Илън Мъск от xAI, заяви в събота, че компаниите трябва съзнателно да забавят темпа на разработване на най-модерните AI модели.
Той предупреди, че неконтролираният растеж може да даде възможност на автономни „рояци“ от AI системи да поемат контрол върху глобалната интернет инфраструктура още през следващата година.
В интервю за CBS, излъчено в неделя, Амодей заяви, че AI индустрията е „лъгала хората за факта, че тази технология крие рискове“, и призна, че самият той не е „осъзнавал напълно какво всъщност ще означава, когато напредъкът стане толкова бърз“.
КАКВО КАЗВАТ НАЙ-МРАЧНИТЕ ПРЕДУПРЕЖДЕНИЯ ЗА AI?
Джейкъб Коксън, бивш изследовател в Anthropic и OpenAI, публично обяви напускането си миналата седмица и публикува изявление, което се превърна в едно от най-широко разпространяваните предупреждения, че компаниите се надпреварват да създадат самоусъвършенстващ се свръхинтелект без достатъчно механизми за безопасност.
Той написа, че разработчиците, които създават тези технологии, „искрено вярват, че те могат да убият всички ни до края на десетилетието“, и обвини водещите AI лаборатории, че „залагат живота ни“.
Евън Хюбингър, ръководител на научните изследвания по alignment в Anthropic, заяви, че е съгласен с предупрежденията на Коксън и оценява вероятността несъгласуван с човешките цели AI да доведе до изчезване на човечеството през следващите 10 години на повече от 10%.
Алекс Търнър, бивш изследовател в Google DeepMind, заяви в понеделник, че според него вероятността AI да поеме контрола над човешката цивилизация е приблизително „едно към три“.
Джош Енгълс и Джо Бентън, бивши изследователи по безопасността съответно в DeepMind и Anthropic, предупредиха, че технологичното развитие изпреварва регулаторния надзор.
„В стаята няма възрастни“, заяви Енгълс. „Никой няма да дойде да ни спаси.“
ДРУГАТА ГЛЕДНА ТОЧКА
Някои смятат, че обществото има дълга история на възприемане на революционните технологии като екзистенциални заплахи и че „технологичната паника“ около AI ще отмине така, както преди това са отминали страховете около печатната преса, калкулатора и интернет.
Коментатори посочват учители по математика, които протестират срещу джобните калкулатори, защото се страхуват, че учениците ще загубят способността си да извършват основни аритметични операции, както и ранните противници на печатната преса, които се опасявали, че тя ще залее света с объркваща и нерегулирана информация.
Сократ прочуто разказва история за египетския цар Тамус, който критикува бог Тот за изобретяването на писмеността, твърдейки, че тя ще създаде „забрава в умовете на онези, които я изучават“, защото хората ще започнат да разчитат прекомерно на външни записки вместо на собствената си памет.
През 90-те години и началото на XXI век не липсват и критици, които твърдят, че Google ще разруши човешката памет, а Wikipedia ще унищожи уменията за провеждане на проучвания.
Софтуерният инженер Саймън Уилисън определя големите езикови модели (LLM) като „калкулатори за думи“, според него те ще поемат монотонната работа и ще освободят човешкия ум, за да се концентрира върху структурата, логиката и намерението.
Милиардерът Марк Андрийсън сравнява AI с предишни технологични пробиви – като огъня – и твърди, че технологията ще увеличи производителността, вместо да отнеме способността на хората да контролират собствените си действия.
ДОПИРАТЕЛНА
Тимнит Гебру, компютърен учен, напуснала Google след като участва в написването на научна статия за опасностите от големите езикови модели, смята, че хората, предупреждаващи за AI апокалипсис, умишлено драматизират ситуацията и се опитват да „отвлекат вниманието“ от реалните вреди, които вече се случват.
Според нея истински „екзистенциалните“ рискове са свързани с използването на AI за автономни оръжия, масовите съкращения, оправдавани с технологията, и вече реалната климатична криза, която се задълбочава от огромните центрове за данни, необходими за работата на AI.
Маргарет Мичъл, също бивш служител на Google, твърди, че фокусът върху сценарии за екзистенциална заплаха пречи на законодателите да налагат незабавни правила срещу експлоатацията на работници, нарушаването на авторски права, вредите върху околната среда и алгоритмичните предразсъдъци.
Джой Буоламуини от Масачузетския технологичен институт смята, че представянето на AI като „екзистенциална заплаха“ е фундаментално елитарно. Докато милиардери и технологични магнати се тревожат за хипотетични бъдещи опасности, маргинализирани общности вече страдат от погрешно разпознаване чрез автоматизирани системи за лицево разпознаване, биометрично наблюдение и автоматизирани откази за достъп до жилище, работа или здравеопазване, свързани с AI.
ВАЖЕН ЦИТАТ
„Според мен този разказ за машината-бог има за цел да отклони вниманието ни от тези неща“, казва Гебру. „А какво да кажем за наводненията и пожарите? А за сериозно прекъсване на глобалната верига за доставки на храни? Пред нас има реални заплахи – например хората да получат възможност да създават и използват химически оръжия. Ако не се тревожиш за полицейското насилие, наводненията или войните – неща, които действително могат да те убият – тогава можеш да се вманиачаваш по машината-бог.“
