Отворено писмо предупреждава за AI апокалипсис и зове компаниите за отговорност
Избрани статии и новини от редакцията на Forbes България
В отворено писмо до целия свят бивши и настоящи служители на големите технологични компании призовават властите, обществото и корпорациите за споделена отговорност при развитието на изкуствения интелект. Писмото предупреждава за рисковете от AI подема и поставя на масата четири изисквания пред корпорациите.
КЛЮЧОВИ ФАКТИ
- “Право да предупредим за рисковете от напредването на изкуствения интелект”. Това е името, което носи отворено писмо на служители в големите технологични компании, които наливат милиарди в развитието на AI. Под него са се подписали бивши и настоящи служители на OpenAI и Google Deepmind.
- В писмото си служителите предупреждават за огромните рискове от изкуствения интелект и призовават учените, политиците и обществото да предприемат мерки.
- Огромният проблем според служителите представляват “големите финансови стимули” за технологичните компании, които са в люта надпревара за развитието на AI и се опитват да заобикалят регулациите.
- В писмото освен това се бие сигнал, че компаниите съзнателно не споделят с властите и обществото цялата информация за възможностите и ограниченията на своите системи, адекватността на защитните си мерки и нивата на риска и призовават за “ефективен държавен надзор”.
ВАЖЕН ЦИТАТ
“Вярваме, че изкуственият интелект може да донесе безпрецедентни ползи за човечеството. Но разбираме добре и сериозните рискове, които тези технологии крият – утвърждаване на съществуващите неравенства, манипулации и дезинформация, загуба на контрол върху автономните AI системи, което може да доведе до изчезване на човечеството. Тези рискове са признати както от самите компании, така и от правителствата по света. Надяваме се, че тези рискове могат да бъдат адекватно намалени с достатъчно насоки от страна на научната общност, политиците и обществеността”, пишат в писмото си служителите.
АКЦЕНТ
“Докато няма ефективен държавен надзор над тези корпорации, настоящите и бившите служители са сред малкото хора, които могат да ги държат отговорни пред обществото. Въпреки това широките споразумения за конфиденциалност ни пречат да изразим загрижеността си”, посочват в писмото си служителите.
ДОПИРАТЕЛНА ТОЧКА
В отвореното си писмо служителите поставят четири точки пред компаниите, занимаващи се с разработката на AI:
- компанията да не сключва споразумения, забраняващи “дискредитирането” или отправянето на критики, свързани с рисковете от AI развитието;
- компанията да гарантира анонимността на бивши и настоящи служители, които искат да подадат сигнал
- компанията ще се стреми да осигури безопасна и отворена към критики работна среда
- компанията няма да “търси отмъщение” за бивши и настоящи служители, които са сигнализирали публично за потенциални рискове
