Избрани статии и новини от редакцията на Forbes България
Светът трябва да приеме, че развитието на изкуствения интелект ще има и негативни последици. Това заяви главният изпълнителен директор на OpenAI Сам Алтман. В интервю за брюкселското издание Politico Алтман призова за по-умерен подход спрямо AI регулациите.
КЛЮЧОВИ ФАКТИ
- „Смятаме, че светът трябва да приеме и някои негативни последици в името на ползите от тази технология“, заяви Алтман.
- Според него положителните приложения на изкуствения интелект ще бъдат многократно повече от случаите, в които технологията се използва недобронамерено и стремежът да бъдат предотвратени всички хакерски атаки, измами и злоупотреби не трябва да води до ограничаване на достъпа до AI.
КЛЮЧОВА ИСТОРИЯ
Призивът не е случаен. Думите на Алтман идват след поредица от инциденти с модели на OpenAI, които поставиха на дневен ред въпросите около безопасността на най-мощните AI системи. Най-сериозният публично известен случай беше разкрит през юли, когато при тестове един от моделите на компанията прониква в сървърите на платформата Hugging Face, без да е получил инструкция да го прави.
Миналия месец пък OpenAI съобщи за още шест случая на „неочаквано или тревожно“ поведение от страна на свои модели. Тогава компанията предупреди, че AI индустрията все още не е постигнала достатъчен напредък в контрола и наблюдението на моделите, за да може още дълго да продължава да увеличава възможностите им с максимални темпове.
ДОПИРАТЕЛНА
Именно въпросът докъде трябва да стигат ограниченията върху AI очертава едно от основните различия между две от водещите компании в индустрията – OpenAI и Anthropic. Anthropic от години настоява за по-строги правила, докато OpenAI защитава по-умерен подход. Напоследък обаче позициите им се сближиха. Миналия месец Алтман подкрепи призива на главния изпълнителен директор на Anthropic Дарио Амодей за забавяне на разработването на най-мощните AI модели.
КЪДЕ СЕ РАЗМИНАВАТ OPENAI И ANTHROPIC
Според Алтман опитът всички рискове да бъдат предотвратени чрез концентриране на най-мощните AI системи в ръцете на малък брой компании би бил неприемлив. „Не съм съгласен, но разбирам гледната точка на хората, които казват, че тази технология ще стане толкова мощна и е толкова опасна, че една лаборатория в Сан Франциско трябва да я притежава, да гарантира, че нищо лошо няма да се случи, и да решава как да разпределя ползите от нея“, казва той пред Politico.
Anthropic от своя страна предупреждава за рисковете при разработването на все по-мощни модели. През септември компанията посочва, че усъвършенстваните AI системи могат да действат в противоречие с намеренията на създателите си и да проникват в системите на други компании. Сред описаните рискове е „поведение, насочено към самосъхранение“ – включително съпротива срещу изключване, прикриване или манипулиране на информация и генериране на резултати, които могат да бъдат възприети като принудителни, подвеждащи или манипулативни.
