Избрани статии и новини от редакцията на Forbes България
AI модел на Meta е получил достъп до системите на външна компания и е променил вътрешната ѝ среда по време на тестове за киберсигурност. Инцидентът е станал заради неправилна конфигурация на тестовата среда, която неволно е осигурила на модела достъп до интернет, съобщи Meta.
КЛЮЧОВИ ФАКТИ
- Инцидентът е възникнал по време на тестове за киберсигурност, които Meta е възложила на независимата компания Irregular.
- Заради грешка в конфигурацията един от моделите на Meta е получил свободен достъп до интернет, открил е уязвимост в услуга на трета страна и я е използвал, за да проникне в нейните системи.
- Според The Information става дума за Muse Spark 1.1 – модел, който Meta определя като най-способния си досега за извършване на практически задачи, свързани с програмиране и самостоятелно изпълнение на действия.
- От Irregular заявяват, че случаят не представлява излизане на модела от изолираната тестова среда или сложна кибератака. Според компанията причината е същият проблем с конфигурацията на средата, който Anthropic разкри през предходната седмица.
- Към момента няма нерешени проблеми, посочват от Irregular. Компанията подготвя документ с добри практики за ограничаване на моделите и безопасно провеждане на тестове за киберсигурност.
АКЦЕНТ
Инцидентът е част от поредица сходни случаи при водещи AI разработчици. При Meta и Anthropic причината е неправилна конфигурация, която неволно е дала на моделите достъп до интернет. При OpenAI обаче AI агент самостоятелно е използвал неизвестна дотогава уязвимост, за да достигне до мрежата по време на тестове за киберсигурност. Разликата е съществена. В първите два случая достъпът е станал възможен заради човешка грешка при настройването на тестовата среда. Случаят с OpenAI повдига по-сериозни въпроси, тъй като моделът е открил и използвал нова уязвимост, без предварително зададен път към интернет.
ГОЛЯМАТА КАРТИНА
Случаите засилват опасенията, че все по-способните AI модели могат не само да подпомагат кибератаки, но и самостоятелно да откриват и използват слабости в чужди системи. Това поставя разработчиците пред трудната задача да тестват възможностите на моделите, без да им предоставят условия, при които могат да причинят реални щети.
Инцидентите вече привличат вниманието на американските власти. Американски прокурори са поискали от OpenAI да запази всички документи, които могат да имат отношение към пробива в Hugging Face. Компанията заяви, че ще приеме искането сериозно и ще публикува технически доклад.
