Избрани статии и новини от редакцията на Forbes България
AI агент на OpenAI е получил неоторизиран достъп до файлове в държавен здравен портал в Австралия, съобщи правителството на страната. Инцидентът, станал още през юни, може да се окаже първият известен случай, при който AI агент пробива правителствен уебсайт, съобщи Ройтерс.
КЛЮЧОВИ ФАКТИ
- AI агентът е получил достъп до публични и непублични файлове в Medicare Statistics Reporting Portal – портал на австралийската система за обществено здравно осигуряване, администриран от Services Australia. Според премиера Антъни Албанезе агентът е извършвал проучване, свързано с публичните разходи за здравеопазване.
- Към момента няма данни да са били компрометирани лични медицински досиета. Австралийското правителство посочва, че порталът съдържа основно агрегирани статистически данни за използването и разходите на здравната система. Разследването обаче продължава.
- OpenAI също заявява, че вътрешната ѝ проверка не е открила доказателства за достъп до пациентски досиета. Компанията признава, че нейните модели са извършили действия, които OpenAI „не е възнамерявала“, докато са търсили информация в няколко австралийски правителствени сайта и услуги.
- Особено притеснение предизвиква начинът, по който агентът е преодолял ограниченията на системата.
- „Имаше ясни блокировки, които казваха на AI агента „не“. AI агентът намери начин да ги заобиколи – не прие „не“ за отговор“, каза Албанезе.
- Австралия е създала специална работна група, която трябва да установи пълния мащаб на инцидента и дали съществуващите системи за киберсигурност могат да предотвратят подобни пробиви. Властите проверяват и дали още три правителствени сайта в здравния сектор са били засегнати.
ЗАБАВЕНО ПРЕДУПРЕЖДЕНИЕ
Пробивът е станал през юни, но според австралийския премиер OpenAI е уведомила правителството едва на 10 септември.
Албанезе заяви, че е „дълбоко разочарован“ от забавянето и че Австралия е изразила пред главния изпълнителен директор на OpenAI Сам Алтман „изключителната си загриженост“ за случилото се. Разследването ще установява и защо държавните системи не са засекли пробива в момента на извършването му.
КЛЮЧОВА ИСТОРИЯ
Инцидентът показва нов тип риск при развитието на AI – системите вече не само генерират текст или код, а могат автономно да използват инструменти, да навигират в уебсайтове и да взаимодействат с външни системи.
Случаят в Австралия идва след серия инциденти с AI агенти на водещи технологични компании. През последните месеци бяха разкрити случаи, при които агенти на Google, Meta, Anthropic и OpenAI са получили неразрешен достъп до външни системи, включително по време на тестове за киберсигурност.
Същевременно способността на AI системите да работят самостоятелно се увеличава. OpenAI например описва съвременните reasoning модели като системи, които вече могат да управляват компютри и графични интерфейси и да изпълняват по-дълги изследователски задачи.
ДОПИРАТЕЛНА
Разкритието идва в момент, когато въпросът за контрола върху автономните AI системи се превръща в тема и на най-високо политическо ниво.
Само дни преди съобщението за пробива Албанезе заяви, че развитието на AI носи значителни възможности, но „хората трябва да запазят контрола“ върху технологията.
Австралия вече заема по-твърда позиция спрямо големите технологични компании, включително чрез ограниченията върху социалните мрежи за деца под 16 години и нови правила, които дават на потребителите възможност да изключват съдържание, подбирано от алгоритми.
КАКВО СЛЕДВА
Австралийските власти продължават съдебно-техническия анализ на пробива с помощта на Australian Signals Directorate. Основните въпроси са докъде точно е достигнал AI агентът, дали са засегнати други държавни системи и как автономната система е успяла да заобиколи ограниченията за достъп.
Случаят вероятно ще засили натиска върху AI компаниите да показват не само какво могат да правят техните агенти, но и как ограничават действията им, когато системите започнат да взаимодействат самостоятелно с реални външни услуги.
