AI модели срещу AI хакери: как Depthfirst променя индустрията 

Depthfirst. Това е името на компанията за киберсигурност с изкуствен интелект, която разработва нов тип защита срещу злонамерени AI хакери. Наскоро Depthfirst привлече 120 млн. долара финансиране за това, а компанията вече се оценява на 580 млн. долара.

Един от създателите, Андреа Мичи, прекарва близо седем години в лабораторията DeepMind на Google, където разработва модели за изкуствен интелект, които правят енергията на вятърни паркове и центрове за данни по-ефективна.

Широко разпространеният подход при разработката на изкуствен интелект започва с вече изграден голям езиков модел, който впоследствие се адаптира към конкретна задача. Според Мичи обаче по-ефективният модел е обратният – целта да се задава ясно още в началото, а изграждането на системата да започне буквално от нулата.

През 2024 г. Мичи напуска DeepMind и съосновава Depthfirst, за да приложи този подход в киберсигурността, създавайки AI модели, които не само автоматично откриват слабите места в софтуерите, но и предлагат конкретни решения. Надеждата на Мичи е, че моделите му ще бъдат по-бързи от злонамерените и свръхинтелигентни такива. Компанията нарича разработения метод „Общо разузнаване за сигурността“. Терминът преплита в себе си идеята за общ изкуствен интелект, който може да се справя с различни задачи почти като човек.

„Искаме да сме сигурни, че тези сложни и крехки системи могат да издържат в свят, където възможностите за хакване чрез изкуствен интелект са свръхчовешки. Това означава винаги да сме една крачка напред“, казва пред Forbes Мичи, който е и технически директор в Depthfirst.

Макар и целите на Depthfirst да изглеждат прекалено амбициозни за компания, която съществува от едва две години, тя успява да привлече инвеститори. Във вторник Depthfirst обяви нов кръг финансиране на стойност 80 млн. долара при оценка от 580 млн. долара. Само преди два месеца, компанията получи и първото си голямо финансиране от 40 млн. долара.

Главният изпълнителен директор и съосновател Касим Митани казва пред Forbes, че компанията се разраства бързо, а приходите ѝ са нараснали с 300% през последните две тримесечия. Depthfirst обслужва 20 клиента – от мултинационални компании до стартъпи. Един от най-значимите е платформата Lovable, чиято стойност възлиза на стойност от 6.6 млрд. долара.

Митани е бивш ръководител на отдела за сигурност на инфраструктурата в Databricks – компания за анализ на данни, оценявана на 134 млрд. долара. Наред с Мичи и Митани, третият съосновател на Depthfirst е Даниеле Перито, бивш ръководител по киберсигурността в платежния гигант Block на Джак Дорси.

Аршам Мемарзадех е един от инвеститорите на Depthfirst. Той смята, че компанията се намира в добра позиция и би могла да доминира на пазар, оценяван на 18 млрд. долара. Тъкмо там обаче има незапълнена пазарна ниша – компаниите се конкурират върху защита на приложения, а не на сървъри, компютри или индустриални системи.

Мемарзадех вярва, че Depthfirst разполага с качествата и технологиите, за да повтори успеха на Wiz, но в своята ниша. Преди Google да я купи за 32 млрд. долара, Wiz изпревари гиганти в киберсигурността като Symantec и McAfee и завладя пазара на облачната сигурност.

„В киберсигурността е много трудно да се превърнеш в голям и устойчив бизнес, ако не овладееш някой от основните начини, по които се правят атаки“, казва той. „Ако не успееш, просто ще се превърнеш в допълнителна функция за някого и няма да се установиш като продукт”.

Depthfirst пуска този уикенд първия си собствен модел – dfs-mini1, който има за цел автономно да открива пропуски в автоматизирани дигитални договори. Както при другите модели на Depthfirst, компанията го е обучила чрез метод, наречен обучение чрез подсилване. Това означава, че машината учи чрез проба и грешка, вместо да обработва огромни количества етикетирани данни.

За целта агентите са поставени във виртуална среда, където задачата им е да откриват пропуски. Всеки път, когато моделът открие слабост, той получава награда.

„Започнахме с дигиталните договори, защото дори да сърдържат една единствена грешка в себе си, тя може да бъде катастрофална и да доведе до загуба на големи средства“, обяснява Мичи.

Митани разкрива, че предстои компанията да разработи още модели, които да обхващат различни сектори. „Нашите агенти проникват много дълбоко“, казва той. „Те се опитват да разберат как работи приложението, а агентът се опитва да открие и най-уязвимите места.“

Той също твърди, че изграждането на модели от нулата е по-евтино, защото Depthfirst може да контролира мощността, необходима за обучението им. Освен това компанията не плаща на големи имена като OpenAI или Anthropic за техните модели, макар да трябва да инвестира в собствената си инфраструктура.

С новото финансиране, Depthfirst планира да разработи изкуствен интелект, който да поема много от задачите, които днес изпълняват екипите по киберсигурност. Това обаче не означава, че компанията иска да измести хората от работните им позиции.

„Целта ни не е да заменим този ценен ресурс“, казва Мичи. „Въпросът за мен е: можем ли да помогнем на хората да се справят със заплахи, които ще бъдат много по-мащабни от тези, с които се сблъскваме досега?“

Автор: Thomas Brewster