Борислав Бориславов въобще не се шегува, когато казва, че повечето организации се провалят във внедряването на изкуствен интелект (AI) още преди да са написали първия промпт
Причината за това се крие не в сложността на технологията, а в липса на стратегия и ясен план за експлоатация, сигурност и мониторинг на AI инфраструктурата. „Всеки смята, че има AI стратегия, но почти никой няма AI в продукция“, казва Бориславов, съосновател на OpsHero.
Като технически директор в компания, която изгражда и поддържа облачни инфраструктури за широк кръг клиенти, той е виждал какви ли не грешки при внедряването на AI. Тези грешки може да струват скъпо на компаниите: от неконтролируеми разходи за токени, през отрицателна възвръщаемост на инвестицията, до солени санкции при изтичане на лични данни.
Бориславов и колегите му таргетират всички тези проблеми с OpsHero Platform, която позволява на една организация да затвори целия цикъл по внедряването и управлението на AI инфраструктура. Вземете за пример един от най-големите кошмари за много IT отдели: пускането на нов GPU сървър и работещ модел с отворени тегла (open weights) в продукция. Обикновено пътят от нов сървър до работещ модел минава през инсталация на драйвери, настройка на хардуерния достъп за контейнерите, интеграция с мониторинга, политиките за достъп и мрежовата сигурност, и накрая изграждане на API, през което моделът да се ползва. Всяка стъпка изисква различна експертиза и в много организации този процес отнема седмици. С ОpsHero Platform внедряването става за до 60 минути.
Отделно от това OpsHero Platform предлага и решения за обучения на служителите, като отговор на изискванията във EU AI Act, централизирана система за управление и одобряване на уменията (така наречените Agent Skills) на AI агентите, тестова среда и проверка за уязвимости при разработването, включително и с vibe coding, автономен агент за откриване на аномалии и инциденти (Site Reliability Agent), агент за проследяване на разходите (FinOps) за токени и самата инфраструктура. Идеята е платформата да е всичко, от което една компания има нужда, за да използва изкуствен интелект. „AI инфраструктурата не е само GPU сървъри и модели. Тя включва хората и агентите, които ползват AI, инструментите, с които го ползват, и правилата, по които го правят. Досега пазарът предлагаше отделни решения за всяко от тези неща и организациите ги сглобяваха сами – казва Бориславов. – OpsHero Platform покрива слоевете последователно.“
Много компании се изкушават да интегрират AI, като използват нает такъв. Бориславов не отхвърля наетия AI като работещ вариант, но посочва, че е свързан с някои рискове. Най-сериозният от тях е изтичането на търговски тайни и лични данни. „Наетият AI е най-бързият начин да се започне и най-лесният начин да се загуби контрол“, казва Бориславов.
Използвайки облачно решение за изкуствен интелект, компанията става зависима от доставчика и промените, които доставчикът може да направи на използвания голям езиков модел. Организацията не знае какво се случва с данните є, а всеки инцидент при доставчика се отразява и на самата нея. Това може да донесе сериозни правни рискове при компании от силно регулирани индустрии. GDPR изисква контрол върху обработката на лични данни, включително къде физически се намират. DORA задължава финансовите институции да управляват риска от трети страни и да доказват устойчивост на системите. EU AI Act въвежда задължения за прозрачност, управление на риска и обучение на служителите. Когато моделът е при външен доставчик, голяма част от тези изисквания стават трудни за доказване пред регулатора, а някои конкретни политики са невъзможни без локален AI.
OpsHero Platform решава всички тези проблеми с един прост принцип: цялата инфраструктура е при клиента, физически в неговия център за данни или в нает от него хостинг доставчик. „OpsHero Platform не е облак, в който качвате данните си, а система, която превръща вашите собствени сървъри в управляеми клъстери за минути – казва Бориславов. – Нашата услуга управлява платформата, но данните и изчисленията остават в границите на организацията.“
„Визията ни е, че AI трябва да бъде управляван по същия начин, по който зрелите организации управляват всяка друга инфраструктура – с план за експлоатация, сигурност, мониторинг и разходи.“
Бориславов е убеден, че една организация няма нужда от цял AI отдел, за да изгради суверенитет за данните си. Той знае това от личен опит. В продължение на 20 години Бориславов e техническият двигател зад ICN.BG – един от лидерите на местния хостинг пазар. Това му дава задълбочен поглед върху експлоатацията на реална инфраструктура – от хостинг компания до национални облачни платформи и проекти в регулираните индустрии. Наученото в ICN.BG сега се пренася в OpsHero Platform: платформа, която сама се наблюдава, сама анализира инцидентите и сама оптимизира ресурсите чрез автономни агенти, а клиентът добавя нов капацитет просто като добави нов сървър. „Вярваме, че open-weight моделите и европейската регулация – EU AI Act, DORA, GDPR – заедно създават прозорец, в който европейските организации могат да имат AI от световна класа, без да предават данните и контрола си навън – казва Бориславов. – Нашата роля е да направим този път не само възможен, но и лесен: една платформа върху хардуера на клиента, която затваря целия цикъл – от сървъра до служителя.“
Платформата адресира и феномена vibe coding. „Рискът тук не е в самия код, а в това къде и как той се пуска в експлоатация“, казва Бориславов. Отговорът на OpsHero е концепцията „най-сигурният път да бъде и най-лесният“. Чрез Internal Developer Portal всеки служител може да публикува своето приложение в хостинг средата: като качеството на кода и уязвимостите и зависимостите от потенциално опасни библиотеки се проверяват в самия процес на разработка.
Много организации избират облачен AI не само защото е най-лесният вариант, но и защото изглежда най-евтиният. Тази илюзия рухва още след първата космическа сметка за изразходвани токени. В същото време решения като OpsHero намаляват оперативните разходи, като спестяват от скъпоструваща поддръжка и премахват скритите такси, характерни за облачните доставчици. Благодарение на автономията и бързото скалиране компаниите постигат много по-висока възвръщаемост на инвестициите и могат да съкратят времето за излизане на пазара (time-to-market) на новите си продукти. Всичко това, докато запазват пълен контрол. „Визията ни е, че AI трябва да бъде управляван по същия начин, по който зрелите организации управляват всяка друга инфраструктура – казва Бориславов. – С план за експлоатация, сигурност, мониторинг и разходи. Нито повече, нито по-малко.“