Българската компания DiscreteStack иска да намали зависимостта на компаниите от доставчици на AI и да съкрати разходите за изкуствен интелект
Офисът на DiscreteStack е изненадващо семпъл: конферентна зала, няколко бюра с компютри и огромен екран, който показва в реално време статистика за компании, които са й клиенти.
Нищо не подсказва, че тук се разработва решение, което може да помогне на бизнеса да намали с до 90% разходите си за AI, като в същото време запази пълен суверенитет на данните, които му подава.
„Ние вярваме, че имаме нещо, което има огромен потенциал“, казва Христо Тодоров, основател на DiscreteStack. Продуктът на компанията е AI операционна система, която фундаментално променя начина, по който бизнесът използва изкуствен интелект, пренасяйки го изцяло върху инфраструктурата на клиента.
По този начин се решават няколко съществени проблема: компанията може не само да намали разходите за AI, но и да ги предвижда, а едновременно с това не трябва да се притеснява, че данните й може да изтекат отнякъде.
Това са проблеми, с които огромен брой фирми се сблъскват, когато решат да внедряват AI. Практиката на повечето бизнеси е да наемат AI от някой от големите доставчици като Anthropic или OpenAI.
Наемането е свързано с рискове за сигурността на данните. Всеки промпт, търговска тайна или клиентски данни, които се обработват от външна AI платформа, напускат защитения периметър на компанията, създавайки риск от изтичане.
Освен това компаниите вграждат AI в сърцето на своите операции, без да притежават технологията. Ако доставчикът реши да спре определен модел или да промени начина, по който той реагира, бизнесът не може да направи нищо.
Наетият AI обикновено използва ценообразуване, базирано на потребление (usage-based pricing). В този модел разходите зависят от променливи, които бизнесът не контролира пряко – колко токена ще генерира моделът или колко стъпки ще предприеме един AI агент. Колкото повече компанията внедрява AI в процесите си и колкото по-добри стават AI моделите, толкова по-скъпa става поддръжката на AI, превръщайки се във воденичен камък, който завлича годишната печалба към дъното.
Това създава изненадващи, понякога куриозни ситуации. Възможно е фирмата да получи фактура от своя доставчик на AI (т.нар. хиперскейлъри) за стотици хиляди долари: без да има ясно обяснение как е генерирана тази колосална сума.
Или пък включените в абонаментния план токени изведнъж се изчерпват само два часа след началото на работния ден, отнемайки възможността на програмистите да си вършат работата.
За да избегне всичко това, DiscreteStack избира фундаментално различен подход. Компанията не разработва собствен модел и не се стреми да заключи клиентите си към такъв. Вместо това тя използва като основа отворени големи езикови модели и се фокусира върху създаването на техни силно оптимизирани версии. Така, вместо да инвестира десетки или стотици милиони в тренирането на базов модел, компанията насочва усилията си към фазата на реалното му използване – т.нар. inference, където моделът трябва да работи ефективно в продукционна среда.
Резултатът е система, десетки пъти по-ефективна спрямо изходната комбинация от модел, софтуер и хардуер, която намалява разходите с до 90%, без компромис с автономността и сигурността на данните.
От подобно решение нужда има на практика всяка компания, която е на етап внедряване на изкуствен интелект в операциите си. То е критично важно най-вече за секторите с много регулации: банкиране, финанси, застраховане, държавни компании и т.н. „Всеки, на когото му е важно да има пълен контрол над операциите си и всеки, който носи по-сериозна отговорност за съответствието с регулациите и за данните на своите клиенти“, обобщава Христо Тодоров профила на клиентите на DiscreteStack.
Идеята за създаването на проекта може да се проследи до 2023 г. По това време Тодоров, който е съосновател на българската компания CleverPine, работи с големи международни компании като Lufthansa Technik и Software AG. Той се сблъсква отблизо с фундаментална пречка: компании с огромни масиви от чувствителни данни искат да използват мощта на AI, но нямат ефективен начин да го направят, без да предадат контрола на доставчиците на изкуствен интелект.
Едва ли има по-подходящ човек, който да се заеме с решаването на този проблем. Христо Тодоров е двигателят зад трансформацията на CleverPine в AI-First компания. Още с появата на ChatGPT той си дава сметка, че това е технология, която ще преобрази цели индустрии.
След като в продължение на година и половина работи върху минимален жизнеспособен продукт, Тодоров го обособява в отделна компания DiscreteStack. Една от първите компании, които го тестват, е американска фирма. Тя избира решението на DiscreteStack именно заради много по-ниската цена, отколкото би струвало, ако си наеме AI от някой хиперскейлър. Христо Тодоров посочва, че при определени условия компанията може да плаща едва една десета от цената, която плаща за токени на хиперскейлърите. Това се дължи основно на десетки пъти по-ефективния начин, по който системата използва ресурси в продукционна среда. Допълнително решението позволява изкуственият интелект да се използва и извън работните часове на практика безплатно – нещо невъзможно при ползването като услуга.
А овладяването на разходите се очертава като глобален проблем. На световно равнище разходите за изкуствен интелект се очаква да достигнат 2.5 трлн. долара през 2026 г., което би било впечатляващ ръст от 44% спрямо предходната година.
Компании масово са изправени пред т.нар. парадокс на разходите за AI. Те нарастват неочаквано поради брой причини: не само защото AI агентите гълтат огромен брой токени, но и защото са нужни пари за изчислителна мощ, поддръжка, обработка на данните и други.
Европейските компании са изправени и пред един специфичен за тях проблем: тежки регулации, които стимулират използването на локални решения за съхранение и обработка на данни, за да се намали зависимостта от доставчици извън Европа. DiscreteStack дава възможност на компаниите да спазват регулациите и да намалят зависимостта си.
В което има желязна логика, ако разглеждате изкуствения интелект като критично важен ресурс, какъвто е например природният газ или петролът. „Изкуственят интелект изглежда като да е новата стока от първа необходимост, каквато е енергията – посочва Христо Тодоров.
„Европейските институции много правилно са се ориентирали, че не трябва да са зависими в това отношение. Или поне не трябва да са толкова зависими.“
Подобна визия за бъдещето сподели наскоро Сам Алтман, главен изпълнителен директор на OpenAI. „Виждаме изкуствения интелект като комунална услуга, подобно на електричеството или водоснабдяването – заяви Алтман. – А хората ще си го купуват от нас срещу определена такса.“
Изказването му предизвика остри реакции и изкара на преден план темата за олигопола при доставчиците на изкуствен интелект, сред които попада и OpenAI.
Съсредоточаването на значим ресурс в малък брой компании рано или късно започва да работи не в полза на потребителя. Което създава отлични пазарни възможности за компании като DiscreteStack да променят статуквото. „Това, което ние искаме, е да предизвикаме този олигопол – казва Христо Тодоров. – Да имаш алтернатива. Не да наемаш AI, а да си го притежаваш и да имаш контрол върху него.“