AI срещу AI: Кибернадпреварата във въоръжаването и квантовата заплаха

Дениз Тургут – основател на водещата компания за киберсигурност PriorityZero, разказва за войната на изкуствения интелект и квантовите компютри, дигиталните рискове, кибератаките и защитата от модерни заплахи

Г-н Тургут, разкажете ни за Вас и това как решихте да създадете PriorityZero. Какво седи зад името на компанията?

От близо 12 години работя в IT индустрията, като съм работил за компании като Goolge и Microsoft със стотици хиляди служители, както и за такива, където съм бил петият служител, буквално. От 7 години се занимавам с темата киберсигурност и това, което забелязах през годините, е че в индустрия с толкова критично значение се допускат ред грешки и пропуски. Много неща се правят само на хартия, колкото да задоволят някое изискване или регулация и в крайна сметка ние, потребителите, губим най-много.

Затова реших да основа PriorityZero, където качеството на работата, която извършваме, е на първо място. Оттам идва и името на компанията. Като стандарт в IT индустрията приоритетите на проблемите се брoят наобратно, като нулев приоритет означава такъв с критично значение. Тъй като според нас киберсигурността е от критично значение, това е и нашето име. А зад него седи един невероятен екип, чиято мисия е да направи света по-сигурен.

Напоследък терминът изкуствен интелект е много популярен. Какво е неговото значение през призмата на киберсигурността?

Изкуственият интелект значително променя пейзажа на киберсигурността. Това е така, защото при хакерите всяко ново средство, което може да подобри ефективността на атаките им, е от огромно значение за успеха им. Традиционните кибератаки често изискват ръчен труд – създаване на фишинг имейли, сканиране за уязвимости, писане на зловреден софтуер. AI промени играта. Сега атакуващите използват AI за автоматизирано разузнаване, генериране на свръхперсонализирани съобщения и сайтове, и дори модифициране на зловреден код в реално време, за да избегнат засичане. Дейност, която отнемаше часове, дори и дни, сега отнема минути.

AI-създадените фишинг имейли са почти неразличими от тези, написани от човек, което ги прави изключително ефективни. Ако през 2015 година един зле написан мейл от нигерийски принц, търсещ наследник на богатството му, можеше да излъже близо 10% от аудиторията си, сега с помощта на изкуствен интелект това съобщение се превръща в перфектно написано послание, с успех над 50%. Често попадаме и на цели сайтове, имитиращи реални такива на наши клиенти, съдържащи не само достоверна информация, но и в много случаи deepfake (фалшиви) видеа и обаждания, имитиращи техни служители. Така например през 2024 година служител от финансовия екип на международна компания изплати 25 милиона долара на хакери, които бяха създали онлайн среща с него и не един, а с цял фалшифициран екип от негови колеги. Мога да ви разкажа за редица такива случаи през последните години, но няма да ни стигне списанието.

Виждали сме също така AI-зловреден софтуер, който динамично променя своя код, за да заобиколи мерките за сигурност. Това означава, че бизнесите не могат да разчитат единствено на традиционната защита – те трябва да мислят като атакуващите, за да са една стъпка напред.

Как тогава етичните хакери използват AI, за да се противопоставят на тези заплахи?

Точно както атакуващите въоръжават AI, така и ние можем да го използваме, за да се защитаваме. Етичните екипи като нашия използват AI за симулиране на атаки, автоматизиране на тестове за проникване и дори предвиждане на потенциални вектори на атака, преди да бъдат експлоатирани.

Един пример са AI-задвижваните симулации на атаки. Можем да обучим AI модели да имитират поведението на реални атакуващи, което ни позволява да тестваме защитата на организацията с по-голяма скорост и прецизност от всякога. AI също така ни помага да идентифицираме фини уязвимости, които иначе биха останали незабелязани.

AI не е единственият голям разрушител – квантовите компютри са на хоризонта и много експерти предупреждават, че могат да разбият съв­ременната криптография. Можете ли да ни разкажете малко повече за квантовите компютри и как очаквате те да променят света на информационната сигурност?

Квантовите компютри са едновременно възможност и огромен риск за сигурността. В момента по-голямата част от криптирането в света – RSA, ECC, AES – разчита на математически проблеми, които биха отнели на класическите компютри милиони години за решаване. Но достатъчно напреднал квантов компютър може да разбие някои от тези криптирания за минути или часове. Представете си, че стандартният компютър е много бърз библиотекар, който търси информация в книгите една по една. Той обработва данни, използвайки битове, които могат да бъдат само 0 или 1 във всеки даден момент.

„Компаниите трябва да наблягат все повече на инвестиции в сигурността на данните си срещу бързо напредващите заплахи.“

Сега си представете, че квантовият компютър е супербиблиотекар, който може да прегледа всички книги едновременно. Това е възможно, защото той използва qubits (quantum bits), които могат да бъдат 0, 1 или и двете едновременно, благодарение на явлението квантова суперпозиция.

Проблемът е, че данни, откраднати днес, могат да бъдат дешифрирани утре. Виждаме, че хакери вече практикуват стратегията „събирай сега, разшифровай по-късно“ – крадат криптирани данни с очакването, че квантовите компютри ще ги направят четими в бъдеще. Бизнесите трябва да започнат да мислят за квантово устойчива криптография още днес (като AES256), а не когато квантовите компютри станат масово достъпни. Тогава вече ще е късно.

Как бизнесите могат да се защитят от заплаха, която все още не е напълно реализирана?

Ключът е подготовката за бъдещето. Това означава прилагане на постквантова криптография (PQC) – нови криптографски алгоритми, които могат да издържат на квантови атаки. Националният институт за стандарти и технологии (NIST) вече работи по стандартизиране на тези протоколи, а бизнесите трябва да се подготвят за миграция.

Изглежда, че сме в средата на кибернадпревара във въоръжаването между защитници и атакуващи, с AI и квантовите компютри в центъра. Какво според вас ще се случи в киберсигурността през следващите 5 години?

Киберзаплахите се развиват с безпрецедентна скорост. С атаки, подпомагани от изкуствен интелект, а много скоро и от квантови технологии, хората и бизнесите се изправят пред нова ера на дигитални рискове.

Навлизаме в ерата на хиперадаптивната сигурност. AI-задвижваните атаки ще станат по-автономни, а социалното инженерство чрез deepfake технологии ще нарасне значително. Компаниите ще трябва да разчитат на модерни защити, които работят в реално време, вместо да използват статични мерки за сигурност.

В квантовата сфера ще видим бързо преминаване към квантово устойчива криптография. Бизнесите, които не предприемат действия сега, ще бъдат изложени на сериозен риск в бъдеще. Компаниите трябва да наблягат все повече на инвестиции в сигурността на данните си и постоянни обучения на служителите си срещу бързо напредващите заплахи, които дебнат отвсякъде.