Microsoft твърди, че Русия, Китай, Северна Корея са използвали инструментите на OpenAI за хакване

Forbes България

Избрани статии и новини от редакцията на Forbes България

Спонсорирани от държавата хакерски групи от Русия, Китай и други противници на САЩ са били хванати да използват инструментите на OpenAI, за да атакуват по-добре своите цели, според доклад, публикуван в сряда от Microsoft, на фона на опасения за възможни заплахи за киберсигурността с подобряването на AI технологията.

КЛЮЧОВИ ФАКТИ

• OpenAI и Microsoft деактивираха акаунти, свързани с хакерските групи Charcoal Typhoon, Salmon Typhoon, Crimson Sandstorm, Emerald Sleet и Forest Blizzard, според доклади от двете компании.
• Подкрепяните от Китай групи Charcoal Typhoon и Salmon Typhoon са използвали езиковите модели на OpenAI, за да подобрят своите „технически операции“, твърди Microsoft, включително изследвания за инструменти за киберсигурност и фишинг съдържание.
• Forest Blizzard, хакерска група, за която се твърди, че е свързана с руското военно разузнаване, използва езикови модели за изследване на „различни сателитни и радарни технологии“, които „може да се отнасят до конвенционални военни операции в Украйна“, твърди Microsoft.
• Хакери от Северна Корея, свързани с групата Emerald Sleet, са генерирали съдържание, което „вероятно ще бъде за използване в кампании за фишинг“ срещу регионални експерти, докато Crimson Sandstorm, за който се твърди, че е свързан с Революционната гвардия на Иран, използва инструментите на OpenaI, за да помогне за писането на фишинг имейли, според към доклада на Microsoft.
• Лиу Пенгу, говорител на посолството на Китай в САЩ, каза пред Ройтерс, че Китай отрича „безпочвени клевети и обвинения“ срещу страната, която подкрепя „безопасното, надеждно и контролируемо“ използване на AI технология за „подобряване на общото благосъстояние на цялото човечество“.
• Както Microsoft, така и OpenAI заявиха, че ще подобрят подхода си към борбата срещу спонсорираните от държавата хакерски групи, използвайки техните инструменти, включително инвестиция в технология за наблюдение за идентифициране на заплахи, сътрудничество с други фирми за изкуствен интелект и по-голяма прозрачност относно възможни проблеми с безопасността, свързани с изкуствения интелект.

ВАЖЕН ЦИТАТ

Том Бърт, ръководител на отдела за киберсигурност на Microsoft, каза пред New York Times, че групите използват инструментите на OpenAI за прости задачи: „Те просто го използват като всички останали, за да се опитат да бъдат по-продуктивни в това, което правят.“

ИЗНЕНАДВАЩ ФАКТ

Microsoft заяви миналия месец, че корпоративните системи на компанията са били атакувани от подкрепяната от Русия хакерска група Midnight Blizzard. Групата е имала достъп до „много малък процент“ от корпоративните имейл акаунти на компанията, включително някои висши ръководни кадри и служители от нейните киберсигурност и правни екипи, каза Microsoft.

КЛЮЧОВА ИСТОРИЯ

През последната година Microsoft публикува няколко доклада за спонсорирани от държавата хакерски усилия. Миналата година Microsoft заяви, че „базиран в Китай актьор“ е нарушил имейл акаунтите на около 25 базирани в САЩ правителствени организации. Компанията също така заяви, че е разкрила инфраструктурна хакерска дейност от китайския хакер Volt Typhoon, включително атаки срещу американската военна инфраструктура в Гуам.

Сами Хури, висш служител по киберсигурността на Канада, каза пред Ройтерс, че доказателствата, получени от канадското правителство, предполагат, че повече хакери използват AI, за да подобрят своите атаки, да разработят злонамерен софтуер и да създадат по-убедителни фишинг имейли.

Предупреждението на Хури последва доклад на европейската полицейска организация Europol, в който се казва, че инструменти, подобни на ChatGPT на OpenAI, правят възможно „имитирането на организация или индивид по много реалистичен начин“.

Националният център за киберсигурност на Обединеното кралство също предупреди за възможните рискове от хакване чрез използването на AI, предполагайки, че езиковите модели могат да „помогнат при кибератаки отвъд настоящите им възможности“.