Российские, китайские и иранские хакеры используют ИИ OpenAI и Microsoft для взлома

Microsoft и OpenAI сообщили, что несколько поддерживаемых государством хакерских групп используют инструменты генеративного искусственного интеллекта (GAI) для кибератак. Об этом сообщает Engadget.

По данным компаний, такие группы связаны с Китаем, Россией, Северной Кореей и Ираном. С помощью инструментов GAI хакеры могут настраивать код, осуществлять поиск информации, разрабатывать методы социальной инженерии, создавать фишинговые электронные письма и переводить тексты. OpenAI закрыла доступ этих групп к своим GAI-системам после обнаружения их использования.

В частности, российская группа Forest Blizzard (известная как Fancy Bear или APT 12) использовала платформу OpenAI для исследований с открытым исходным кодом в области спутниковой связи и радиолокации.

Microsoft отслеживает более 300 хакерских групп и совместно с OpenAI помогает обнаружить и закрыть аккаунты хакеров. OpenAI инвестирует в ресурсы для выявления и остановки деятельности угроз на своих платформах, а их сотрудники используют разные методы, включая анализ взаимодействия с инструментами OpenAI, для изучения хакерских систем. После обнаружения незаконных пользователей OpenAI перекрывает их аккаунты или ограничивает доступ к ресурсам.