Компания OpenAI, стоящая за разработкой и поддержкой чат-бота ChatGPT, объявила о блокировке  доступа к своему продукту ряда хакерских группировок. Речь идет об аккаунтах групп Forest Blizzard (также известная как Strontium), Emerald Sleet (Thallium), Crimson Sandstorm (Curium), Charcoal Typhoon (Chromium) и Salmon Typhoon (Sodium), причастных к кибершпионским операциям и имеющим, предположительно, поддержку на уровне национальных правительств. В частности, речь идет о властях Северной Кореи, Китая и Ирана.

Данные об этих группировках и использовании ими ChatGPT были предоставлены OpenAI группой расследования угроз (Threat Intelligence team) корпорации Microsoft. Так, группировка Forest Blizzard пыталась применять ChatGPT для получения сведений об использовании спутников и радаров в военных технологиях, а также для совершенствования создания вредоносных кодов. Хакеры Charcoal Typhoon и Salmon Typhoon стремились использовать возможности большой языковой модели для сбора данных о конкретных лицах и компаниях, а также для совершенствования технологий социального инжиниринга. Техники социального инжиниринга, а также способы обхода защитных решений интересовали группировку Crimson Sandstorm, а участники Emerald Sleet совершенствовали с помощью ChatGPT технику составления фишинговых сообщений.

Следует отметить, что ни в одном из описанных случаев большая языковая модель не использовалась непосредственно для написания кода вредоносной программы. Представители компании заявили, что извлекли уроки из случаев противоправного использования их продукта киберпреступниками. «Понимание того, как наиболее изощренные злоумышленники пытаются использовать наши системы во вред - сигнал для нас. И практики противодействия им в будущем могут быть расширены с целью дальнейшего совершенствования наших защитных мер», - говорится в заявлении OpenAI.