Компания OpenAI, стоящая за разработкой и поддержкой чат-бота ChatGPT, опубликовала отчет, посвященный попытка использования ее инструмента в противоправных целях. Эта публикация является первым официальным подтверждением того, о чем уже не раз сообщали специалисты по кибербезопасности - в частности, исследователи компаний Proofpoint, HP Wolf и Cisco Talos: хакеры активно пытаются поставить искусственный интеллект на службу собственным интересам.

Отчет охватывает период с начала нынешнего года и фиксирует по меньшей мере три случая. В первом из них китайская кибершпионская группировка SweetSpecter, известная атаками на правительственные учреждения азиатских стран, отправляла сотрудникам OpenAI фишинговые сообщения электронной почты, имитировавшие обращения в службу поддержки. Они содержали вредоносный ZIP-архив, который при открытии запускал цепочку инфицирования, в конечном счете устанавливая на устройство троянец удаленного доступа. Расследование установило, что целями атаки были сотрудники OpenAI, непосредственно связанные с написанием кодов и анализом уязвимостей ChatGPT.

Вторым случаям была акция иранской группировки CyberAv3ngers, предположительно связанной с  Корпусом стражей Исламской революции и причастной к атакам на промышленные предприятия и объекты критической инфраструктуры западных стран. Хакеры пытались использовать возможности ChatGPT для определения предустановленных паролей ряда систем и получения рекомендаций относительно эксплуатации некоторых уязвимостей. Третья группировка, также иранская Storm-0817, рассчитывала с помощью ChatGPT создать специфическое вредоносное ПО для платформы Android и инструменты на его основе.

Все учетные записи, причастные к описанным выше акциям, были заблокированы, а ассоциированные с ними данные, включая IP-адреса, доведены до сведения партнеров и специалистов по кибербезопасности.