Anthropic предотвратила кибератаки против Украины с использованием Claude
Компания Anthropic сообщила о предотвращении попыток использования своих моделей Claude для организации кибершпионажа, направленного против Украины. По данным Reuters, данный инцидент может иметь связи с Россией.
В отчете Anthropic отмечается, что киберпреступники, действующие с государственной поддержкой, всё чаще прибегают к искусственному интеллекту для осуществления атак. В таких случаях люди чаще выступают в роли наблюдателей, а не непосредственных исполнителей.
В документе указано: «Применение искусственного интеллекта перешло от простых вопросов и ответов к многоагентным системам».
Согласно информации от Anthropic, одна из хакерских групп проводила фишинговые атаки, взломы гостиничных сетей Wi-Fi и аккаунтов в WhatsApp, нацеливаясь на правительственные, военные и дипломатические структуры Украины, активно используя искусственный интеллект на всех этапах своих операций.
Методы работы этой группы напоминали стиль российской хакерской группировки Midnight Blizzard, которую правительство США связывает с российской службой внешней разведки СВР.
Согласно утверждениям, группа использовала искусственный интеллект для создания системы, способной автоматически определять, когда её вредоносное ПО было обнаружено защитными системами, и модифицировать код до тех пор, пока оно не становилось невидимым для обнаружения.
Кроме того, Anthropic сообщила о том, что ей удалось выявить и остановить деятельность, связанную с аффилированными лицами группировки ShinyHunters, которая в настоящее время считается одной из наиболее активных киберпреступных организаций и несет ответственность за атаки на крупные компании по всему миру.
Напоминаем:
Ведущий исследователь OpenAI выразил обеспокоенность по поводу стремительного развития искусственного интеллекта, которое усложняет его понимание и контроль. Он надеется, что лаборатории, работающие над ИИ, примут решение о добровольном замедлении темпов разработки в целях безопасности.