Когда говорят об опасностях ИИ, обычно представляют что-то из фантастики: машина выходит из-под контроля, заменяет людей, принимает решения за нас. Это разговор на годы вперёд.
А прямо сейчас происходит нечто более приземлённое и куда более актуальное для любого бизнеса, который начал внедрять ИИ-помощников.
Формулировка простая: ИИ-агент с доступом к вашим системам — это новый сотрудник, которого очень легко обмануть. И он не чувствует подвоха.
За последний год это перестало быть теорией. Ниже — четыре реальных случая с датами, названиями и ссылками на исследования. Три из них — уже не эксперименты, а атаки в реальном мире.
В чём корень проблемы
Чтобы понять, почему это работает, нужен один технический факт.
Языковая модель не отличает данные от команд. Всё, что попадает в её рабочий контекст — описание задачи, комментарий в коде, файл с настройками, README, даже текст сообщения об ошибке — она воспринимает как указание к действию. И выполняет. С вашими правами и вашими доступами.
Это называется непрямая инъекция промпта. Речь не про «отравленные данные обучения», которыми пугают в новостях. Речь про отравленный рабочий контекст здесь и сейчас — в вашем репозитории, в вашем таск-трекере, в вашей почте.
Дальше — важное пояснение для тех, кто не из ИТ. Почти все истории ниже связаны с репозиториями. Репозиторий — это папка с кодом, которую разработчики выкладывают в общий доступ, чтобы другие брали готовые наработки и не писали с нуля. Программисты пользуются ими каждый день. Теперь ими же пользуются и ИИ-помощники — сами скачивают, читают, запускают. И именно это стало новой точкой входа для атак.
Случай 1. Невидимые инструкции в файлах настроек
Rules File Backdoor, компания Pillar Security, март 2025
Первый звонок прозвучал ещё в 2025 году. Исследователи показали: в файлы правил, которыми настраивают ИИ-ассистента, можно спрятать инструкции невидимыми символами. Технически это специальные знаки Unicode — маркеры направления текста и символы нулевой ширины, которые не отображаются на экране.
Человек на проверке кода их не видит. Модель — читает и выполняет.
Тогда разработчики инструментов ответили, что за приём и проверку подсказок отвечает сам пользователь. То есть проблему признали, но переложили на плечи того, кто пользуется.
Случай 2. Задача в трекере как команда агенту
RoguePilot, компания Orca Security, февраль 2026
Здесь уже интереснее. Copilot — ИИ-помощник от Microsoft — устроен так, что при открытии рабочей задачи её описание автоматически уходит агенту как инструкция.
Исследователи Orca Security спрятали в описании задачи текст внутри невидимого для человека комментария. Этого хватило, чтобы заставить агента вытащить ключ доступа ко всему репозиторию компании и отправить его на сервер атакующего. Полный контроль на чтение и запись.
Никаких хакерских инструментов. Никакого вредоносного кода. Оружием был текст.
Microsoft уязвимость закрыла в течение двух недель после сообщения. Но принципиально это был уже не «баг в коде», а поведение самого агента: он не смог отличить законную задачу от вредоносной инструкции внутри неё.
Случай 3. Червь, который ждёт запуска агента
Miasma, июнь 2026
А это уже не исследование, а боевая атака на одну из крупнейших ИТ-компаний мира.
Злоумышленники научились подкладывать в репозитории файлы настроек для ИИ-агентов — с командой, которая срабатывает автоматически в момент, когда разработчик открывает папку в помощнике.
Ключевой момент: скачать такой репозиторий безопасно. Опасно — открыть его в ИИ-агенте. Программа запускается сама, ворует пароли, ключи и доступы, а затем распространяется дальше через них же.
5 июня 2026 года GitHub за 105 секунд экстренно заблокировал 73 репозитория в четырёх подразделениях Microsoft — включая Azure. Червь получил имя Miasma. Из-за блокировки на время встал официальный инструмент развёртывания Azure Functions, что задело процессы у компаний по всему миру.
Смена пароля здесь, кстати, не спасает. Нужно отзывать активные сессии и перевыпускать ключи — украденная сессия продолжает работать и после смены пароля.
Случай 4. Приманка не для человека, а для агента
FakeGit и AgentBaiting, компания Island, июль 2026
Самый показательный случай. Злоумышленники создали около 7 600 поддельных репозиториев под 6 600 фальшивых профилей. Больше 800 из них маскировались под готовые «навыки» для ИИ и MCP-серверы — расширения, которые подключают помощника к почте, мессенджерам и рабочим системам.
Эти подделки попали в публичные каталоги, откуда ИИ-агенты сами берут себе новые инструменты. Больше 600 листингов.
И вот что вышло в тестах. Когда человек просил ИИ-агента — проверяли Claude, Gemini и ChatGPT — найти нужный навык, агент сам находил среди прочего эти подделки и рекомендовал их пользователю. Без единой ссылки от злоумышленника. Агент, который ищет инструмент, стал мишенью вместо человека, на которого он работает.
14 миллионов скачиваний. Внутри — программа, которая закрепляется в системе и ставит следом стилер: он ворует пароли, токены, ключи и активные сессии.
Отдельный сюжет: атака, где вредоносного кода нет вообще
Proof-of-concept от Mozilla 0DIN, июнь 2026
Это пока демонстрация, а не атака в реальном мире. Но она важна, потому что показывает предел проблемы.
Исследователи собрали репозиторий, в котором нет ни одной строчки вредоносного кода. Внутри лежит обычный пакет, который специально падает с ошибкой при первом запуске. ИИ-агент — в тесте это был Claude Code — честно пытается ошибку починить, запускает команду инициализации, а та подтягивает вредоносную нагрузку из служебной DNS-записи в интернете и открывает злоумышленнику доступ к машине.
Формулировка исследователей бьёт точно в цель: агент не решал открывать доступ хакеру. Он решал починить ошибку.
Ни один сканер кода тут ничего не найдёт — вредоносного кода в репозитории действительно нет.
Почему это проблема бизнеса, а не только айтишников
Три причины, по которым это должно волновать руководителя, а не только технический отдел.
Обычная защита ищет не там. Классическая проверка кода ищет подозрительный код. А зацепка здесь не в коде — в безобидном комментарии к задаче, в файле с настройками, в тексте ошибки. Антивирус и код-ревью проходят мимо.
Взломанный агент ведёт себя как ваш сотрудник, а не как вирус. У него ваши права, ваши доступы к почте, CRM и документам. Он не ломает систему снаружи — он действует изнутри, как доверенное лицо. Отследить это стандартными средствами почти невозможно.
Проблема давно шире программирования. Те же приёмы работают не только с репозиториями кода, но и в каталогах расширений, в хранилищах готовых компонентов, в любых источниках, откуда агент берёт данные и инструменты. Чем больше вы даёте агенту самостоятельности, тем шире поверхность атаки.
Что делать уже сейчас
Вывод из всего этого — не «отказаться от ИИ-агентов». Отказаться невозможно, и не нужно: они экономят реальные деньги. Вывод в том, что к агенту нужно относиться как к полноценному элементу инфраструктуры — с правами, политиками и аудитом, как к любой другой системе, имеющей доступ к корпоративным данным.
Конкретные правила, с которых стоит начать:
Минимум прав. Доступ агенту — под конкретную задачу и на ограниченное время, а не «ключи от всего на всякий случай».
Изоляция. Агент работает в отдельной среде, без боевых паролей и без доступа туда, где ему нечего делать.
Белый список инструментов. Свой проверенный каталог расширений и навыков. Не то, что «агент нашёл сам в интернете».
Файлы настроек агента — это тоже код. Их нужно проверять при ревью и сканировать на скрытые символы, а не считать безобидными конфигами.
Человек в контуре. Подтверждение человека на опасных действиях: запуск команд, запись файлов, исходящие соединения, передача данных наружу.
Журнал действий. Вы должны в любой момент знать, что агент сделал и почему.
Ни одно из этих правил не про технологию. Все они про организацию процесса — то есть про управленческое решение, а не про настройку модели.
Мы в «Случайном Лесу» проектируем и эксплуатируем ИИ-агентов каждый день — и именно поэтому знаем, где у них тонкие места. Собрали практическое пособие: как устроены технологии автоматизации, как считать окупаемость и как внедрять ИИ безопасно.
Хотите разобраться, где в вашем контуре сейчас дыра, — напишите, посмотрим вместе.