Чем дольше занимаюсь безопасность ИИ-агентов в разработке, тем лучше вижу тенденцию: индустрия обсуждает, что агенты умеют делать, но реже говорит о том, какие решения и как проще внедрять, чтобы сделать агентскую инфраструктуру безопаснее. Вместе с моими коллегами Ратмиром Самархановым и Андреем Погирейчиком мы решили проверить гипотезу: «наши ИИ‑агенты в разработке могут быть скомпрометированы и существуют простые средства для контроля их безопасности». Расскажем о первых результатах.
Announcing AI Agents Security Week and calling everyone back to school!
At Yandex School of Data Analysis, we just launched a week-long intensive: “AI Agents Security Week.”
We’ll be learning to save this brave new world of AI agents.
Our recent Saint Highload talk was the culmination of the AI-agent security research we ran while digging into secure agentic development. Audience feedback pushed it to the top of the ranking, a signal the findings land with engineers already wiring agents into their pipelines.
Takeaways and key focus on ADLC security now:
Slides and tools are in the repo. Should probably teach the agent to convert slide decks into skills.
The AppSec industry has spent decades in a hard conflict between coverage and precision in threat detection. Classic SAST‑tools generate noise that takes more time to sort through manually than actual threat work. The release of Claude Code Security by Anthropic shook the cybersecurity industry: traditional vendor capitalizations dropped, and the CEO of major player Snyk declared the company’s future must be defined by an AI‑-centric leader.
The market has redefined what makes a security tool valuable. Previously, value was measured in supported rules and languages. Today the formula has changed: what matters is the chain — find, explain, fix. This is where LLMs enter the stage — not as a replacement for classic analyzers, but as an additional interpretation layer. This is how a new category forms: AI SAST.
This article covers how LLMs work with code, why “feeding a repo into a prompt” is a bad idea, which engineering metrics actually matter, and how we research and implement autonomous defect discovery and remediation capabilities for SourceCraft Security products.
Индустрия AppSec десятилетиями жила в жёстком конфликте между полнотой и точностью поиска угроз. Классические SAST‑инструменты генерируют шум, на ручной разбор которого уходит больше времени, чем на реальную работу с угрозами. Релиз Claude Code Security от Anthropic заметно встряхнул индустрию кибербезопасности: капитализация традиционных вендоров просела, а генеральный директор крупного игрока Snyk заявил, что будущее компании теперь должен определять ИИ‑центричный лидер.
Рынок переопределил ценность инструмента безопасности. Раньше она измерялась количеством поддерживаемых правил и языков. Сегодня формула изменилась: важна цепочка “нашёл, объяснил, помог исправить”. Здесь на сцену выходят LLM — не как замена классическому анализатору, а как дополнительный слой интерпретации. Так формируется новая категория — AI SAST.
В этой статье разберём, как именно LLM работают с кодом, почему «скормить репозиторий в промт» — плохая идея, какие инженерные метрики действительно важны и как мы исследуем и внедряем новые возможности автономного поиска и исправления дефектов в коде для добавления в продукты SourceCraft Security.