Проблема
AI может быстро соединять отдельные сигналы в attack path, но без ограничений он смешивает факты, предположения и шум. Для коммерческого security-продукта это риск false positive и неверной приоритизации.
Решение
AI должен планировать и критиковать, а не самостоятельно объявлять уязвимость. Каждое действие проходит через каталог техник, policy engine и независимый validator.
ai_action:
technique: api.bola_read
mode: read_only
required_evidence: [role_diff_trace, response_hash]
policy:
allow: true
reason: verified_scope_and_get_only
finding:
status: needs_validation
Что важно
- Не хранить hidden chain-of-thought, хранить structured decision records.
- Секреты, cookies и PII редактировать до передачи модели.
- Finding появляется только после evidence digest и validator result.
- Coverage gap нельзя выдавать за vulnerability.
Вывод
Сильный AI-слой повышает качество пентеста, когда он работает внутри строгих границ: scope, policy, evidence, QA и audit trail.
Используй материал как чеклист для легального аудита: сначала фиксируй scope, затем собирай доказательства, отделяй наблюдения от подтвержденных findings и закрывай работу ретестом.