Field Notes / Контроль AI-разработки

Агенты лучше работают как советники

Практическая граница для агентной разработки, где уверенный ответ всё ещё может оказаться ошибочным.

Агент может расширить ревью, но не должен становиться инстанцией, принимающей изменение.

Контекст из работы

Я использовал агентов для поиска рисков и альтернатив, оставляя итоговое инженерное решение человеку.

Запись о решении

Большая автономность ускоряет работу, но легко прячет неопределённость за гладким ответом.

Полезный артефакт здесь: контракт ревью, в котором агент советует, владелец проверяет, а решение остаётся за человеком.

Приблизительные показатели не войдут в публичный текст без одобренного утверждения с базой и границей человеческого ревью.

Рабочее правило

Сначала автоматизируйте поиск проблем, а уже потом решайте, какую часть полномочий можно передать.