Агенти й MCP
2 хв хв · Mastodon
Проєктування драбини дозволів та обмеження радіуса ураження автономних агентів
Покладання на системні промти на кшталт будь обережним не працює через імовірнісну природу моделей. Надійні агентні системи відокремлюють наміри моделі від права виконання за допомогою детермінованих рушіїв політик. Низькоризикові зворотні операції мають виконуватися автономно, тоді як незворотні дії вимагають схвалення людини.
Чому це важливо. Ви зможете запобігти витоку конфіденційних даних та випадковим деструктивним мутаціям у продакшені, перенісши авторизацію з промтів у шар прикладних політик.