Агенти й MCP
2 хв хв · Hugging Face Blog
MosaicLeaks: виявлення витоків приватності в дослідницьких агентах
Дослідники виявили, що агенти часто викривають внутрішні дані, поєднуючи приватний контекст із публічними вебзапитами. Новий метод навчання PA-DR зменшує цей витік, штрафуючи запити, що відкривають фрагменти конфіденційної інформації.
Чому це важливо. Якщо ваша архітектура агентів поєднує пошук у локальних документах із вебпошуком, вона, ймовірно, передає фрагменти ваших приватних даних пошуковим системам.