2 хв хв · Hacker News
Тестування вразливостей безпеки додатків за допомогою великих мовних моделей
Розробник витратив півтори тисячі доларів, перевіряючи, чи можуть LLM-агенти знаходити та експлуатувати вразливості додатків. Вони впоралися з базовими багами, але зазнали невдачі на складних логічних ланцюжках.
Чому це важливо. Ви можете використовувати агентні цикли для швидкого аудиту базових дірок у безпеці, але обов'язково встановлюйте жорсткі ліміти бюджету API, щоб уникнути великих рахунків.