Оптимізація токенів
2 хв хв · Hacker News
Чи можуть великі мовні моделі перевершити класичні алгоритми оптимізації гіперпараметрів?
Новий бенчмарк порівнює LLM з баєсівською оптимізацією та випадковим пошуком для налаштування моделей машинного навчання. Надиво, LLM використовують апріорні знання про типові структури наборів даних для швидшої збіжності до оптимальних конфігурацій.
Чому це важливо. Тепер ви можете використовувати пошук на базі LLM для оптимізації коду, структури промптів та гіперпараметрів ML з меншою кількістю тестових запусків.