NVIDIA Nemotron 3 Embed очолює бенчмарки пошуку
NVIDIA випустила відкриті моделі ембеддінгів Nemotron 3 Embed, де флагманська версія 8B посіла перше місце у лідерборді RTEB, а також представлені оптимізовані версії 1B для робочого середовища.
Чому це важливо
Якісний пошук є критично важливим для зменшення витрат токенів в агентних системах та підвищення релевантності контексту в багатокрокових процесах.
TL;DR
- 01Флагманська модель 8B посіла 1-ше місце в рейтингу RTEB.
- 02Моделі 1B є ефективним рішенням для RAG у виробництві.
- 03Підтримка багатомовного пошуку та пошуку коду.
- 04Квантування NVFP4 оптимізує продуктивність на архітектурі Blackwell.
Передові результати у пошуку
Моделі NVIDIA Nemotron 3 Embed розроблені для усунення неефективності пошуку. Флагманська модель Nemotron-3-Embed-8B-BF16 посіла перше місце в рейтингу RTEB. Варіант Nemotron-3-Embed-1B-BF16 пропонує високу ефективність для робочих середовищ, демонструючи значне зниження рівня помилок порівняно з попередньою моделлю.
Оптимізація під архітектуру Blackwell
Для потреб високої пропускної здатності модель Nemotron-3-Embed-1B-NVFP4 використовує 4-бітну квантизацію та дистиляцію з урахуванням квантування (QAD), що дозволяє зберігати точність пошуку при максимальній продуктивності на архітектурі Blackwell.