Anthropic відкрила GPU-ядра від Claude, що прискорюють інференс у 4 рази
Anthropic виклала у відкритий доступ код оптимізації для понад 30 open-source біологічних моделей, досягнувши 4-кратного прискорення інференсу. Оптимізації згенеровані автономно моделлю Claude через написання кастомних GPU-ядер.
Чому це важливо
Anthropic виклала у відкритий доступ код оптимізації для понад 30 open-source біологічних моделей, досягнувши 4-кратного прискорення інференсу. Оптимізації згенеровані автономно моделлю Claude через написання кастомних GPU-ядер.
Відкрити повний матеріал