Liquid AI випустила відкриті моделі рішень d1 для edge-інференсу
Liquid AI випустила дві моделі з відкритими вагами з родини d1: d1-3B та експериментальну d1-omni-600M. На відміну від генеративних моделей, ці мультимодальні моделі рішень не генерують токени, а відповідають за один прямий прохід. У Decision Index 0.2.1 d1-3B набирає 48.57, випереджаючи всі моделі на 4B і 9B та Decider 35B-A3B (47.11). d1-3B відповідає менш ніж за 10 мс на RTX 4090 і менш ніж за 50 мс на всіх протестованих пристроях Jetson.
Чому це важливо
Liquid AI випустила дві моделі з відкритими вагами з родини d1: d1-3B та експериментальну d1-omni-600M. На відміну від генеративних моделей, ці мультимодальні моделі рішень не генерують токени, а відповідають за один прямий прохід. У Decision Index 0.2.1 d1-3B набирає 48.57, випереджаючи всі моделі на 4B і 9B та Decider 35B-A3B (47.11). d1-3B відповідає менш ніж за 10 мс на RTX 4090 і менш ніж за 50 мс на всіх протестованих пристроях Jetson.