Grafana випустила Go LLM SDK із підтримкою React-хуків від Vercel AI SDK
Grafana випустила open-source Go SDK для створення стрімінгових AI-бекендів із підтримкою виклику інструментів та багатокрокових агентів. Бібліотека сумісна на рівні протоколу з React-хуками Vercel AI SDK, такими як useChat через Server-Sent Events.
Вплив: Середній
Чому це важливо
Розробники на Go тепер можуть створювати AI-бекенди, використовуючи конкурентність Go та промисловий контроль, без створення власних адаптерів для React-фронтендів.
TL;DR
- 01Grafana випустила open-source Go LLM SDK, сумісний із React-хуками від Vercel.
- 02Підтримує провайдерів Anthropic, OpenAI, Bedrock та будь-які OpenAI-сумісні API.
- 03Містить метрики Prometheus, таймаути та резервну маршрутизацію для Go-бекендів.
Ключові факти
- Ліцензія
- Apache-2.0
- Основний протокол
- Server-Sent Events (SSE)
- Фронтенд-сумісність
- React-хуки Vercel AI SDK (useChat, useCompletion, useObject)
- Підтримувані провайдери
- Anthropic, OpenAI, Amazon Bedrock, OpenAI-compatible
Стрімінг у Go з підтримкою React-фронтенду
Бібліотека ai-sdk від Grafana реалізує протокол Vercel AI SDK, що дозволяє сервісам на Go працювати з React-компонентами без додаткових адаптерів. Завдяки викликам aisdk.StreamText() або aisdk.WriteUIMessageStream(w, ...), Go-сервіс транслює Server-Sent Events (SSE) безпосередньо в React-хуки useChat, useCompletion та useObject.
Підтримка провайдерів та промисловий контроль
SDK надає єдиний інтерфейс для різних LLM-провайдерів, включаючи Anthropic (claude-sonnet-5), OpenAI, Amazon Bedrock та сумісні з OpenAI endpoints. Для стабільної роботи в продакшені впроваджено таймаути, автоматичні повторні спроби, резервне маршрутизування (fallbacks), логування та метрики Prometheus.
Виклик інструментів та структурований вивід
Go-розробники можуть оголошувати інструменти як звичайні Go-функції для виконання під час агентних сценаріїв. SDK також гарантує генерацію структурованого виводу з перевіркою схем JSON-об'єктів відповідно до вимог Spec-Driven Development.
Спробуй за 2 хвилини
go get github.com/grafana/ai-sdk/providers/anthropic
model := anthropic.New(apiKey, "claude-sonnet-5")
result, err := aisdk.GenerateText(ctx, model,
aisdk.WithModelMessages(provider.UserText("Explain goroutines in one sentence.")),
)go
✓ Коли використовувати
- Ви створюєте мікросервіси на Go, які надають AI-функціонал для React-фронтенду на Vercel AI SDK.
- Вам потрібні нативна спостережуваність у Go (Prometheus) та надійні механізми стабільності (retries, fallbacks) для викликів LLM.
✕ Коли НЕ варто
- Ваш бекенд повністю написано на TypeScript або Python із використанням існуючих фреймворків.
- Вам не потрібен стрімінг відповідей через SSE або маршрутизація між кількома провайдерами.
Що зробити сьогодні
- Встановіть github.com/grafana/ai-sdk у свій Go-проєкт.
- Підключіть Go SSE-потоки безпосередньо до React-компонентів useChat без написання власних протокольних адаптерів.
Джерела