Aurora: відкритий шлюз ШІ на Go для маршрутизації між провайдерами
Aurora — це відкритий шлюз для ШІ на Go під ліцензією Apache 2.0, який забезпечує сумісність з OpenAI та Anthropic для 14 провайдерів. Він надає пули провайдерів, кешування підказок, гардрайли та стиснення токенів у єдиному бінарнику.
Вплив: Високий
Чому це важливо
Змініть base_url у вашому SDK, щоб миттєво отримати відмовостійкість, аудит, семантичне кешування та стиснення токенів без зміни коду.
TL;DR
- 01Розгортайте єдиний бінарник на Go для управління фолбеками моделей, кешуванням та витратами.
- 02Працює нативно з SDK OpenAI та Anthropic шляхом зміни лише базового URL.
Ключові факти
- Підтримувані провайдери
- 14 (OpenAI, Anthropic, Gemini, DeepSeek, Groq, Ollama тощо)
- Ліцензія
- Apache 2.0
- Стек технологій
- Go, React (Admin SPA), Redis, Postgres
Єдиний протокол та підтримка 14 провайдерів
Aurora маршрутизує виклики SDK OpenAI або Anthropic до 14 провайдерів, серед яких OpenAI, Anthropic, Gemini, Groq, DeepSeek, OpenRouter та локальні Ollama або vLLM. Зміна провайдера вимагає лише оновлення параметру base_url у вашому коді.
Надійність та управління трафіком
Шлюз підтримує пули провайдерів з балансуванням навантаження, запобіжниками (circuit breakers) та автоматичними правилами резервування у разі лімітів (429) або помилок сервера (5xx). Вбудовані модулі забезпечують маскування PII, фільтрацію regex та стиснення токенів (TOKEN_SAVER_ENABLED).
Спробуй за 2 хвилини
docker run -d --name aurora -p 8080:8080 -e AURORA_MASTER_KEY="sk-aurora-master" -e ANTHROPIC_API_KEY="sk-ant-..." aurorahq/aurorabash
✓ Коли використовувати
- Вам потрібно централізувати ключі LLM, ліміти запитів та аудит між командами
- Вам потрібен фолбек між провайдерами та балансування без зміни коду в SDK
✕ Коли НЕ варто
- Ви використовуєте лише одного провайдера в простому бессерверному скрипті без потреби кешування
Що зробити сьогодні
- Запустіть `aurorahq/aurora` через Docker.
- Налаштуйте ключі доступу в `.env` та перевірте зміну `base_url` у вашому скрипті.
Джерела