Ко всем проектам
AI/ML2025–2026
vibegent-proxy — LLM Infrastructure Layer
Резильентный прокси-слой между AI-агентами и Anthropic API: ротация токенов, per-token backoff, retry/fallback, кредитный контроль. Управление модельным слоем как инфраструктурой.
Галерея проекта
Для этого проекта пока нет публичных скриншотов. Детали показаны через описание, стек и ключевые задачи.
Что было сделано
- Архитектура: Agent → vibegent-proxy → Anthropic (упрощение legacy-сложности)
- Pool-менеджмент токенов с ротацией по организациям
- Per-token backoff вместо глобального cooldown
- Retry/fallback при rate-limit, stop-on-zero balance
- Security и audit слои, balance/credits механика
Стек
PythonFastAPIasyncioAnthropic APIRedisDockerhttpxToken poolPer-token backoffCredit controlAudit logs
