LLM Gateway：统一管理你的大语言模型 API

LLM Gateway 是一款开源的大语言模型 API 网关，它充当你的应用和多个 LLM 提供商（如 OpenAI、Anthropic、Google 等）之间的中间件，旨在帮助开发者更高效地管理、路由和分析 LLM 请求。

主要功能：
- 统一接口：提供与 OpenAI API 兼容的格式，方便应用无缝迁移。
- 多提供商路由：通过单一网关连接和路由到不同的 LLM 提供商。
- 用量分析：集中管理 API 密钥，跟踪请求、Token 用量、响应时间和成本。
- 性能监控：帮助你比较不同模型的性能和成本效益，以优化选择。

该项目支持云端托管版本和自部署两种方式，让你既可以快速上手，也可以完全掌控自己的数据。对于需要灵活切换、管理和分析多个 LLM 服务的开发者来说，这是一个非常实用的工具。

原始链接：https://github.com/theopenco/llmgateway

LLM Gateway

LLM Gateway - Unified API for Multiple LLM Providers

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.