Rate-limit Libraries

You can configure rate limits at different levels such as:

Supported now: and not: PRs are more than welcome! Please include tests for your changes :) To run the tests:

OpenAI-Forward 提供如下功能： 与OpenAI完全一致 服务地址 开启缓存服务地址（用户请求结果将被保存一段时间） (更多) (更多) 注意：如果你设置了 OPENAI_API_KEY 但未设置 FORWARD_KEY，客户端在调用时将不需要提供密钥。由于这可能存在安全风险，除非有明确需求，否则不推荐将 FORWARD_KEY 置空。 缓存默认使用内存后端，可选择数据库后端，需安装…

You can install this Library with: