一步步教你如何设置 OpenAI 反向代理

主机说 • 2023年6月21日 pm10:15 • Linux • 阅读 1264

How-to-setup-OpenAI-Reverse-Proxy-750x422-1

在本教程中，我们将指导您完成配置 OpenAI 反向代理的过程。OpenAI 反向代理允许您将 OpenAI API 调用安全地集成到您的应用程序中，同时保持对请求和响应的控制。我们将介绍有效设置和配置反向代理的必要步骤。

这里我们将使用一个存储库并将其部署在 Hugging Face 中。我们也可以使用 Node.js 手动将其部署在本地计算机上。但我们使用的是 Hugging Face，这样我们就可以获得 OpenAI 反向代理 URL。然后我们可以在Janitor AI API或其他服务上使用该 API url 。

创造一个拥抱的脸部空间

登录到您的 Hugging Face 帐户，单击右侧的个人资料图标，然后单击新空间。

OpenAI-Reverse-Proxy-setup-in-Hugging-Face

空间名称：输入您空间的名称 (openai-reverse-proxy)。

选择 Space SDK : Docker（我们将使用 Docker 进行部署）。

选择 Docker 模板：空白

其他一切都可以是默认的。

单击创建空间。

现在，将免费配置一台配备 2vCPU 16GB RAM 的新机器。

创建 Dockerfile

创建空间后，您将被重定向到应用程序页面。此页面包含有关您的部署的所有详细信息。

向下滚动一点，查看“（提示：或者在浏览器中直接创建 Dockerfile 文件）”的位置

单击“创建”以添加我们的 Dockerfile 配置。

复制以下代码并将其添加到编辑部分输入框中。

Dockerfile

FROM node:18-bullseye-slim
RUN apt-get update && \
    apt-get install -y git
RUN git clone https://gitgud.io/khanon/oai-reverse-proxy.git /app
WORKDIR /app
RUN npm install
COPY Dockerfile greeting.md* .env* ./
RUN npm run build
EXPOSE 7860
ENV NODE_ENV=production
CMD [ "npm", "start" ]

上述配置使用 Node.js 18 配置 Debian 11 计算机。然后安装 git 并拉取存储库并部署应用程序以在端口上运行7860。

单击将新文件提交到main。

这将在您的空间内创建一个新的 Dockerfile。

配置 OpenAI API 密码

免责声明：本指南是出于测试目的而创建的。请自行承担使用OpenAI API 密钥的风险。

现在转到您的空间设置并向下滚动以查找Repository Secrets。

单击新建机密。

在弹出框中，输入以下内容。

名称：OPENAI_KEY

秘密值：来自 OpenAI 的 API 密钥

单击添加新密码。

现在您已将 OpenAI API 密钥添加为秘密。

创建 .env 文件

现在您需要创建一个 .env 文件，其中包含可与您的 OpenAI API 密钥一起使用的配置。

转到您空间中的文件。

单击添加文件，然后单击创建新文件。

命名您的文件：.env

将以下内容复制到“编辑”部分。

.env

# Requests per minute per IP address
MODEL_RATE_LIMIT=4
# Max tokens to request from OpenAI
MAX_OUTPUT_TOKENS_OPENAI=256
# Max tokens to request from Anthropic (Claude)
MAX_OUTPUT_TOKENS_ANTHROPIC=512
# Block prompts containing disallowed characters
REJECT_DISALLOWED=false
REJECT_MESSAGE="This content violates /aicg/'s acceptable use policy."
# Show exact quota usage on the Server Info page
QUOTA_DISPLAY_MODE=full
PROXY_KEY=YOUR_SECRET_KEY
GATEKEEPER=proxy_key

您可以根据自己的意愿修改设置，将YOUR_SECRET_KEY替换为任何密钥以限制对服务器的访问。通过身份验证需要此密钥，因此将防止未经授权的访问。

单击将新文件提交到main。

现在将在您的空间中创建一个 .env 文件。

检查 OpenAI 反向代理部署

现在您可以转到您的应用程序页面并查看部署状态。您会看到类似于下面的内容。

您可以安全地关闭它。

您将看到一个包含部署详细信息的屏幕。在服务信息部分，您将看到 OpenAI 反向代理端点。

OpenAI 反向代理 URL

{
  "uptime": 462.822055182,
  "endpoints": {
    "openai": "https://cloudbooklet-openai-reverse-proxy.hf.space/proxy/openai"
  },
  "proompts": 1,
  "proomptersNow": 0,
  "openaiKeys": 1,
  "anthropicKeys": 0,
  "turbo": {
    "activeKeys": 1,
    "trialKeys": 1,
    "quota": "99%",
    "proomptersInQueue": 0,
    "estimatedQueueTime": "no wait"
  },
  "config": {
    "gatekeeper": "proxy_key",
    "modelRateLimit": "4",
    "maxOutputTokensOpenAI": "256",
    "maxOutputTokensAnthropic": "512",
    "rejectDisallowed": "false",
    "rejectMessage": "This content violates /aicg/'s acceptable use policy.",
    "promptLogging": "false",
    "queueMode": "fair"
  },
  "build": "4335977 (main@khanon/oai-reverse-proxy)"
}