一步步教你如何设置 OpenAI 反向代理

How-to-setup-OpenAI-Reverse-Proxy-750x422-1

在本教程中,我们将指导您完成配置 OpenAI 反向代理的过程。OpenAI 反向代理允许您将 OpenAI API 调用安全地集成到您的应用程序中,同时保持对请求和响应的控制。我们将介绍有效设置和配置反向代理的必要步骤。

这里我们将使用一个存储库并将其部署在 Hugging Face 中。我们也可以使用 Node.js 手动将其部署在本地计算机上。但我们使用的是 Hugging Face,这样我们就可以获得 OpenAI 反向代理 URL。然后我们可以在Janitor AI API或其他服务上使用该 API url 。

创造一个拥抱的脸部空间

登录到您的 Hugging Face 帐户,单击右侧的个人资料图标,然后单击新空间

OpenAI-Reverse-Proxy-setup-in-Hugging-Face

空间名称:输入您空间的名称 (openai-reverse-proxy)。

选择 Space SDK : Docker(我们将使用 Docker 进行部署)。

选择 Docker 模板:空白

其他一切都可以是默认的。

单击创建空间

现在,将免费配置一台配备 2vCPU 16GB RAM 的新机器。

创建 Dockerfile

创建空间后,您将被重定向到应用程序页面。此页面包含有关您的部署的所有详细信息。

向下滚动一点,查看“(提示:或者在浏览器中直接创建 Dockerfile 文件)”的位置

OpenAI-Reverse-Proxy-Dockerfile

单击“创建”以添加我们的 Dockerfile 配置。

复制以下代码并将其添加到编辑部分输入框中。

Dockerfile
FROM node:18-bullseye-slim
RUN apt-get update && \
    apt-get install -y git
RUN git clone https://gitgud.io/khanon/oai-reverse-proxy.git /app
WORKDIR /app
RUN npm install
COPY Dockerfile greeting.md* .env* ./
RUN npm run build
EXPOSE 7860
ENV NODE_ENV=production
CMD [ "npm", "start" ]

上述配置使用 Node.js 18 配置 Debian 11 计算机。然后安装 git 并拉取存储库并部署应用程序以在端口 上运行7860

OpenAI-API-Dockerfile

单击将新文件提交到main

这将在您的空间内创建一个新的 Dockerfile。

配置 OpenAI API 密码

免责声明:本指南是出于测试目的而创建的。请自行承担使用OpenAI API 密钥的风险。

现在转到您的空间设置并向下滚动以查找Repository Secrets

OpenAI-API-Secret

单击新建机密

在弹出框中,输入以下内容。

名称:OPENAI_KEY

秘密值:来自 OpenAI 的 API 密钥

OpenAI-API-as-Secret-Key

单击添加新密码

现在您已将 OpenAI API 密钥添加为秘密。

创建 .env 文件

现在您需要创建一个 .env 文件,其中包含可与您的 OpenAI API 密钥一起使用的配置。

转到您空间中的文件

单击添加文件,然后单击创建新文件

命名您的文件:.env

将以下内容复制到“编辑”部分。

.env
# Requests per minute per IP address
MODEL_RATE_LIMIT=4
# Max tokens to request from OpenAI
MAX_OUTPUT_TOKENS_OPENAI=256
# Max tokens to request from Anthropic (Claude)
MAX_OUTPUT_TOKENS_ANTHROPIC=512
# Block prompts containing disallowed characters
REJECT_DISALLOWED=false
REJECT_MESSAGE="This content violates /aicg/'s acceptable use policy."
# Show exact quota usage on the Server Info page
QUOTA_DISPLAY_MODE=full
PROXY_KEY=YOUR_SECRET_KEY
GATEKEEPER=proxy_key

您可以根据自己的意愿修改设置,将YOUR_SECRET_KEY替换为任何密钥以限制对服务器的访问。通过身份验证需要此密钥,因此将防止未经授权的访问。

单击将新文件提交到main

现在将在您的空间中创建一个 .env 文件。

检查 OpenAI 反向代理部署

现在您可以转到您的应用程序页面并查看部署状态。您会看到类似于下面的内容。

OpenAI-Reverse-proxy-Deployment-1

您可以安全地关闭它。

您将看到一个包含部署详细信息的屏幕。在服务信息部分,您将看到 OpenAI 反向代理端点。

OpenAI 反向代理 URL
{
  "uptime": 462.822055182,
  "endpoints": {
    "openai": "https://cloudbooklet-openai-reverse-proxy.hf.space/proxy/openai"
  },
  "proompts": 1,
  "proomptersNow": 0,
  "openaiKeys": 1,
  "anthropicKeys": 0,
  "turbo": {
    "activeKeys": 1,
    "trialKeys": 1,
    "quota": "99%",
    "proomptersInQueue": 0,
    "estimatedQueueTime": "no wait"
  },
  "config": {
    "gatekeeper": "proxy_key",
    "modelRateLimit": "4",
    "maxOutputTokensOpenAI": "256",
    "maxOutputTokensAnthropic": "512",
    "rejectDisallowed": "false",
    "rejectMessage": "This content violates /aicg/'s acceptable use policy.",
    "promptLogging": "false",
    "queueMode": "fair"
  },
  "build": "4335977 (main@khanon/oai-reverse-proxy)"
}

您可以使用该 URL 作为应用程序的 OpenAI 反向代理 URL。

另请阅读:如何在 Janitor AI API 中配置 OpenAI 反向代理

结论

现在您已经学习了如何使用 Debian 11、Docker 和 Node.js 在 Hugging Face 上设置和配置 OpenAI 反向代理。

原创文章,作者:主机说,如若转载,请注明出处:https://www.hostingtalk.cn/how-to-setup-openai-reverse-proxy-a-step-by-step-guide/

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

error: 内容保护