如何在 Azure OpenAI 服务上使用 GPT-4 和 ChatGPT

chatGPT-on-azure-AI

ChatGPTGPT-4 是来自 OpenAI 的巨大语言模型,可用于生成文本、翻译语言、编写各种类型的创意材料以及为您的问题提供有用的答案。它们都在 Azure OpenAI 服务上可用,使它们易于集成到你的应用程序中。在本文中,我将逐步向您展示如何在 Azure OpenAI 服务上使用 ChatGPT。

先决条件

  • 可以免费创建 Azure 订阅。
  • Azure OpenAI 已获得所需 Azure 订阅的访问权限。
  • 目前,只能通过应用程序访问此服务。您可以通过填写https://aka.ms/oai/access上的表格来申请 Azure OpenAI 访问权限。如果你有问题,请在这个 repo 上打开一个问题。
  • 运行 gpt-35-turbo 或 gpt-41 模型的 Azure OpenAI 服务资源。有关模型部署的更多信息,请参阅资源部署指南。

什么是 Azure OpenAI 服务?

Azure OpenAI 服务提供了一个 REST API,你可以通过它使用 OpenAI 的高级语言模型,包括 GPT-3、Codex、Embeddings、GPT-4 和 ChatGPT。这些模型可应用于广泛的任务,包括内容生成、摘要、语义搜索和自然语言到代码的翻译。可以通过 REST API、Python SDK 或 Azure OpenAI Studio 中基于 Web 的界面访问该服务。

如何访问 Azure OpenAI Studio?

按照以下步骤访问 Azure OpenAI Studio 并使用 Chat playground。

  1. 导航到 Azure OpenAI Studio 网站https://oai.azure.com/
  2. 使用您用于访问 OpenAI 资源的凭据登录。要安全登录,请提供必要的身份验证详细信息。
  3. 如果出现提示,请在登录步骤中选择与您的 Azure 帐户链接的正确目录。
  4. 然后,选择有权访问 Azure OpenAI 资源的 Azure 订阅。
  5. 成功登录并选择正确的目录和订阅后,您将被带到 Azure OpenAI Studio 主页。
  6. 在着陆页上寻找“聊天游乐场”选项。此选项可让您试验语言模型并与之交互。
  7. 要访问聊天游乐场,请单击“聊天游乐场”按钮。
chatgpt-gpt4-1024x659-1

Azure OpenAI Studio 聊天游乐场

Azure OpenAI Studio Chat playground 是一个无代码界面,用于试验 OpenAI 功能。您可以快速迭代并试验此页面中的不同功能。

chatgpt-and-gpt4-1024x536-1

Azure OpenAI Studio Chat playground 概述

默认情况下,Azure OpenAI Studio Chat playground 具有三个面板:助手设置、聊天会话和设置。

您可以使用显示面板来添加、删除或重新排列这些面板。如果您关闭面板并需要将其取回,请使用显示面板来恢复丢失的面板。

助手设置功能

  • 在 Chat playground 界面中找到“Assistant setup”下拉菜单。它使您能够从预加载的系统消息示例库中进行选择,以向模型提供指令和上下文。
  • 从“助手设置”下拉菜单中选择一个预加载的系统消息示例。这些示例可以帮助您定义助手的个性,指定它应该和不应该回答的内容,并指导它如何设计响应。
  • 您还可以使用“添加少量示例”功能为模型提供对话示例,以便从上下文中学习。这些示例有助于模型理解所需的行为并根据所提供的示例改进其响应。
  • 与 Chat playground 交互时,选择“查看代码”以查看 Python、curl 和 JSON 中的代码示例。这些代码示例是根据您当前的聊天会话和偏好自动生成的。在创建自己的应用程序以在 playground 环境之外实现相同功能时,您可以参考这些代码示例。
  • 使用助手设置选项,您可以定义助手的行为和个性、改进其回复并微调其输出以满足您的个人需求。Chat playground 允许您试验、测试并获得将 OpenAI 语言模型集成到您自己的应用程序中的见解。

聊天会话

发送文本: 在输入文本框中输入您喜欢的文本,然后按“发送”按钮。这会将文本传递给完成 API,模型会根据输入做出响应。然后模型的反应显示在文本字段中,允许来回对话。

清除聊天记录: 点击“清除聊天记录”按钮可以清除当前的聊天记录并重新开始。此操作会从文本框中删除所有以前的聊天消息,为新的对话留下空白。

其他设置

环境 描述 默认
部署名称 包含 ChatGPT 或 GPT-4 模型的部署的名称。 没有任何
温度 控制模型输出的随机性。较高的温度会产生更多创造性和意想不到的反应,而较低的温度会产生更多的事实和可预测的反应。 0.5
顶P 控制模型选择 top-p 最有可能标记的概率。较高的值会产生更多的创造性和意想不到的反应,而较低的值会产生更多的事实和可预测的反应。 0.9
最大代币 模型可以生成的最大令牌数。
设置

如何使用 Azure ChatGPT playground?

在 Azure OpenAI 服务上使用 GPT-4 和 ChatGPT 的分步说明。

第一步:从助手设置下拉列表中选择 Xbox 客户服务代理。

第 2 步:当系统询问您是否要更新系统消息时,选择继续。

第 3 步:在聊天会话窗格中,键入“我有兴趣购买新的 Xbox”,然后按“发送”。

第四步:你会得到这样的东西:

chatgpt-and-gpat4-1

Step5:添加后续问题,例如“哪些型号支持4K?”

chatgpt-and-gpt4-2

第 6 步:现在您已经进行了基本对话,从“助手设置”中选择“查看代码”以查看到目前为止整个对话背后的代码重播:

#Note: The openai-python library support for Azure OpenAI is in preview.
import os
import openai
openai.api_type = "azure"
openai.api_base = "https://docs-test-001.openai.azure.com/"
openai.api_version = "2023-05-15"
openai.api_key = os.getenv("OPENAI_API_KEY")

response = openai.ChatCompletion.create(
  engine="gpt-35-turbo", # replace this value with the deployment name you chose when           you deployed the associated model.
  messages =[
  {
    "role": "system",
    "content": "You are an Xbox customer support agent whose primary goal is to help users  with issues they are experiencing with their Xbox devices. You are friendly and concise. You only provide factual answers to queries, and do not provide answers that are not related to Xbox."
  },
  {
    "role": "user",
    "content": "How much is a PS5?"
  },
  {
    "role": "assistant",
    "content": "I apologize, but I do not have information about the prices of other gaming     devices such as the PS5. My primary focus is to assist with issues regarding Xbox devices. Is there a specific issue you are having with your Xbox device that I may be able to help with?"
  }
  ],
  temperature=0,
  max_tokens=350,
  top_p=0.95,
  frequency_penalty=0,
  presence_penalty=0,
  stop=None)

提示结构

Azure 上的 ChatGPT 中使用的特殊令牌

  • |im_start|>:此标记表示输入消息的开始。
  • <|im_end|>:此标记表示输入消息的结尾。
  • |as_start|>:此标记表示助手响应的开始。
  • <|as_end|>:此标记表示助手响应的结束。

标记|im_start|>|im_end|>分别表示系统消息的开始和结束。标记|as_start|>|as_end|>分别表示助手响应的开始和结束。

ChatGPT 可以理解系统消息是欢迎消息,用户希望通过使用这些令牌来了解更多有关 ChatGPT 的信息。这使 ChatGPT 能够提供更自然的响应,根据用户的个人需求量身定制。

您还可以使用显示原始语法切换按钮在聊天会话窗口中显示这些标记。这对于故障排除或了解 ChatGPT 如何处理提示很有用。

另请阅读:有关DataStax 的更全面概述,请参阅我们的指南DataStax Enhances Astra DB on Google Cloud with Vector Search Capability

结论

最后,Azure OpenAI 服务上的 ChatGPT 是自然语言处理和对话式 AI 的优秀工具。开发人员可以简单地将这些模型集成到他们的应用程序中,因为它们具有用户友好的界面和大量的文档。随着语言理解和生成能力的提高,这些服务成为创建智能和引人入胜的对话交互的宝贵工具。请随时在下面的评论部分分享您的想法和反馈。

原创文章,作者:主机说,如若转载,请注明出处:https://www.hostingtalk.cn/how-to-use-gpt-4-and-chatgpt-on-azure-openai-service/

发表回复

您的电子邮箱地址不会被公开。 必填项已用*标注

error: 内容保护