OpenAI官方解读ChatGPT插件：语言模型的“眼睛和耳朵”

作者：OpenAI官方；翻译：金色财经 & ChatGPT

根据咱们的迭代布置理念，咱们正在逐渐推出ChatGPT插件，以便咱们能够研讨它们在实际国际中的运用、影响以及安全和协调方面的应战——一切这些咱们都必须做好，才能完成咱们的使命.

自从咱们推出 ChatGPT 以来，用户一向要求插件（许多开发人员正在测验类似的想法），因为它们能够解锁许多或许的用例。咱们从一小部分用户开端，并方案跟着咱们了解更多（对于插件开发人员、ChatGPT 用户，以及在 alpha 期之后，期望将插件集成到他们的产品中的 API 用户）逐渐推出更大规划的拜访。咱们很高兴能够树立一个塑造人机交互范式未来的社区。

被约请的插件开发人员能够运用咱们的文档为 ChatGPT 构建插件，然后在向言语模型显现的提示中列出已启用的插件以及辅导模型怎么运用每个插件的文档。第一批插件由Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier创立。

咱们自己也开发了两个插件，一个网络阅读器和代码解说器。咱们还开源了知识库检索插件的代码，任何开发人员都能够自行保管他们想要用来增强ChatGPT的信息。

今日，咱们将开端将插件alpha拜访权限扩展到候补名单中的用户和开发人员。尽管咱们最初会优先考虑少量开发人员和 ChatGPT Plus 用户，但咱们方案跟着时刻的推移推出更大规划的拜访。

怎么运用ChatGPT插件的示例

概述

今日的言语模型尽管对各种使命有用，但仍然有限。他们能够从中学习的唯一信息是他们的练习数据。此信息或许已过期，而且适用于一切运用程序。此外，言语模型唯一能够开箱即用的便是宣布文本。此文本或许包括有用的说明，但要真正遵循这些说明，需要另一个过程。

尽管不是一个完美的类比，但插件能够成为言语模型的“眼睛和耳朵”，使它们能够拜访太新、太私人或太具体而无法包括在练习数据中的信息。为了呼运用户的清晰恳求，插件还能够使言语模型代表他们履行安全、受限的操作，从而进步整个体系的实用性。

咱们估计开放标准将会呈现，以统一运用程序接入AI 界面的办法。咱们正在对这样一个标准的外观进行早期测验，咱们正在寻找有爱好与咱们一起构建的开发人员的反应。

今日，咱们开端逐渐为 ChatGPT 用户启用早期合作者的现有插件，首要是 ChatGPT Plus 订阅者。咱们还开端推出开发人员为 ChatGPT 创立自己的插件的能力。

在接下来的几个月里，跟着咱们从布置中学习并持续改善咱们的安全体系，咱们将迭代这个协议，咱们方案让运用 OpenAI 模型的开发人员能够将插件集成到他们自己的运用程序中，而不是 ChatGPT。

安全性和更广泛的影响

将言语模型衔接到外部东西会带来新的时机，同时也会带来严重的新危险。

插件供给了处理与大型言语模型相关的各种应战的潜力，包括“幻觉”，跟上最近的事件，以及拜访（经答应的）专有信息源。经过集成对外部数据的显式拜访——例如在线最新信息、根据代码的核算或自定义插件检索信息——言语模型能够经过根据依据的参阅来加强它们的呼应。

这些参阅资料不仅增强了模型的实用性，还运用户能够评价模型输出的可信度并仔细检查其准确性，从而有或许减轻与咱们最近的 GPT-4 体系卡片中评论的过度依赖相关的危险。最终，插件的价值或许远远超出经过协助用户处理各种新用例（从阅读产品目录到预定航班或订购食物）的现有约束。

与此同时，插件或许会采纳有害或无意的行动，添加不法分子欺诈、误导或优待别人的能力，从而添加安全应战。经过添加或许的运用规模，插件或许会添加因模型在新范畴中采纳的过错或过错协调操作而产生负面结果的危险。从第一天起，这些要素就辅导了咱们插件平台的开发，咱们施行了多项保证办法。

咱们已经在内部和与外部合作者进行了红队演练，提醒了许多或许的相关场景。例如，咱们的红队发现了插件的办法——假如在没有安全办法的情况下发布——履行复杂的提示注入、发送欺诈和垃圾邮件、绕过安全约束或滥用发送到插件的信息。咱们正在运用这些发现来告诉安全规划缓解办法，这些缓解办法约束了有危险的插件行为，并进步了它们作为用户体会的一部分运转的办法和时刻的透明度。咱们还运用这些发现来奉告咱们逐渐布置对插件的拜访的决议。

假如你是一名研讨人员，有爱好研讨该范畴的安全危险或缓解办法，咱们鼓舞你运用咱们的研讨人员拜访方案。咱们还约请开发人员和研讨人员提交与插件相关的安全和功用评价，作为咱们最近开源的Evals 结构的一部分。

插件或许会产生广泛的社会影响。例如，咱们最近发布了一份作业论文，其间发现能够运用东西的言语模型或许比没有东西的言语模型产生更大的经济影响，更普遍地说，根据其他研讨人员的发现，咱们估计当时的人工智能技术浪潮将对作业改变、代替和发明的速度有很大影响。咱们渴望与外部研讨人员和咱们的客户合作研讨这些影响。

阅读Alpha

一个知道何时以及怎么阅读互联网的试验模型

受曩昔作业（咱们自己的WebGPT，以及GopherCite，BlenderBot2，LaMDA2和其他）的启发，允许言语模型从互联网上读取信息严厉扩展了他们能够评论的内容量，逾越了练习语料库的新鲜信息。

这是向 ChatGPT 用户开放阅读体会的一个比如，以前会让模型礼貌地指出它的练习数据没有包括满足的信息来让它回答。在这个示例中，ChatGPT 检索有关最新奥斯卡颁奖典礼的最新信息，然后履行现在熟悉的 ChatGPT 操作，这是阅读能够成为一种附加体会的一种办法。

ChatGPT阅读插件演示

除了为最终用户供给明显的实用性之外，咱们认为使言语和谈天模型能够进行完全和可解说的研讨具有可扩展对齐的令人兴奋的远景。

阅读最新信息

安全考虑

咱们已经创立了一个网络阅读插件，它能够让言语模型拜访网络阅读器，其规划将安全性和作为网络杰出公民的操作放在首位。该插件的根据文本的 Web 阅读器仅限于宣布 GET 恳求，这削减（但不会消除）某些类别的安全危险。这将阅读插件的规模限定为可用于检索信息，但不包括“事务性”操作，例如表单提交，这些操作具有更大的安全性和安全性问题。

阅读插件运用bing查找 API 从 Web 检索内容。因而，咱们继承了 Microsoft 在 (1) 信息来历可靠性和真实性以及 (2) 防止检索有问题内容的“安全模式”方面的许多作业。该插件在一个独立的服务中运转，因而 ChatGPT 的阅读活动与咱们基础设施的其余部分是分开的。

为了尊重内容创作者并恪守网络标准，咱们的阅读器插件的用户署理令牌是ChatGPT-User，并配置为尊重网站的 robots.txt 文件。这或许偶尔会导致“点击失利”音讯，这表明该插件正在恪守网站的指示以防止对其进行抓取。此用户署理将仅用于代表 ChatGPT 用户采纳直接操作，而不用于以任何主动办法抓取网络。咱们还发布了IP 出口规模。此外，已施行限速办法以防止向网站发送过多流量。

点击失利

您能够运用 robots.txt 文件阻挠 ChatGPT 抓取你的网站，当产生这种情况时，ChatGPT 将显现此过错音讯。

咱们的阅读插件显现拜访过的网站，并在 ChatGPT 的回复中引用其来历。这种添加的透明度层有助于用户验证模型呼应的准确性，并回馈内容创立者。咱们赞赏这是一种与网络交互的新办法，并欢迎就其他办法将流量拉回来历并添加生态体系的全体健康状况供给反应。

代码解说器

一个能够运用 Python 处理上传和下载的试验性 ChatGPT 模型

咱们为咱们的模型供给了一个在沙盒、防火墙履行环境中作业的 Python 解说器，以及一些暂时磁盘空间。由咱们的解说器插件运转的代码在一个耐久会话中进行评价，该会话在谈天对话期间一向有用（具有上限超时），后续调用能够相互构建。咱们支持将文件上传到当时对话作业区并下载您的作业结果。

履行逻辑核算的代码解说器插件

咱们期望咱们的模型能够运用它们的编程技能为咱们核算机的最基本功用供给更天然的接口。接触到以指尖的速度作业的非常热心的初级程序员能够使全新的作业流程变得轻松高效，并向新的受众开放编程的好处。

从咱们最初的用户研讨中，咱们确认了运用代码解说器特别有用的用例：

• 处理定量和定性的数学问题

• 进行数据剖析和可视化

• 在格式之间转换文件

咱们约请用户测验代码解说器集成并发现其他有用的使命。

ChatGPT解说器插件演示

安全考虑

将咱们的模型衔接到编程言语解说器的首要考虑要素是对履行进行适当的沙盒处理，以便 AI 生成的代码不会在实际国际中产生意外的副作用。咱们在安全环境中履行代码，并运用严厉的网络控制来防止外部互联网拜访履行代码。此外，咱们对每个会话都设置了资源约束。禁用互联网拜访约束了咱们代码沙箱的功用，但咱们相信这是正确的初始权衡。第三方插件被规划为将咱们的模型衔接到外部国际的安全第一办法。

检索

开源检索插件使 ChatGPT 能够拜访个人或安排信息源（经答应的）。它允许用户经过发问或用天然言语表达需求，从他们的数据源中获取最相关的文档片段，例如文件、笔记、电子邮件或公共文档。

作为一个开源和自保管的处理方案，开发人员能够布置他们自己的插件版本并在 ChatGPT 上注册。该插件利用OpenAI 嵌入并允许开发人员挑选矢量数据库（Milvus、Pinecone、Qdrant、Redis、Weaviate或Zilliz）来索引和查找文档。信息源能够运用 webhoOKs 与数据库同步。

首要，拜访检索插件存储库。

ChatGPT检索插件演示

安全考虑

检索插件允许 ChatGPT 查找内容矢量数据库，并将最佳结果添加到 ChatGPT 会话中。这意味着它没有任何外部影响，首要危险是数据授权和隐私。开发人员应该只将他们有权运用的内容添加到他们的检索插件中，而且能够在用户的 ChatGPT 会话中共享。

第三方插件

一个知道何时以及怎么运用插件的试验模型

ChatGPT中的第三方插件

第三方插件由清单文件描绘，其间包括插件功用的机器可读描绘以及怎么调用它们，以及面向用户的文档。

示例：用于办理todo事项的插件的清单文件

创立插件的步骤是：

1. 运用您期望言语模型调用的端点构建 API（这能够是新的 API、现有的 API 或围绕专门为 LLM 规划的现有 API 的包装器）。

2. 创立一个记载您的 API 的 OpenAPI 标准，以及一个链接到 OpenAPI 标准并包括一些特定于插件的元数据的清单文件。

在chat.openai.com上开端对话时，用户能够挑选他们想要启用的第三方插件。有关已启用插件的文档作为对话上下文的一部分显现给言语模型，使模型能够根据需要调用适当的插件 API 来完成用户意图。目前，插件是为调用后端 API 而规划的，但咱们正在探究也能够调用客户端 API 的插件。

ChatGPT第三方插件演示

ChatGPT 插件开发者体会

未来

咱们正在尽力开发插件并将它们带给更广泛的受众。咱们有许多东西要学，在大家的协助下，咱们期望构建一些既有用又安全的东西。

文章来历：https://openai.com/blog/chatgpt-plugins

此时快讯

【永续合约平台Narwhal Finance完成100万美元融资】金色财经报道，基于 BNB Chain 和 Arbitrum 的永续合约平台 Narwhal Finance 完成 100 万美元融资，Animoca Ventures 领投，参投方包括 Hailstone Ventures 等。Narwhal Finance 允许用户交易包括加密货币、外汇、指数和股票的永续合约，杠杆率最高为 1000 倍。此外该平台还提供跟单交易功能。