「OpenAl 設(shè)計(jì)的插件系統(tǒng)是我這輩子見過的最瘋狂的系統(tǒng)。如果你要給它寫插件，你并不是去寫這個(gè)插件的程序，你是寫一個(gè)關(guān)于插件的描述，用你的自然語言，然后 GPT 來幫你生成這個(gè)插件?！?/p>
十年前，當(dāng)一個(gè)人躍躍欲試要給新發(fā)布的 iPhone 寫APP 的時(shí)候，ta必須自己是個(gè)非常老練的程序員才行。今天，當(dāng)你躍躍欲試要給新發(fā)布的 GPT 平臺(tái)寫插件，你只要用自然語言描述你希望實(shí)現(xiàn)的效果就行了。
OpenAI發(fā)布了ChatGPT的插件支持，這些插件是專為語言模型設(shè)計(jì)的工具，以安全性為核心原則。插件可以幫助ChatGPT訪問最新信息、進(jìn)行計(jì)算或使用第三方服務(wù)。
(資料圖片)
插件可以作為語言模型的“眼睛和耳朵”，讓它們?cè)L問實(shí)時(shí)、個(gè)性化或特定的信息。同時(shí)，插件也可以讓語言模型在用戶明確請(qǐng)求下執(zhí)行安全、受限的操作，從而提高系統(tǒng)的整體實(shí)用性。
我們?cè)?ChatGPT 中實(shí)現(xiàn)了插件的初始支持。插件是專門為語言模型設(shè)計(jì)的工具，安全是其核心原則，幫助 ChatGPT 訪問最新的信息、運(yùn)行計(jì)算或使用第三方服務(wù)。
根據(jù)我們的迭代部署哲學(xué)，我們正在ChatGPT中逐步推出插件，以便我們可以研究它們的實(shí)際使用、影響以及安全和對(duì)齊挑戰(zhàn)——這些都是我們必須正確處理才能實(shí)現(xiàn)我們的使命的。自從我們推出ChatGPT以來，用戶一直在要求插件（許多開發(fā)人員正在嘗試類似的想法），因?yàn)樗鼈兘怄i了廣泛的可能用例。我們從一小部分用戶開始，計(jì)劃在學(xué)到更多知識(shí)后逐步推出規(guī)模更大的訪問（針對(duì)插件開發(fā)人員、ChatGPT用戶以及經(jīng)過Alpha測(cè)試后希望將插件集成到其產(chǎn)品中的API用戶）。我們很高興建立一個(gè)社區(qū)，塑造人類與AI交互范式的未來。已被邀請(qǐng)離開我們的等待列表的插件開發(fā)人員可以使用我們的文檔來為ChatGPT構(gòu)建插件，然后在向語言模型顯示的提示中列出啟用的插件，以及指導(dǎo)模型如何使用每個(gè)插件的文檔。第一個(gè)插件由Expedia、FiscalNote、Instacart、KAYAK、Klarna、Milo、OpenTable、Shopify、Slack、Speak、Wolfram和Zapier創(chuàng)建。
我們還自己托管了兩個(gè)插件，一個(gè)網(wǎng)頁瀏覽器和一個(gè)代碼解釋器。我們還開源了一個(gè)知識(shí)庫檢索插件的代碼檢索插件，可以由任何希望增強(qiáng)ChatGPT信息的開發(fā)人員進(jìn)行自我托管。
今天，我們將開始向我們的等待列表中的用戶和開發(fā)人員擴(kuò)展插件alpha訪問。雖然我們最初會(huì)優(yōu)先考慮少數(shù)開發(fā)人員和ChatGPT Plus用戶，但我們計(jì)劃隨著時(shí)間的推移推出更大規(guī)模的訪問。
將語言模型連接到外部工具引入了新的機(jī)會(huì)，同時(shí)也帶來了顯著的風(fēng)險(xiǎn)。
插件提供了解決與大型語言模型相關(guān)的各種挑戰(zhàn)的潛力，包括“幻想”、“跟上最新事件”的問題以及訪問（經(jīng)過許可的）專有信息來源。通過將明確的訪問外部數(shù)據(jù)集成到語言模型中，例如最新的在線信息、基于代碼的計(jì)算或自定義的插件檢索信息，語言模型可以通過基于證據(jù)的參考加強(qiáng)其響應(yīng)。
這些參考不僅增強(qiáng)了模型的效用，還使用戶能夠評(píng)估模型輸出的可信度并雙重檢查其準(zhǔn)確性，潛在地緩解了與過度依賴相關(guān)的風(fēng)險(xiǎn)，正如我們最近的GPT-4系統(tǒng)卡中所討論的那樣。最后，插件的價(jià)值可能遠(yuǎn)不止于解決現(xiàn)有限制問題，還可幫助用戶應(yīng)對(duì)各種新用例，從瀏覽產(chǎn)品目錄到預(yù)訂航班或訂購食品等。
同時(shí)，插件可能會(huì)增加安全挑戰(zhàn)，采取有害或意外的行動(dòng)，增加壞人欺詐、誤導(dǎo)或?yàn)E用他人的能力。通過增加可能的應(yīng)用范圍，插件可能會(huì)增加模型在新領(lǐng)域中采取的錯(cuò)誤或不對(duì)齊操作的負(fù)面后果的風(fēng)險(xiǎn)。從第一天開始，這些因素就指導(dǎo)著我們插件平臺(tái)的開發(fā)，并實(shí)施了幾項(xiàng)保障措施。
從第一天開始，這些因素就指導(dǎo)著我們插件平臺(tái)的開發(fā)，并實(shí)施了幾項(xiàng)保障措施。
我們進(jìn)行了紅色團(tuán)隊(duì)演習(xí)，既在內(nèi)部進(jìn)行，也與外部合作伙伴進(jìn)行，發(fā)現(xiàn)了許多可能存在的令人擔(dān)憂的情況。例如，我們的紅色團(tuán)隊(duì)發(fā)現(xiàn)如果插件沒有保障就會(huì)執(zhí)行復(fù)雜的提示注入、發(fā)送欺詐和垃圾郵件、繞過安全限制或?yàn)E用發(fā)送到插件的信息。我們正在使用這些發(fā)現(xiàn)來制定安全設(shè)計(jì)減輕風(fēng)險(xiǎn)的措施，以限制插件風(fēng)險(xiǎn)行為并改善其在用戶體驗(yàn)中的操作方式和時(shí)間。我們還使用這些發(fā)現(xiàn)來指導(dǎo)我們逐步部署插件訪問的決策。
如果您是一位對(duì)研究這一領(lǐng)域的安全風(fēng)險(xiǎn)或減輕措施感興趣的研究人員，我們鼓勵(lì)您利用我們的研究人員接入計(jì)劃。我們還邀請(qǐng)開發(fā)人員和研究人員作為我們最近開源的Evals框架的一部分提交插件相關(guān)的安全和能力評(píng)估。
插件可能會(huì)產(chǎn)生廣泛的社會(huì)影響。例如，我們最近發(fā)布的工作論文發(fā)現(xiàn)，具有工具訪問能力的語言模型可能比沒有此能力的模型具有更大的經(jīng)濟(jì)影響力，更一般地，與其他研究人員的發(fā)現(xiàn)一致，我們預(yù)計(jì)當(dāng)前AI技術(shù)的浪潮將對(duì)工作變革、轉(zhuǎn)移和創(chuàng)造的速度產(chǎn)生巨大影響。我們渴望與外部研究人員和我們的客戶合作研究這些影響。
一種實(shí)驗(yàn)性模型，能夠知道何時(shí)以及如何瀏覽互聯(lián)網(wǎng)
受過去的工作的啟發(fā)允許語言模型嚴(yán)格從互聯(lián)網(wǎng)上讀取信息擴(kuò)大了他們可以討論的內(nèi)容量，超越了訓(xùn)練語料庫，獲得來自當(dāng)下的新鮮信息。
以下是瀏覽為ChatGPT用戶打開的體驗(yàn)類型的示例，以前模型會(huì)禮貌地指出其訓(xùn)練數(shù)據(jù)不包含足夠的信息以讓其回答。在這個(gè)示例中，ChatGPT檢索有關(guān)最新奧斯卡獎(jiǎng)的最新信息，然后執(zhí)行現(xiàn)在熟悉的ChatGPT詩歌壯舉，這是瀏覽可以是一種增量體驗(yàn)的方式之一。
除了為最終用戶提供明顯的效用外，我們認(rèn)為使語言和聊天模型進(jìn)行徹底和可解釋的研究對(duì)于可擴(kuò)展的對(duì)齊具有令人興奮的前景。
我們創(chuàng)建了一個(gè)網(wǎng)絡(luò)瀏覽插件，使語言模型能夠訪問網(wǎng)絡(luò)瀏覽器，其設(shè)計(jì)優(yōu)先考慮安全和成為網(wǎng)絡(luò)的良好公民。插件的基于文本的網(wǎng)絡(luò)瀏覽器僅限于進(jìn)行GET請(qǐng)求，這減少了（但并未消除）某些類別的安全風(fēng)險(xiǎn)。這將瀏覽插件的范圍限定為有用于檢索信息，但排除了具有更多安全問題和安全問題可能性更大的“事務(wù)性”操作，如表單提交等。
瀏覽使用Bing搜索API從網(wǎng)絡(luò)檢索內(nèi)容。因此，我們從Microsoft繼承了大量工作，包括（1）信息來源的可靠性和真實(shí)性以及（2）“安全模式”以防止檢索問題內(nèi)容。該插件在一個(gè)隔離的服務(wù)中運(yùn)行，因此ChatGPT的瀏覽活動(dòng)與我們基礎(chǔ)架構(gòu)的其余部分分離。
為了尊重內(nèi)容創(chuàng)作者并遵守網(wǎng)絡(luò)規(guī)范，我們的瀏覽器插件的用戶代理標(biāo)記為[ChatGPT-User]（https://openai.com/bot），并配置為遵守網(wǎng)站的robots.txt文件。這可能偶爾會(huì)導(dǎo)致“點(diǎn)擊失敗”消息，這表示插件正在遵守網(wǎng)站的指令，以避免爬取它。此用戶代理僅用于代表ChatGPT用戶采取直接行動(dòng)，不用于以任何自動(dòng)方式爬取網(wǎng)絡(luò)。我們還發(fā)布了我們的IP出口范圍。此外，已實(shí)施速率限制措施，以避免向網(wǎng)站發(fā)送過多流量。
我們的瀏覽插件可以顯示訪問的網(wǎng)站并在 ChatGPT 的回答中引用其來源。這種額外的透明度層幫助用戶驗(yàn)證模型回答的準(zhǔn)確性，同時(shí)也向內(nèi)容創(chuàng)作者歸功。我們感謝這是一種與網(wǎng)絡(luò)互動(dòng)的新方法，并歡迎有關(guān)如何將流量帶回來源并增加生態(tài)系統(tǒng)整體健康的反饋。
開源檢索插件使ChatGPT能夠訪問個(gè)人或組織信息源（需獲得許可）。它允許用戶通過使用自然語言提出問題或表達(dá)需求，從其數(shù)據(jù)源（例如文件、筆記、電子郵件或公共文檔）獲取最相關(guān)的文檔片段。
作為一種開源且自托管的解決方案，開發(fā)人員可以部署自己的插件版本，并將其注冊(cè)到ChatGPT中。該插件利用OpenAI嵌入，并允許開發(fā)人員選擇一個(gè)向量數(shù)據(jù)庫（Milvus、Pinecone、Qdrant、Redis、Weaviate或Zilliz）來索引和搜索文檔。信息源可以使用Webhook與數(shù)據(jù)庫同步。
要開始使用，請(qǐng)?jiān)L問檢索插件存儲(chǔ)庫。
關(guān)鍵詞：
