CHATGPT是美國OpenAI公司于2022年11月推出的AI聊天機器人程序,基于人工智能技術驅動的自然語言處理工具,ChatGPT能完成聊天、文字翻譯、文案撰寫、詩歌創作、代碼編輯、方案推算等任務,是史上增長最快的消費者應用之一
OpenAI是一家人工智能研究和部署公司,使命是確保人工通用智能造福全人類。OpenAI的使命是確保人工通用智能(AGI)——指的是在具有經濟價值的工作中超越人類的高度自治系統——造福全人類。OpenAI將試圖直接建設安全和有益的AGI,但如果工作幫助他人實現這一結果,OpenAI也將認為我們的使命已經完成。OpenAI已經(jing)訓(xun)練(lian)了一個名為ChatGPT的模型,它(ta)以對話的方式進行交(jiao)互。對話形式使ChatGPT能夠(gou)回答后續問(wen)題,承(cheng)認錯誤,質疑(yi)不正確的前(qian)提,并拒絕不適當的請求。ChatGPT是說明書,它(ta)被訓(xun)練(lian)成遵循提示中的指令(ling)并提供詳細的響應。
ChatGPT有(you)時會寫出聽起來合理(li)但(dan)不正(zheng)確(que)或無意義的(de)(de)答(da)案(an)。解(jie)決這個問題是(shi)具有(you)挑戰性(xing)的(de)(de),因為:(1)在(zai)RL訓(xun)練期間,目前沒有(you)真實的(de)(de)來源;(2)訓(xun)練模型更(geng)加(jia)謹慎導(dao)致它拒(ju)絕它能夠正(zheng)確(que)回答(da)的(de)(de)問題;以(yi)及(3)監督訓(xun)練誤(wu)導(dao)模型,因為理(li)想答(da)案(an)取決于模型知(zhi)道什么,而不是(shi)人類(lei)示威者所知(zhi)道的(de)(de)。
ChatGPT對輸入(ru)措(cuo)辭的(de)(de)調整或多次(ci)嘗試相同的(de)(de)提示很敏感。例如,給定一個(ge)問(wen)題的(de)(de)一種措(cuo)辭,模(mo)型可以聲稱不知道答(da)案,但給定一個(ge)輕(qing)微(wei)的(de)(de)措(cuo)辭,可以正確地回答(da)。理想(xiang)情況下,當(dang)用戶提供一個(ge)模(mo)糊的(de)(de)查詢時,模(mo)型會(hui)問(wen)一些(xie)澄(cheng)清性的(de)(de)問(wen)題。相反(fan),我(wo)們當(dang)前的(de)(de)模(mo)型通常猜測用戶的(de)(de)意圖(tu)。
今(jin)天ChatGPT的(de)(de)研(yan)究(jiu)發(fa)布(bu)是OpenAI的(de)(de)新一(yi)步迭代(dai)部署越(yue)來越(yue)安全和有用的(de)(de)人工智能系統。從早期(qi)模型的(de)(de)部署中吸取的(de)(de)許多經驗教訓為此次發(fa)布(bu)的(de)(de)安全緩解措施提供(gong)了信息,包括通過使用人類反饋強化學習實現的(de)(de)有害和不真實輸(shu)出的(de)(de)大幅減少。