芒果视频

CHATGPT是美國OpenAI公司于2022年11月推出的AI聊天機器人程序，基于人工智能技術驅動的自然語言處理工具，ChatGPT能完成聊天、文字翻譯、文案撰寫、詩歌創作、代碼編輯、方案推算等任務，是史上增長最快的消費者應用之一

OpenAI是一家人工智能研究和部署公司，使命是確保人工通用智能造福全人類。OpenAI的使命是確保人工通用智能（AGI）——指的是在具有經濟價值的工作中超越人類的高度自治系統——造福全人類。OpenAI將試圖直接建設安全和有益的AGI，但如果工作幫助他人實現這一結果，OpenAI也將認為我們的使命已經完成。OpenAI已(yi)經訓(xun)練(lian)了一(yi)個名為ChatGPT的(de)模型，它(ta)以對(dui)話的(de)方式進行交互。對(dui)話形式使ChatGPT能夠(gou)回答后續(xu)問題，承認錯誤，質疑不(bu)(bu)正確的(de)前提(ti)，并拒絕(jue)不(bu)(bu)適(shi)當(dang)的(de)請求。ChatGPT是說(shuo)明書，它(ta)被訓(xun)練(lian)成遵(zun)循提(ti)示中(zhong)的(de)指令并提(ti)供詳細(xi)的(de)響應。

ChatGPT有(you)(you)時會(hui)寫(xie)出聽起(qi)來合理(li)但(dan)不正確(que)或無意義的(de)答(da)(da)案(an)。解決(jue)這(zhe)個問(wen)題(ti)是具有(you)(you)挑(tiao)戰(zhan)性的(de)，因(yin)(yin)為(wei)：（1）在RL訓(xun)(xun)練期間，目(mu)前沒有(you)(you)真(zhen)實的(de)來源；（2）訓(xun)(xun)練模型(xing)更加謹慎(shen)導致它拒絕它能夠正確(que)回(hui)答(da)(da)的(de)問(wen)題(ti)；以及（3）監督訓(xun)(xun)練誤導模型(xing)，因(yin)(yin)為(wei)理(li)想答(da)(da)案(an)取決(jue)于模型(xing)知道什么，而(er)不是人類示威者(zhe)所知道的(de)。

ChatGPT對輸入(ru)措辭(ci)的(de)調整或多次嘗試相同(tong)的(de)提示很(hen)敏(min)感。例如，給定一(yi)(yi)個問題的(de)一(yi)(yi)種措辭(ci)，模(mo)型可(ke)以聲稱(cheng)不知道答案，但給定一(yi)(yi)個輕微的(de)措辭(ci)，可(ke)以正確地回答。理(li)想情(qing)況下，當用(yong)戶(hu)提供一(yi)(yi)個模(mo)糊的(de)查(cha)詢(xun)時，模(mo)型會問一(yi)(yi)些澄清性的(de)問題。相反，我們當前(qian)的(de)模(mo)型通常(chang)猜測(ce)用(yong)戶(hu)的(de)意圖。

今天ChatGPT的(de)(de)研究發(fa)布(bu)是OpenAI的(de)(de)新一(yi)步迭代(dai)部(bu)(bu)署(shu)越來越安(an)全和有用的(de)(de)人(ren)工智(zhi)能系統。從(cong)早(zao)期(qi)模型(xing)的(de)(de)部(bu)(bu)署(shu)中吸取的(de)(de)許(xu)多經驗教訓為(wei)此次發(fa)布(bu)的(de)(de)安(an)全緩解措施提供(gong)了信(xin)息，包括通過使用人(ren)類(lei)反饋(kui)強(qiang)化學習實(shi)現的(de)(de)有害和不(bu)真實(shi)輸出(chu)的(de)(de)大幅減少。