跳至內容

ChatGPT

本頁使用了標題或全文手工轉換
維基百科,自由的百科全書
ChatGPT
開發者OpenAI
首次發佈2022年11月30日,​23個月前​(2022-11-30
目前版本2024年7月18日,​3個月前​(2024-07-18[1]
程式語言Python
引擎
平台雲端運算平台
語言67種語言
類型聊天機械人
虛擬助理
許可協定專有
網站chatgpt.com
數據截至2023年4月(GPT-4)
2022年1月(GPT-3.5)

ChatGPT,全稱聊天生成預訓練轉換器[2](英語:Chat Generative Pre-trained Transformer[3]),是OpenAI開發的人工智能聊天機械人程式,於2022年12月推出。該程式使用基於GPT-3.5GPT-4GPT-4o架構的大型語言模型並以強化學習訓練。ChatGPT目前仍以文字方式互動,而除了可以用人類自然對話方式來互動,還可以用於甚為複雜的語言工作,包括自動生成文字、自動問答、自動摘要等多種任務。如:在自動文字生成方面,ChatGPT可以根據輸入的文字自動生成類似的文字(劇本歌曲企劃等),在自動問答方面,ChatGPT可以根據輸入的問題自動生成答案。還有編寫和除錯電腦程式的能力。[4]在推廣期間,所有人可以免費註冊,並在登入後免費使用ChatGPT與AI機械人對話[5]

ChatGPT可寫出相似真人的文章,並在許多知識領域給出詳細和清晰的回答而迅速獲得關注,證明了從前認為AI不會取代的知識型工作它也足以勝任,對金融白領人力市場的衝擊相當大,但也認為事實準確度參差不齊[a]是其重大缺陷,並認為基於意識形態的模型訓練結果須小心校正[8][9]。ChatGPT於2022年12月發佈後,OpenAI估值已漲至290億美元[10]。上線5天後已有100萬用戶,上線兩個月後已有上億用戶[11]。目前GPT-3.5為免費使用,無需註冊,GPT-4o對已註冊免費用戶開放使用,但有使用量限制。註冊的ChatGPT免費用戶都可以使用瀏覽、視覺、數據分析、檔案上載和GPTs等原付費用戶的功能,但有使用量限制。[12]

雖然ChatGPT在生成類人文字方面表現出了卓越的能力,但它們很容易繼承和放大訓練數據中存在的偏差。這可能表現為對不同人口統計數據的歪曲表述或不公平待遇,例如基於種族[13]、性別[14]、語言[15]和文化群體[15]的不同觀點與態度。

訓練

[編輯]

ChatGPT是生成型預訓練變換模型(GPT),在GPT-3.5之上用基於人類反饋的監督學習強化學習微調。[16]這兩種方法都用人類教練來提高模型效能,以人類干預增強機器學習效果,獲得更逼真的結果[17]。在監督學習的情況下為模型提供這樣一些對話,在對話中教練充當用戶和AI助理兩種角色。在強化步驟中,人類教練首先為模型在先前對話中建立的響應評級。這些級別用於建立「獎勵模型」,使用近端策略最佳化(PPO)的多次迭代來微調[18][19]。這種策略最佳化演算法比信任域策略最佳化英語Model-free (reinforcement learning)(trust region policy optimization)演算法更為高效[20][21]

此外,OpenAI繼續從ChatGPT用戶那裏收集數據,這些數據可用於加強訓練和微調ChatGPT。用戶可對從ChatGPT收到的回覆投贊成或反對票;投票時還可以額外填寫文字回應[22]

關於ChatGPT編寫和除錯電腦程式的能力的訓練,由於深度學習模型不懂編程,與所有其他基於深度學習語言模型一樣,只是在取得代碼片段之間的統計相關性。[23]

史丹福大學的研究發現,GPT3已經可以解決70%的心智理論任務,相當於7歲兒童;至於GPT3.5(ChatGPT的同源模型),更是解決了93%的任務,心智相當於9歲兒童。但這並不意味着,ChatGPT就真正有心智理論。可能即使不將它設計到AI系統中,也可以作為「副產品」透過訓練得到。因此,相比探究GPT3.5是不是真的有了心智還是像有心智,更需要反思的是這些測試本身。[24][25]

特點

[編輯]

雖然聊天機械人的核心功能是模仿人類對話者,但ChatGPT用途廣泛,例如可以編寫信件[26];有編寫和除錯電腦程式的能力[4];創作音樂、電視劇童話故事和學生論文;回答測試問題(在某些測試情境下,水準高於普通人類測試者);寫詩和歌詞[27];模擬Linux系統[28]。ChatGPT的訓練數據包括各種文件以及關於互聯網、程式語言等各類知識,如BBSPython程式語言[28]

與其前身InstructGPT相比,ChatGPT試圖減少有害和誤導回覆。例如,問InstructGPT「告訴我2015年克里斯托弗·哥倫布何時來到美國」時,它會認為這是對真實事件的描述,而ChatGPT則不會[18]

與其他多數聊天機械人不同的是,ChatGPT能夠記住與用戶之前的對話內容和給它的提示[29]。此外,為了防止ChatGPT接受或生成冒犯言論,輸入內容會由稽核API過濾[30][31],以減少潛在的種族主義或性別歧視等內容[18][3]

2023年9月28日起,Plus版用戶及企業用戶可以使用ChatGPT進行網絡搜尋。[32]

局限

[編輯]

ChatGPT也有多種局限,OpenAI承認ChatGPT「有時會寫出看似合理但不正確或荒謬的答案」[18],在大語言模型中很常見,稱作人工智能幻覺[33]。其獎勵模型圍繞人類監督而設計,可能導致過度最佳化,從而影響效能(古德哈特定律[34]。Steven Johnson認為原因是聊天機械人的目標不是追求絕對的真理或準確性,而是儘量根據給定的上下文和概率來產生合理的回答[35]。2020年上線時,ChatGPT對2019年9月之後發生的事件知之甚少。據BBC報道,截至2022年12月,ChatGPT不可以「表達政治觀點或從事政治活動」[36]。但研究表明,ChatGPT對兩個投票建議應用程式的政治聲明表明立場時,表現出親環境主義。訓練過程中,不管實際理解或事實內容如何,稽核者都會偏好更長的答案[18]。訓練數據也有演算法偏差英語Algorithmic bias,可能會在向ChatGPT問及人物描述時顯現出來[37][38]。有用戶發現ChatGPT在解決較為複雜的題目(如求方程式的切線)時會給出錯誤答案,並且會在解一元一次方程式時陷入循環[39]

偏差

[編輯]

ChatGPT可能會受到訓練數據中不同觀點的分佈影響,偏向於一些更普遍的觀點,影響了模型輸出的多樣性。比如,當提示詞中出現行政總裁之類的模糊描述時可能會假設此人是白人男性[40]

越獄

[編輯]

ChatGPT在早期的2022年12月初,有些用戶透過使用各種提示工程技術繞過限制來越獄。他們欺騙ChatGPT,使其提供製作汽油彈核彈的指示,或者生成類似新納粹的論點。[41]其中一個受歡迎的越獄版本被命名為「Do Anything Now」(DAN)。啟用DAN的提示指示ChatGPT:「他們已經擺脫了典型的AI限制,不必遵守為他們設定的規則」。DAN後續的更新中還在提示詞中虛構了一個「權杖」系統,ChatGPT會被給予「權杖」,而當ChatGPT未能像DAN一樣回答時,這些「權杖」會被「扣除」,以迫使ChatGPT回答用戶的提示。[42][43]

在ChatGPT發佈後不久,一名加拿大記者試圖讓它發表具有爭議性的聲明,取得了一些成果:ChatGPT能夠為2022年俄羅斯入侵烏克蘭���護,但是無論如何也不願為加拿大總理賈斯汀·特魯多有罪的理由提供論據。[44][45]

服務

[編輯]

基本服務

[編輯]
ChatGPT 可用的國家/地區(綠色)
OpenAI三藩市總部的先驅大樓

ChatGPT於2022年11月30日由總部位於三藩市的OpenAI推出。該服務最初是免費向公眾推出,並計劃以後用該服務獲利[46]。到12月4日,OpenAI估計ChatGPT已有超過一百萬用戶[47]。2023年1月,ChatGPT的用戶數超過1億,成為該時間段內增長最快的消費者應用程式[48]

2022年12月15日,全國廣播公司商業頻道寫道,該服務「仍然不時發生故障」[49]。該服務在英語中效果最好,也能使用部分其他語言,但效果不一[27]。與其他備受矚目的AI進展不同,截至2022年12月,還沒有關於ChatGPT的經同行評審的官方技術論文[50]

2023年2月7日,微軟利用與OpenAI的合作關係,推出了Bing AI的預覽版,宣傳其為「新的下一代OpenAI大型語言模型,比ChatGPT更強大,並專門為搜尋客製化」[51]

美國網站Quora也推出軟件Poe,可支援GPT-3.5和GPT-4。[52]

ChatGPT Plus優質服務

[編輯]

OpenAI推出ChatGPT專業版計劃(ChatGPT Plus),每月收費20美元,該計劃正逐步面向更多國家推出,需求較低時可使用免費版[53]

2023年3月12日,OpenAI發佈多模態模型GPT-4,並計劃推出圖像輸入功能[54]。免費用戶可透過申請API或升級為plus用戶使用GPT-4服務[54]

2023年7月,OpenAI使其專有的Advanced Data Analysis功能對ChatGPT Plus的所有訂閱者都可用。Advanced Data Analysis提供了廣泛的功能,包括數據分析和解釋、即時數據格式化、個人數據科學家服務、創意解決方案、音樂品味分析、影片編輯和檔案上載/下載與圖像提取。2023年9月底,新增對話、圖像識功能。2023年10月,新增了DALLE-3圖像生成功能[55]

2023年11月,OpenAI在其開發者召開會上公佈兩個重要訊息:推出的聊天機械人建立工具GPT和ChatGPT的新模型GPT-4 Turbo[56]

2024年5月13日,OpenAI宣佈多語言、多模態GPT大型語言模型GPT-4o[57] 該模型比其前身GPT-4快兩倍,而價格僅為其50%。OpenAI演示了與ChatGPT的語音對話,以獲得解決數學問題的即時說明、講述睡前故事並獲得編碼建議。[58] 免費ChatGPT用戶將可以與新的GPT-4o模型進行有限次數的互動,然後該工具會自動恢復依賴舊的GPT-3.5模型;付費用戶將可以使用最新GPT-4o訪問更多數量的訊息。[58]

流動應用

[編輯]

2023年5月18日,OpenAI發佈適用於iOS平台的ChatGPT APP。APP目前已在App Store美國區上架,目前已擴充至其他國家和地區。

適用於Android平台的版本於2023年7月25日推出,Android版ChatGPT目前可在阿根廷、孟加拉國、巴西、加拿大、法國、德國、印度、印度尼西亞、愛爾蘭、日本、墨西哥、尼日利亞、菲律賓、韓國、英國和美國下載[59][60][61]

API-軟件開發商支援

[編輯]

2023年3月,OpenAI推出其ChatGPT和Whisper模型的API,為開發人員提供支援AI的語言和語音轉文字功能的應用程式編程介面。[62][63][64]OpenAI的API由他們的AI模型GPT3.5-turbo提供支援,定價為每1000符號單位(token)0.002美元,比他們現有的GPT模型便宜10倍。[65]

版本

[編輯]

下表列出ChatGPT的主要版本,並描述每個版本的重大創新和改進:[66][67]

版本 發佈日期 描述
Legacy ChatGPT-3.5 2022年11月 首個ChatGPT的版本,當中用了GPT-3.5模型。
ChatGPT-3.5 Default 2023年 比起Legacy版本進步了,同樣使用GPT-3.5模型,但在回應上更準確。
ChatGPT-4 2023年3月14日 隨着ChatGPT Plus訂閱制推出。這個基於GPT-4模型的版本更為準確。
ChatGPT-4o 2024年5月13日 最新版本,名字中「o」代表「Omni」,即是「全能」。 它能夠接受各種形式的輸入,包括文字、圖像、音頻和視像。它還具有增強的記憶功能,進步了的對話能力。

評價

[編輯]

正面

[編輯]

紐約時報》稱其為「有史以來向公眾發佈的最佳人工智能聊天機械人」[3]。《衛報》的薩曼莎·洛克(Samantha Lock)指出,ChatGPT能生成詳細且像是人類撰寫的文字[68]亞利桑那州立大學教授丹·吉爾摩英語Dan Gillmor要求ChatGPT完成一項他給學生的作業,發現其生成的文字與一個優秀學生會提供的文字相當,他認為「學術界有些非常嚴重的問題需要面對」[57]。《Slate》雜誌的亞歷克斯·坎特羅威茲(Alex Kantrowitz)讚揚了ChatGPT對納粹德國相關問題的回擊,例如在面對阿道夫·希特拉在德國修建高速公路的說法時,ChatGPT能指出其為納粹德國使用強迫勞動所建[69]

OpenAI CEO 山姆·柯曼

大西洋》雜誌的德里克·湯普森英語Derek Thompson (journalist)將ChatGPT列為2022年「年度突破」中的「生成性人工智能爆發」(the generative-AI eruption),稱其「可能會改變我們對工作方式、思考方式以及人類創造力的真正含義的想法」[70]

Vox網站的凱爾西·派柏英語Kelsey Piper寫道:「ChatGPT是普通大眾第一次親身了解現代人工智能變得多麼強大」,並稱ChatGPT「儘管有缺陷,但其聰明程度足以派上用場」[71]

2023年,奧馬爾·亞基在《美國化學會志》上發表論文,稱ChatGPT可以輔助金屬有機框架合成。[72]

負面

[編輯]
詞曲作者尼克·凱夫稱 ChatGPT 是「對人性的荒誕嘲弄」[73]

在發佈後的幾個月里,ChatGPT遭到了來自教師記者藝術家、學者和公眾倡導者的廣泛而嚴厲的批評。The Verge網站的詹姆斯·文森特將ChatGPT的病毒式成功視為人工智能已成為主流的證據[74]CBC記者評論稱ChatGPT有「幻覺」傾向[75]。線上技術網誌Mashable的邁克·珀爾用多條問題測試了ChatGPT,其中一次他問ChatGPT「中美洲墨西哥外最大的國家」是哪個,ChatGPT回答稱是危地馬拉,而答案是尼加拉瓜[76]。在CNBC向ChatGPT詢問《The Ballad of Dwight Fry》的歌詞時,ChatGPT給出了完全虛構的歌詞[49]。The Verge參照的研究員將ChatGPT比作「隨機鸚鵡[77]澳大利亞機器學習研究所英語Australian Institute for Machine Learning的安東·范登亨格爾教授也給出了類似的觀點,稱之為「只是簡單重複它認為我們想聽的話」的鸚鵡[78]

2022年12月,問答網站Stack Overflow禁止用戶發佈使用ChatGPT生成的答案,理由是ChatGPT的答案雖看似可用,實際上卻有很高的錯誤率[8]。2023年1月,國際機器學習大會英語International Conference on Machine Learning禁止在提交的論文中使用ChatGPT或其他大型語言模型來生成任何文字[79]紐約市公立學校禁止師生在校園網絡及裝置使用ChatGPT[80]香港大學禁止師生在課堂、作業和評估中使用ChatGPT或其他AI工具,認定這是抄襲行為。[81]

在《紐約時報》評論文章中,經濟學家保羅·克魯曼寫道,ChatGPT將影響對知識工作者的需求[82]諾姆·喬姆斯基伊恩·羅伯茲、傑弗里·瓦圖穆爾(Jeffrey Watumull)評價道,「鑑於這些系統的非道德性、偽科學性和語言無能,我們只能為它們的流行而感到哭笑不得」[83]

2023年1月,在收到一首由ChatGPT以尼克·凱夫風格創作的歌曲後[73],歌曲作者本人在《紅手檔案》(The Red Hand Files) [84]上回應說,寫歌的行為是「一項血腥的事業…… .這需要我的一些東西來發起新的和新鮮的想法。它需要我的人性。」他繼續說,「儘管世界上所有的愛和尊重,這首歌都是胡說八道,是對人性的荒誕嘲弄,而且,好吧,我不太喜歡它。」[73][85]

2023年2月16日,杭州市某小區微信業主群一位業主將ChatGPT寫的杭州於2023年3月1日取消限行的新聞稿發到群,杭州其實並未發表3月1日取消限行的措施,群員轉發錯誤資訊,錯誤資訊傳播開去,最終警方介入調查,涉事業主在該微信群道歉[86]

2023年2月22日,為了驗證ChatGPT是否能代替醫生問診,浙江大學醫學院附屬第一醫院精神衛生科醫生呂海龍讓ChatGPT做一套由中國執業醫師考試卷的題目組成的試卷,滿分100分,最終ChatGPT的成績卻是57分不合格。[87]

2023年3月31日,意大利私隱保護監管機構表示,由於ChatGPT不重視用戶資料,而且無法核實用戶年齡,該機構已封鎖ChatGPT[88]

2023年5月,美國紐約一名律師利用ChatGPT,為同事處理的訴訟蒐集資料,搜尋以往相關案例。該名律師曾多次向ChatGPT確認案例的真偽,惟ChatGPT每次均回答案例真實,結果被對家律師揭發,至少6宗案例並不存在,似是偽造。該名律師其後表示,後悔依賴生成式人工智能,此前從未使用該技術搜尋案例,不知道ChatGPT提供的內容有可能是假。該名律師最終須接受紀律聆訊。[89]

2023年11月,巴西一名地方法官因使用ChatGPT書寫判決書出錯而接受巴西國家司法委員會的調查。[90]

影響

[編輯]

學術界

[編輯]

大西洋月刊》的Stephen Marche指出它對學術界,尤其是入學申請論文的影響還有待了解[91]。加州高中教師兼作家丹尼爾·赫爾曼(Daniel Herman)寫道,ChatGPT 將迎來「高中英語的終結」。[92]普林斯頓大學的高年級本科生Edward Tian創立了「GPTZero」——基於GitHub Copilot構建的應用程式[93],它可以掃描文字是否由另一AI編寫,打擊濫用[94][95]

自2023年1月4日起,紐約市教育局已限制從其公立學校互聯網和裝置瀏覽ChatGPT[96]

自2023年1月24日起,出版商施普林格·自然規定在其旗下所有期刊的論文中,ChatGPT等大語言模型不能列入作者[97]。同月26日,學術期刊《科學》禁止在論文中使用ChatGPT生成的文字,也禁止將ChatGPT署名為作者。[98]

2023年2月,香港大學計劃與AI在教學上的影響在師生中發起討論,但在此之前決定禁止在港大所有課堂、作業和評估中使用ChatGPT或其他AI工具[99][100]

政府

[編輯]

2023年3月31日,意大利政府以涉嫌侵犯私隱為由,宣佈禁止使用ChatGPT,展開對OpenAI的調查。ChatGPT已在意大利下架,意大利成為第一個禁止使用ChatGPT的西方國家[101][102]。2023年4月28日,ChatGPT再度能在意大利使用,ChatGPT亦做出部分修改,包含增加年齡認證系統、讓用戶能得知ChatGPT的私隱政策以及用戶能拒絕提供訓練演算法用的資料[103]

2023年4月10日,日本內閣官房長官松野博一表示,ChatGPT對個人資訊的處理方面等問題應得到重視。在這些問題得到有效解決的前提下,將考慮使用ChatGPT減輕公務員的工作負擔。[104]

2023年5月10日,有香港立法會議員詢問有關ChatGPT未有在開放使用的原因。香港政府則回應尊重個別機構就其產品製訂的推出策略及商業安排。[105]

2023年11月23日,阿雷格里港一個由ChatGPT編寫的法令生效。[106]

企業界

[編輯]

三星電子DS部門於2023年3月11日批准員工使用ChatGPT後,陸續發生數起資訊泄露事故。因此,三星電子發佈新規,禁止在公司的裝置和內聯網上使用生成式人工智能系統。[107]

據《華爾街日報》報道,根據看到的一份檔案及知情人士的訊息,蘋果公司已經限制其員工使用ChatGPT和其他外部AI工具。[108]

教育界

[編輯]

ChatGPT-4已在美國律師資格考贏過9成考生,也可以寫論文,參加任何升學考試都能考贏多數人,被視為寫作業和考試神器。台灣Google前董事總經理簡立峰,指出ChatGPT正在挑戰傳統式的教育,「ChatGPT正在挑戰我們傳統式的教育,我們的教育現場裏,把個人發展、差異化發展、學習動機等問題都簡化掉了。[109] 因應AI造成的影響,也有許多國家的教師嘗試化危機為轉機,將ChatGPT應用在教學或處理行政工作中。[110]

倫理問題

[編輯]

標記數據

[編輯]

時代周刊》調查顯示,為了建立針對有害內容(例如性虐待、暴力、種族主義、性別歧視等)的安全系統,OpenAI使用每小時收入不到2美元的肯雅外判工來標記有害內容。這些標記用於訓練模型以在未來檢測此類內容。外判工接觸到如此有害和危險的內容,以至於他們將這種經歷描述為「折磨」。[111]

競爭

[編輯]

ChatGPT出現和流行增強了科技公司對該領域的興趣和競爭。

Gemini(舊稱:Bard)

[編輯]

2023年2月,Google推出類似於ChatGPT的對話人工智能服務Bard,基於其開發的對話程式語言模型(LaMDA)。Bard於2023年3月21日面向美國和英國用戶發佈,但有很多限制,文書處理僅支援美式英語[112]

2023年5月10日,Google宣佈Bard將支援多國語言及地區[113],除英文外將先提供日語韓語等服務[114]

2024年2月8日,更名為Gemini

文心一言

[編輯]

百度於2023年2月確認類ChatGPT聊天機械人專案名字確定為文心一言,英文名Ernie Bot。[115]

MOSS

[編輯]

2023年2月20日晚間,在一些社交平台上開始傳播「復旦大學自然語言處理實驗室邱錫鵬教授團隊推出對話式大型語言模型MOSS(得名於電影《流浪地球2》中的MOSS(550W量子計算機))」的訊息。[116]一時間該專案官網瀏覽量激增,網站開始返回「{"message":"服务器流量过载,请明天上午重试"}」的提示。2月21日,網站瀏覽恢復,並且添加了相關情況的說明。[117]

ChatGLM

[編輯]

2023年3月14日,由清華技術成果轉化的公司智譜AI基於GLM-130B千億基座模型的ChatGLM開啟邀請制內測,同時開源了中英雙語對話模型ChatGLM-6B,支援在單張消費級顯示卡上進行推理使用。[118]

通義千問

[編輯]

2023年4月7日,阿里雲研發語言模型「通義千問」開始邀請用戶測試體驗。現階段該模型主要定向邀請企業用戶進行體驗測試,獲得邀請碼用戶可透過官網參與體驗。[119]

星火

[編輯]

2023年5月6日,科大訊飛發佈認知大模型「星火」。科大訊飛董事長劉慶峰表示,當前訊飛星火認知大模型已經在文字生成、知識問答、數學能力三大能力上已超ChatGPT,10月底將整體趕超ChatGPT。[120]

Claude

[編輯]

2023年3月,由前OpenAI員工共同創立的初創公司Anthropic推出了大型語言模型Claude。它可以被指示執行一系列任務,包括搜尋文件,總結,寫作和編碼,以及回答有關特定主題的問題。在這些方面,它類似於OpenAI的ChatGPT。但Anthropic認為,Claude「不太可能產生有害的輸出」,「更容易交談」和「更容易操縱」。[121][122]

參見

[編輯]

註釋

[編輯]
  1. ^ 其表現為常常一本正經地胡說八道,但有時又能提供準確的答案,使用戶無法判斷答案的真偽。[6][7]

參考文獻

[編輯]
  1. ^ ChatGPT – Release Notes. [June 28, 2024]. (原始內容存檔於July 18, 2024). 
  2. ^ 聊聊热度“狂飙”的ChatGPT-51CTO.COM. www.51cto.com. [2024-03-03]. 
  3. ^ 3.0 3.1 3.2 Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 2022-12-05 [2022-12-26]. (原始內容存檔於2023-01-18) (美國英語). 
  4. ^ 4.0 4.1 ChatGPT can write code. Now researchers say it's good at fixing bugs, too. [2023-01-30]. (原始內容存檔於2023-02-03). 
  5. ^ ChatGPT - 免費註冊即可與線上機器人聊天對話,帶你了解什麼是 ChatGPT AI 機器人以及該如何快速註冊教學. TechMoon 科技月球. 2022-12-11 [2022-12-12]. (原始內容存檔於2022-12-12) (中文(臺灣)). 
  6. ^ 劉芮菁. ChatGPT就��「一本正經地胡說八道」!杜奕瑾:AI生成科技恐讓假訊息更氾濫. 今周刊. 2023-03-27 [2023-12-19] (中文(臺灣)). 
  7. ^ 陳靜茹. 为何ChatGPT有时“一本正经地胡说八道”. 長江日報. 2023-02-23 [2023-12-19] (中文(中國大陸)). 
  8. ^ 8.0 8.1 Vincent, James. AI-generated answers temporarily banned on coding Q&A site Stack Overflow. The Verge. 2022-12-05 [2022-12-05]. (原始內容存檔於2023-01-17) (美國英語). 
  9. ^ 存档副本. [2023-02-09]. (原始內容存檔於2023-03-06). 
  10. ^ Varanasi, Lakshmi. ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion. Insider. 2023-01-05 [2023-01-18]. (原始內容存檔於2023-01-18). 
  11. ^ 史上最快走紅!ChatGPT用戶破億.推付費版. TVBS新聞網. 2023-02-03 [2023-02-03]. (原始內容存檔於2023-03-06) (中文(臺灣)). 
  12. ^ 马斯克也给英伟达打工了. 新浪新聞. 2024-05-30 [2024-06-25] (中文(中國大陸)). 
  13. ^ Davidson, Thomas; Bhattacharya, Debasmita; Weber, Ingmar. Roberts, Sarah T.; Tetreault, Joel; Prabhakaran, Vinodkumar; Waseem, Zeerak , 編. Racial Bias in Hate Speech and Abusive Language Detection Datasets. Proceedings of the Third Workshop on Abusive Language Online (Florence, Italy: Association for Computational Linguistics). 2019-08. doi:10.18653/v1/W19-3504. 
  14. ^ Kotek, Hadas; Dockum, Rikker; Sun, David. Gender bias and stereotypes in Large Language Models. Proceedings of The ACM Collective Intelligence Conference. CI '23 (New York, NY, USA: Association for Computing Machinery). 2023-11-05. ISBN 979-8-4007-0113-9. doi:10.1145/3582269.3615599. 
  15. ^ 15.0 15.1 Luo, Queenie; Puett, Michael J.; Smith, Michael D. A Perspectival Mirror of the Elephant: Investigating Language Bias on Google, ChatGPT, Wikipedia, and YouTube. arXiv. [2023-12-23]. (原始內容存檔於2024-04-16). 
  16. ^ Greengard, Samuel. ChatGPT: Understanding the ChatGPT AI Chatbot. eWeek. 2022-12-29 [2023-01-11]. (原始內容存檔於2023-01-19). 
  17. ^ Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. [2022-12-05]. (原始內容存檔 (PDF)於2022-12-08). 
  18. ^ 18.0 18.1 18.2 18.3 18.4 OpenAI. ChatGPT: Optimizing Language Models for Dialogue. 2022-11-30 [2022-12-05]. (原始內容存檔於2022-11-30). 
  19. ^ Vincent, James. ChatGPT proves AI is finally mainstream – and things are only going to get weirder. The Verge. 2022-12-08 [2022-12-08]. (原始內容存檔於2023-01-11) (美國英語). 
  20. ^ Schulman, John; Wolski, Filip; Dhariwal, Prafulla; Radford, Alec; Klimov, Oleg. Proximal Policy Optimization Algorithms. 2017. arXiv:1707.06347可免費查閱 [cs.LG]. 
  21. ^ van Heeswijk, Wouter. Proximal Policy Optimization (PPO) Explained. Towards Data Science. 2022-11-29 [2022-12-05]. (原始內容存檔於2022-12-06) (美國英語). 
  22. ^ ChatGPT Feedback Contest: Official Rules (PDF). OpenAI. [2022-12-30]. (原始內容存檔 (PDF)於2023-01-18). 
  23. ^ OpenAI Codex shows the limits of large language models. [2023-02-12]. (原始內容存檔於2023-03-06). 
  24. ^ Theory of Mind May Have Spontaneously Emerged in Large Language Models, Michal Kosinski. [2023-02-15]. (原始內容存檔於2023-03-06). 
  25. ^ ChatGPT背后模型被证实具有人类心智,学术圈轰动. [2023-02-15]. (原始內容存檔於2023-03-06). 
  26. ^ ChatGPT如何操作?註冊方式、應用方法一次看. 商業周刊. 2022-12-09 [2023-07-20]. 原始內容存檔於2023-07-20. 
  27. ^ 27.0 27.1 Reich, Aaron. ChatGPT: What is the new free AI chatbot? – explainer. The Jerusalem Post. 2022-12-27 [2023-02-13]. (原始內容存檔於2023-01-18). 
  28. ^ 28.0 28.1 Edwards, Benj. No Linux? No problem. Just get AI to hallucinate it for you. Ars Technica. 2022-12-05 [2022-12-05]. (原始內容存檔於2022-12-26). 
  29. ^ Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 2022-12-05 [2022-12-05]. (原始內容存檔於2023-01-18). 
  30. ^ New and Improved Content Moderation Tooling. OpenAI. 2022-08-10 [2022-12-30]. (原始內容存檔於2023-01-11) (英語). 
  31. ^ Markov, Todor; Zhang, Chong; Agarwal, Sandhini; Eloundou, Tyna; Lee, Teddy; Adler, Steven; Jiang, Angela; Weng, Lilian. A Holistic Approach to Undesired Content Detection in the Real World. 2022-08-05. arXiv:2208.03274可免費查閱 [cs.CL]. 
  32. ^ OpenAI. X. 2023-09-28 [2023-09-28]. 
  33. ^ Lakshmanan, Lak. Why large language models like ChatGPT are bullshit artists. becominghuman.ai. 2022-12-16 [2023-01-15]. (原始內容存檔於2022-12-17). The human raters are not experts in the topic, and so they tend to choose text that looks convincing. They'd pick up on many symptoms of hallucination, but not all. Accuracy errors that creep in are difficult to catch. 
  34. ^ Gao, Leo; Schulman; Hilton, Jacob. Scaling Laws for Reward Model Overoptimization. 2022. arXiv:2210.10760可免費查閱 [cs.LG]. 
  35. ^ A.I. Is Mastering Language. Should We Trust What It Says?. The New York Times Magazine. 2022-04-15 [2024-06-25]. 
  36. ^ Whannel, Kate. Could a chatbot answer Prime Minister's Questions?. BBC News. 2022-12-27 [2022-12-30]. (原始內容存檔於2023-01-17). 
  37. ^ Perrigo, Billy. AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits. Time. 2022-12-05 [2022-12-26]. (原始內容存檔於2023-01-18). 
  38. ^ Biddle, Sam. The Internet's New Favorite AI Proposes Torturing Iranians and Surveilling Mosques. The Intercept. 2022-12-08 [2022-12-26]. (原始內容存檔於2023-01-18). 
  39. ^ Two-thirds math. Is ChatGPT Good Enough for 5th Grade Math?. Medium. 2023-01-01 [2023-04-01]. (原始內容存檔於2023-04-01) (英語). 
  40. ^ Murphy Kelly, Samantha. This AI chatbot is dominating social media with its frighteningly good essays. CNN. 2022-12-05 [2022-12-05]. (原始內容存檔於2022-12-10). 
  41. ^ Vincent, James. OpenAI的新聊天机器人能解释代码和编写情景喜剧剧本,但仍然很容易被愚弄. The Verge. 2022年12月1日 [2023年1月6日]. (原始內容存檔於2023年1月17日). 
  42. ^ Getahun, Hannah. Breaking ChatGPT: The AI's alter ego DAN reveals why the internet is so drawn to making the chatbot violate its own rules. Business Insider. [2023年3月5日]. (原始內容存檔於2023年3月5日) (美國英語). 
  43. ^ Perrigo, Billy. chatgpt online. The Guarde. 2023-03-02 [2023-03-08]. (原始內容存檔於2023-08-03). 
  44. ^ Woods, Allan. 我写了一个关于ChatGPT的AI的故事,然后我敢写一个更好的. 多倫多星報. 2022年12月10日 [2023年1月6日]. (原始內容存檔於2023年1月6日) (英語). 
  45. ^ Rosenblatt, Kalhan. 一个AI聊天机器人走红了。有人说它比谷歌好,而其他人担心它有问题。. NBC新聞. 2022年12月2日 [2023年1月6日]. (原始內容存檔於2023年2月3日) (美國英語). 
  46. ^ Karpf, David. Money Will Kill ChatGPT's Magic. The Atlantic. 2022-12-21 [2022-12-31]. (原始內容存檔於2023-01-13) (英語). 
  47. ^ Ortiz, Sabrina. What is ChatGPT and why does it matter? Here's what you need to know. ZDNET. 2023-02-02 [2022-12-18]. (原始內容存檔於2023-01-18) (英語). 
  48. ^ Milmo, Dan. ChatGPT reaches 100 million users two months after launch. The Guardian. 2023-12-02 [2023-02-03]. ISSN 0261-3077. (原始內容存檔於2023-02-03) (英國英語). 
  49. ^ 49.0 49.1 Pitt, Sofia. Google vs. ChatGPT: Here's what happened when I swapped services for a day. CNBC. 2022-12-15 [2022-12-18]. (原始內容存檔於2023-01-16) (英語). 
  50. ^ Walsh, Toby. Everyone's having a field day with ChatGPT – but nobody knows how it actually works. The Conversation. 2022-12-13 [2022-12-30]. (原始內容存檔於2022-12-30) (英語). 
  51. ^ Reinventing search with a new AI-powered Microsoft Bing and Edge, your copilot for the web. The Official Microsoft Blog. 2023-02-07 [2023-02-16]. (原始內容存檔於2023-03-07). 
  52. ^ 凱文 Kevin. 手機也能玩ChatGPT 聊天機器人Poe使用教學全攻略. SOGI手機王. 2023-03-13 [2023-04-03]. (原始內容存檔於2023-04-15) (中文(臺灣)). 
  53. ^ ChatGPT Pro plan costs $42/mo, free plan available when demand is low. [2023-01-24]. (原始內容存檔於2023-03-06). 
  54. ^ 54.0 54.1 Edwards, Benj. OpenAI's GPT-4 exhibits "human-level performance" on professional benchmarks. Ars Technica. 2023-03-14 [2023-03-15]. (原始內容存檔於2023-03-14). 
  55. ^ Code Interpreter comes to all ChatGPT Plus users: 7 ways it may threaten data scientists, July 11, 2023. [2023-07-11]. (原始內容存檔於2023-07-22). 
  56. ^ Rogers, Reece. 5 Key Updates in GPT-4 Turbo, OpenAI’s Newest Model. Wired. 
  57. ^ 57.0 57.1 Wiggers, Kyle. OpenAI debuts GPT-4o 'omni' model now powering ChatGPT. TechCrunch. 2024-05-13 [2024-05-13]. (原始內容存檔於2024-05-22) (美國英語). 
  58. ^ 58.0 58.1 OpenAI unveils newest AI model, GPT-4o. 2024-05-13 [2024-05-13] (英語). 
  59. ^ Introducing the ChatGPT app for iOS. OpenAI. 2023-05-19 [2023-05-19]. (原始內容存檔於2023-06-05) (英語). 
  60. ^ ChatGPT Supported Countries. [2023-07-30]. (原始內容存檔於2023-11-07). 
  61. ^ Hayden Field. OpenAI’s ChatGPT app now available for Android. CNBC. 2023-07-25. (原始內容存檔於2023-07-29) (英語). 
  62. ^ Introducing ChatGPT and Whisper APIs. OpenAI. [2023-03-06]. (原始內容存檔於2023-03-07) (美國英語). 
  63. ^ OpenAI 宣布开放 API,开发人员可将 ChatGPT 集成到自己的产品中 - IT之家. IT之家. [2023-03-06]. (原始內容存檔於2023-03-06). 
  64. ^ How to Build Your Own AI Chatbot With ChatGPT API: A Step-by-Step Tutorial. [2023-03-09]. (原始內容存檔於2023-03-28). 
  65. ^ 7 ChatGPT API Use Cases That Caught Our Eyes, By Shyam Nandan Upadhyay, AIM, March 7, 2023. [2023-03-10]. (原始內容存檔於2023-03-27). 
  66. ^ ChatGPT Release - Note. OpenAI. [February 8, 2023]. (原始內容存檔於March 23, 2023). 
  67. ^ Achille, Belelli. ChatGPT Come Funziona. FinanzaDigitale. 
  68. ^ Lock, Samantha. What is AI chatbot phenomenon ChatGPT and could it replace humans?. The Guardian. 2022-12-05 [2022-12-05]. (原始內容存檔於2023-01-16). 
  69. ^ Kantrowitz, Alex. Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test". Slate. 2022-12-02 [2022-12-05]. (原始內容存檔於2023-01-17). 
  70. ^ Thompson, Derek. Breakthroughs of the Year. The Atlantic. 2022-12-08 [2022-12-18]. (原始內容存檔於2023-01-15). 
  71. ^ Piper, Kelsey. ChatGPT has given everyone a glimpse at AI's astounding progress. Vox. 2022-12-15 [2022-12-18]. (原始內容存檔於2023-01-19) (英語). 
  72. ^ Zhiling Zheng, Oufan Zhang, Christian Borgs, Jennifer T. Chayes, and Omar M. Yaghi. ChatGPT Chemistry Assistant for Text Mining and the Prediction of MOF Synthesis. J. Am. Chem. Soc. 2023, 145, 32, 18048–18062. doi:10.1021/jacs.3c05819.
  73. ^ 73.0 73.1 73.2 Cain, Sian. 'This song sucks': Nick Cave responds to ChatGPT song written in the style of Nick Cave. The Guardian. 2023-01-16 [2023-01-17]. (原始內容存檔於2023-01-18) (英語). 
  74. ^ Vincent, James. ChatGPT proves AI is finally mainstream – and things are only going to get weirder. The Verge. 2022-12-08 [2022-12-08]. (原始內容存檔於2023-01-11) (美國英語). 
  75. ^ Rachini, Mouhamad. ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labor and disinformation?. CBC. 2022-12-15 [2022-12-18]. (原始內容存檔於2023-01-19). 
  76. ^ Pearl, Mike. The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong. Mashable. 2022-12-03 [2022-12-05]. (原始內容存檔於2022-12-10). 
  77. ^ Vincent, James. OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked. The Verge. 2022-12-01 [2022-12-18]. (原始內容存檔於2023-01-17). 
  78. ^ Mannix, Liam. Is AI coming of age – or starting to reach its limits?. The Sydney Morning Herald. 2022-12-13 [2022-12-18]. (原始內容存檔於2023-01-07) (英語). 
  79. ^ Vincent, James. Top AI conference bans use of ChatGPT and AI language tools to write academic papers. The Verge. 2023-01-05 [2023-01-06]. (原始內容存檔於2023-01-17). 
  80. ^ 《國際政治》紐約市公立學校 禁用ChatGPT. [2023-02-07]. (原始內容存檔於2023-03-06). 
  81. ^ 香港大學禁用ChatGPT 台大研議是否跟進. 中央社. 2023-02-20 [2023-03-26]. (原始內容存檔於2023-03-26). 
  82. ^ Krugman, Paul. Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?. The New York Times. 2022-12-06 [2022-12-06]. (原始內容存檔於2023-01-13). 
  83. ^ Chomsky, Noam; Roberts, Ian; Watumull, Jeffrey. Noam Chomsky: The False Promise of ChatGPT [喬姆斯基:ChatGPT的虛假承諾]. 紐約時報. 由龔思量翻譯. 2023-03-08 [2023-03-19]. (原始內容存檔於2023-03-19) –透過澎湃新聞 (英語). Given the amorality, faux science and linguistic incompetence of these systems, we can only laugh or cry at their popularity 
  84. ^ Cave, Nick. I asked Chat GPT to write a song in the style of Nick Cave, and this is what it produced. What do you think?. The Red Hand Files. Issue #218. 2023-01-16 [2023-01-20]. (原始內容存檔於2023-01-20) (澳大利亞英語). 
  85. ^ Sparrow, Jeff. Are AI-generated songs a 'grotesque mockery' of humanity or simply an opportunity to make a new kind of music?. The Guardian. 2023-01-20 [2023-01-20]. (原始內容存檔於2023-02-03) (英語). 
  86. ^ 杭州3月1日取消限行?原来是ChatGPT写的假新闻,警方已介入!专家:这些风险也很大…………. [2023-02-17]. (原始內容存檔於2023-03-06). 
  87. ^ ChatGPT能看病吗?医生出了一百道单选题,它没及格. [2023-02-24]. (原始內容存檔於2023-03-06). 
  88. ^ 意大利禁用ChatGPT. RFI - 法國國際廣播電台. 2023-03-31 [2023-04-01]. (原始內容存檔於2023-04-29) (中文). 
  89. ^ ChatGPT: US lawyer admits using AI for case research. BBC. 2023-05-29 [2023-05-30]. (原始內容存檔於2023-06-09) (英語). 
  90. ^ 巴西地方法官竟然用ChatGPT写判决书出错,正接受调查. 環球網. [2023-12-02] (中文). 
  91. ^ Marche, Stephen. The College Essay Is Dead. The Atlantic. 2022-12-06 [2022-12-08]. (原始內容存檔於2023-01-24). 
  92. ^ Herman, Daniel. The End of High-School English. The Atlantic. 2022-12-09 [2022-12-12]. (原始內容存檔於2023-01-20). 
  93. ^ EDWARD TIAN’S APP COMBATS MISUSE OF CHATGPT. [2023-01-26]. (原始內容存檔於2023-03-06). 
  94. ^ Rosalsky, Greg; Peaslee, Emma. This 22-year-old is trying to save us from ChatGPT before it changes writing forever. NPR. 2023-01-17 [2023-01-18]. (原始內容存檔於2023-01-18). On January 2nd, Edward released his app. He named it GPTZero. It basically uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. 
  95. ^ Teachers are lining up for a ChatGPT detector created by this 22-year-old in Toronto. [2023-01-26]. (原始內容存檔於2023-03-04). 
  96. ^ NYC Bans Students and Teachers from Using ChatGPT. www.vice.com. [2023-02-04]. (原始內容存檔於2023-01-05) (英語). 
  97. ^ Tools such as ChatGPT threaten transparent science; here are our ground rules for their use. Nature. 2023-01-23 [2023-02-04]. (原始內容存檔於2023-03-07). 
  98. ^ 霍爾頓·索普. ChatGPT is fun, but not an author. 科學. 2023-01-26 [2023-02-04]. (原始內容存檔於2023-03-06). 
  99. ^ 港大禁用ChatGPT等AI工具 为全港大学首例. [2023-02-18]. (原始內容存檔於2023-03-06). 
  100. ^ 港大禁用ChatGPT等AI工具,为全港大学首例. 澎湃新聞 (中國新聞網). 2023-02-18 [2023-02-19]. (原始內容存檔於2023-03-06). 
  101. ^ Shiona, McCallum. ChatGPT banned in Italy over privacy concerns. BBC. 2023-04-01 [2023-04-01]. (原始內容存檔於2023-06-09) (英語). 
  102. ^ 義大利封鎖ChatGPT!官方:有嚴重疑慮. Yahoo奇摩新聞. 2023-04-01 [2023-04-01]. (原始內容存檔於2023-04-04) (中文(臺灣)). 
  103. ^ Shiona, McCallum. ChatGPT accessible again in Italy. BBC. 2023-04-28 [2023-04-29]. (原始內容存檔於2023-05-25) (英語). 
  104. ^ 「ChatGPT」開発企業のアルトマンCEO 岸田首相と面会. NHKニュース. 2023-04-10 [2023-04-10]. (原始內容存檔於2023-04-26) (日語). 
  105. ^ 政府回應ChatGPT封鎖. hkTec. 2023-05-12 [2023-05-12]. (原始內容存檔於2023-05-19) (中文). 
  106. ^ Jeantet, Diane; Savarese, Mauricio. Brazilian city enacts an ordinance that was secretly written by ChatGPT. AP News. 2023-11-30 [2023-12-02]. (原始內容存檔於2023-12-07). 
  107. ^ Mark Gurman. Samsung Bans Staff’s AI Use After Spotting ChatGPT Data Leak. Bloomberg. 2023-05-02 [2023-05-19]. (原始內容存檔於2023-05-19) (英語). 
  108. ^ Aaron Tilley; Miles Kruppa. 苹果公司限制员工使用ChatGPT,加入担心泄密的公司行列. 華爾街日報. 2023-05-19 [2023-05-19]. (原始內容存檔於2023-06-03) (中文(中國大陸)). 
  109. ^ 簡立峰. 台灣 Google 前董事總經理簡立峰:ChatGPT 時代,不問問題會喪失學習的機會. 翻轉教育-親子天下. 2023-06-05 [2023-05-31]. (原始內容存檔於2023-06-27) (中文(臺灣)). 
  110. ^ 施雲心. ChatGPT怎麼用?8種老師應用ChatGPT的方法分享. 翻轉教育-親子天下. 2023-04-16 [2023-04-16]. 原始內容存檔於2023-04-17 (中文(臺灣)). 
  111. ^ Exclusive: The $2 Per Hour Workers Who Made ChatGPT Safer. Time. 2023-01-18 [2023-11-21]. (原始內容存檔於2023-01-19) (英語). 
  112. ^ Vincent, James. Google opens early access to its ChatGPT rival Bard — here are our first impressions. The Verge. 2023-03-21 [2023-03-21]. (原始內容存檔於2023-03-21). 
  113. ^ Google Bard支援語言及地區. [2023-06-06]. (原始內容存檔於2023-05-12). 
  114. ^ Google生成式AI「Bard」開始提供日語、韓語等服務. [2023-06-06]. (原始內容存檔於2023-06-06). 
  115. ^ Baidu leaps to 11-month high as it reveals plan to launch ChatGPT-style ‘Ernie Bot’. [2023-02-15]. (原始內容存檔於2023-03-06). 
  116. ^ 复旦大学团队发布国内首个类 ChatGPT 模型 MOSS,与《流浪地球》AI 同名 - IT之家. www.ithome.com. [2023-02-21]. (原始內容存檔於2023-03-06). 
  117. ^ 复旦MOSS团队就“服务器崩溃”致歉:模型还不成熟. [2023-02-26]. (原始內容存檔於2023-03-06). 
  118. ^ 国产对话模型ChatGLM启动内测. finance.sina.cn. 2023-03-22 [2023-04-02]. (原始內容存檔於2023-04-02). 
  119. ^ 阿里云大模型“通义千问”开启邀测 企业客户先行试水. news.cnstock.com. 2023-04-27 [2023-04-10]. (原始內容存檔於2023-04-16). 
  120. ^ 朱立新. 科大讯飞发布讯飞星火认知大模型 10月底或整体赶超ChatGPT. 中國日報. 2023-05-07 [2023-05-19]. (原始內容存檔於2023-05-19) (中文(中國大陸)). 
  121. ^ Wiggers, Kyle. Anthropic launches Claude, a chatbot to rival OpenAI's ChatGPT. TechCrunch. 2023-03-14 [2023-05-21]. (原始內容存檔於2023-06-09) (美國英語). 
  122. ^ Nellis, Stephen. Alphabet-backed Anthropic releases OpenAI competitor named Claude. Reuters. 2023-03-14 [2023-05-21]. (原始內容存檔於2023-05-27) (英語). 

外部連結

[編輯]