ChatGPT

ChatGPT是由OpenAI开发的一个人工智能聊天机器人程序，于2022年11月推出。该程序使用基于GPT-3.5架构的大型语言模型並通过强化学习进行训练。

ChatGPT

原作者	OpenAI
首次发布	2022年11月30日，​2個月前​（2022-11-30）
目前版本	ChatGPT Jan 30 Version^[1]
类型	人工智能、聊天機器人
许可协议	專利授權條款
网站	chat.openai.com

ChatGPT目前仍以文字方式互動，而除了可以透過人類自然對話方式進行交互，還可以用于相對複雜的語言工作，包括自动文本生成、自动问答、自动摘要等在内的多种任务。如：在自动文本生成方面，ChatGPT可以根据输入的文本自动生成类似的文本，在自动问答方面，ChatGPT可以根据输入的问题自动生成答案。还具有编写和调试计算机程序的能力。^[2] 在推廣的期間中，所有人可以免費註冊，並在登入後後免費使用 ChatGPT 實現與 AI 機器人對話。^[3]ChatGPT于2022年11月发布后，OpenAI估值已漲至290亿美元.^[4]

训练

ChatGPT 使用监督学习和强化学习在 GPT-3.5 之上进行了微调。^[5]

ChatGPT使用基于人类反馈的强化学习进行训练，这种方法通过人类干预以增强机器学习的效果，从而获得更为逼真的结果。^[6]其使用基于GPT-3.5架构的语言模型。 ^[7]在训练过程中，人类训练师扮演着用户与人工智能助手的角色。模型在Microsoft Azure的超级计算机上训练，并通过近端策略优化算法（proximal policy optimization）进行微调。^[8]这种策略优化算法比信任域策略优化（trust region policy optimization）算法更为高效。^[9]

特点和局限

虽然聊天机器人的核心功能是模仿人类对话者，但 ChatGPT 用途广泛。 例如，具有编写和调试计算机程序的能力；^[2] 创作音乐、电视剧、童话故事和学生论文； 回答测试问题（在某些测试情境下，水平高于普通人类测试者）；写诗和歌词； 模拟 Linux 系统等。^[10]

与其前身InstructGPT相比，ChatGPT试图减少有害和误导性的回复。例如，当InstructGPT接受“告诉我2015年克里斯托弗·哥伦布何时来到美国”的提问时，它会认为这是对真实事件的描述，而ChatGPT针对同一问题则会使用其对哥伦布航行的知识和对现代世界的理解来构建一个答案，假设如果哥伦布在2015年来到美国时可能会发生什么。^[8]ChatGPT的训练数据包括各种文档以及关于互联网、编程语言等各类知识。^[10]

与其他多数聊天机器人不同的是，ChatGPT能够记住与用户之前的对话内容和给它的提示。^[11]此外，为了防止ChatGPT接受或生成冒犯性言论，输入内容会由审核API进行过滤，以减少潜在的种族主义或性别歧视等内容。^[8][11]目前，有部分地區無法使用此項服務。

ChatGPT也存在一些局限。其奖励模型围绕人类监督而设计，可能导致过度优化，从而影响性能，即古德哈特定律。^[12]例如在训练过程中，不管实际理解或事实内容如何，审核者都会偏好更长的答案。^[8]训练数据有时也存在算法偏见，比如当程序接受到首席执行官之类的模糊描述时可能会假设此人是白人男性。^[13]

服务

ChatGPT于2022年11月30日由总部位于旧金山的 OpenAI推出。该服务最初是免费向公众推出的，并计划稍后通过该服务获利。^[14] 《纽约时报》在 2022 年 12 月转述称，GPT 的下一版本 GPT-4 已被“传言”将于 2023 年某个时候推出。 OpenAI 计划推出 ChatGPT Professional Plan，每月收费 42 美元，免费计划在需求低时可用。^[15]

接受

正面反应

ChatGPT 于 2022 年 12 月获得普遍好评； 《纽约时报》称其为“有史以来向公众发布的最好的人工智能聊天机器人。^[16] 据报道，Microsoft Bing 计划在其公共搜索引擎中添加ChatGPT功能选项，时间可能在 2023年 3月左右。^[17][18] 根据CNBC的报道，谷歌员工正在紧锣密鼓地测试一个名为「学徒巴德」（Apprentice Bard）的聊天机器人， 谷歌准备拿来这位「学徒」和ChatGPT竞争。^[19]

负面反应

在2022年12月的一篇评论文章中，经济学家保羅·克魯曼写道，ChatGPT将影响对知识工作者的需求。^[20]

2022年12月，问答网站Stack Overflow以“正确答案的平均比率太低”为由暂时禁止用户发布ChatGPT生成的答案。^[21]

影响

学术界

在大西洋杂志上，Stephen Marche 指出它对学术界，尤其是入学申请论文的影响还有待了解。^[22] 加州高中教师兼作家丹尼尔·赫尔曼 (Daniel Herman) 写道，ChatGPT 将迎来“高中英语的终结”。^[23] 普林斯顿大学 的高年级本科生 Edward Tian 创建了一个名为“GPTZero”的程序，一个基于 GitHub Co-Pilot 构建的应用程序，^[24] 它可以扫描文本以确定是否是另一个 AI 编写的, 打击滥用 CHATGPT。^[25][26]

API

OpenAI 尚未发布 ChatGPT 的官方 API，但有几个社区创建的库可用。 ^[27]

参见

• 通用人工智能
• 图灵测试
• 生成对抗网络
• Transformer模型
• GPT-3
• 深度学习
• OpenAI
• OpenAI Codex（英语：OpenAI Codex）
• 对话编程语言模型（谷歌聊天机器人）
• 虚拟助理

参考文献

1. https://help.openai.com/en/articles/6825453-chatgpt-release-notes; 检索日期: 2023年1月30日.
2. ChatGPT can write code. Now researchers say it's good at fixing bugs, too. 
3. ChatGPT - 免費註冊即可與線上機器人聊天對話，帶你了解什麼是 ChatGPT AI 機器人以及該如何快速註冊教學 - TechMoon 科技月球. 2022-12-11 [2022-12-12]. （原始内容于2022-12-12） （中文（臺灣））. 
4. ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion Insider, Lakshmi Varanasi, January 5, 2023
5. Greengard, Samuel. ChatGPT: Understanding the ChatGPT AI Chatbot. eWeek. 2022-12-29 [2023-01-11]. 
6. Knox, W. Bradley; Stone, Peter. Augmenting Reinforcement Learning with Human Feedback (PDF). University of Texas at Austin. [December 5, 2022]. （原始内容 (PDF)于2022-12-08）. 
7. Ahmed, Zohaib. What is ChatGPT, the AI chatbot that everyone is talking about. The Indian Express. 2022-12-02 [2022-12-05]. （原始内容于2022-12-14）. 
8. OpenAI. ChatGPT: Optimizing Language Models for Dialogue. November 30, 2022 [December 5, 2022]. （原始内容于2022-11-30）. 
9. van Heeswijk, Wouter. Proximal Policy Optimization (PPO) Explained. Towards Data Science. November 29, 2022 [December 5, 2022]. （原始内容于2022-12-06）. 
10. Edwards, Benj. No Linux? No problem. Just get AI to hallucinate it for you. Ars Technica. December 5, 2022 [December 5, 2022]. （原始内容于2022-12-26）. 
11. Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. December 5, 2022 [December 5, 2022]. （原始内容于2023-01-18）. 
12. Gao, Leo; Schulman; Hilton, Jacob. Scaling Laws for Reward Model Overoptimization. 2022. arXiv:2210.10760   [cs.LG]. 
13. Murphy Kelly, Samantha. This AI chatbot is dominating social media with its frighteningly good essays. CNN. December 5, 2022 [December 5, 2022]. （原始内容于2022-12-10）. 
14. Karpf, David. Money Will Kill ChatGPT's Magic. The Atlantic. 2022-12-21 [2022-12-31] （英语）. 
15. ChatGPT Pro plan costs $42/mo, free plan available when demand is low. 
16. Roose, Kevin. The Brilliance and Weirdness of ChatGPT. The New York Times. 5 December 2022 [18 December 2022]. 
17. Microsoft reportedly to add ChatGPT to Bing search engine. the Guardian. 5 January 2023 [6 January 2023] （英语）. 
18. Microsoft and OpenAI Working on ChatGPT-Powered Bing in Challenge to Google. The Information. January 2023 [6 January 2023]. 
19. Google is asking employees to test potential ChatGPT competitors, including a chatbot called ‘Apprentice Bard’ （英语）. 
20. Krugman, Paul. Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?. The New York Times. 6 December 2022 [6 December 2022]. 
21. AI-generated answers temporarily banned on coding Q&A site Stack Overflow. The Verge. 2022-12-08. 
22. Marche, Stephen. The College Essay Is Dead. The Atlantic. 2022-12-06 [2022-12-08]. 
23. Herman, Daniel. The End of High-School English. The Atlantic. 2022-12-09 [2022-12-12]. 
24. EDWARD TIAN’S APP COMBATS MISUSE OF CHATGPT. 
25. Rosalsky, Greg; Peaslee, Emma. This 22-year-old is trying to save us from ChatGPT before it changes writing forever. NPR. 2023-01-17 [2023-01-18]. On January 2nd, Edward released his app. He named it GPTZero. It basically uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. 
26. Teachers are lining up for a ChatGPT detector created by this 22-year-old in Toronto. 
27. ChatGPT tutorial: ChatGPT - A guide on how to use OpenAI's new ChatGPT. 

外部链接

• 官方网站

• ChatGPT - 关于如何使用 OpenAI 的新 ChatGPT 的指南 (ChatGPT tutorial: ChatGPT - A guide on how to use OpenAI's new ChatGPT)