关注智汇教育
风暴眼中的ChatGPT：几秒钟完成一篇学术论文！
编辑：关关时间：2023.02.16 浏览：1974
目前，人工智能聊天工具ChatGPT的功能正在被人们充分挖掘，学生是最早开始使用这一工具的群体之一，其引发的一些问题也引起了教育界的关注。
最初的访客是程序员、工程师、AI从业者，很快又多了鲨鱼般游弋的投资人。最后是无数懵懂又好奇的普通人：ChatGPT是什么？
ChatGPT是一款人工智能聊天程序，开发公司为OpenAI，公司创始人之一是马斯克。
ChatGPT是该公司落后一代的产品，去年11月底仓促推出，用于营销和打击竞争对手聊天类产品。未料到，亮相即封神。
有别于过往的聊天程序，ChatGPT并非根据提问搜索回答，而是通过自身数据库，自行理解后作答。
它的智力，诞生于此前3年100亿条句子的日夜训练。训练总文本超45TB。
与它的一问一答，已非提问和搜索，更像是一场跨物种的对话。
最初，人们询问的还是菜谱等攻略，感叹对答的丝滑，但很快，故事开始失控。
美国人工智能公司OpenAI的大语言模型ChatGPT在推出约两个月后，1月已达到1亿月活跃用户，成为历史上增长最快的消费者应用程序。相关专家预计，ChatGPT不仅是新一代聊天机器人的突破，也将为信息产业带来巨大变革，但由此带来的学术造假、技术滥用、舆论安全等风险亦不容忽视。
一篇结构完整的学术论文在几秒内就可以完成，你相信吗？
这是近期爆红的ChatGPT可实现的基本操作。自2022年末开始，ChatGPT这款自然语言生成模型便引发了广泛讨论，不仅由于其强大的功能，给当前多领域带来了更多发展可能性，还因为该模型带来的一系列技术伦理问题。
2023年1月，ChatGPT就以共同通讯作者的身份发表了一篇JCR分区Q1的论文（IF=3.430）。
此后，Nature、Science多个顶级刊物纷纷开始对ChatGPT出台使用限制措施。
Science近日发文，因为论文的原创性要求，禁止在投稿论文中使用ChatGPT生成的文本，明确此类内容属于抄袭，也不能将ChatGPT列为论文作者。
Nature也在其投稿指南中，加入了相关限制措施，主要有以下两点：
（1）任何大型语言模型工具（如ChatGPT）都不能成为论文作者；
（2）如在论文写作中用过相关工具，作者应在“方法”或“致谢”或适当的部分明确说明。
1月3日，纽约正式颁布了“ChatGPT禁令”，不管是老师还是学生，都无法在纽约市公立学校的网络和设备上使用ChatGPT。
同日，国际机器学习会议（ICML）发布2023论文征稿公告，会议要求所有研究者，包括审稿人，禁止使用大型语言模型（LLM）编写论文，如ChatGPT。
一系列“封杀”纷至沓来，这也在一定程度上证明了ChatGPT的强大。在知识门槛较高的高等教育行业，也被多场景广泛应用，甚至让科研工作者感到担忧，未来自己是否会被这个聊天机器人所取代。
将ChatGPT合理运用在正确场景，可能将提升科研工作者生产力。
ChatGPT可以快速检索某个特定领域的相关文献资料，或针对某个话题搜索相关的研究方向，这在所有论文的文献综述、研究者的科研方向探索层面会有一定助益。
在阅读文献过程中，可能遇到篇幅较长的内容，此时也可利用ChatGPT进行要点总结。
基于期刊发表语言要求，作者可能对于第二语言不熟悉，在论文撰写中出现部分语法错误，ChatGPT也可以帮助减少此类问题，优化文字表述。
ChatGPT的问世正在人工智能领域引发新一轮科技竞赛。北京时间2月8日凌晨，微软推出由ChatGPT支持的最新版本必应搜索引擎和Edge浏览器，宣布要“重塑搜索”。微软旗下Office、Azure云服务等所有产品都将全线整合ChatGPT。
北京时间2月7日凌晨，谷歌也发布了基于谷歌LaMDA大模型的下一代对话AI系统Bard。同一天，百度官宣正在研发的大模型类项目“文心一言”，计划在3月完成内测，随后对公众开放。阿里巴巴、京东等中国企业也表示正在或计划研发类似产品。
人工智能大模型领域的全球竞争已趋白热化。黄铁军认为，ChatGPT未来有望演变成新一代操作系统平台和生态。这种变革似移动互联网从个人电脑到手机的转化，大部分计算负荷将由大模型为核心的新一代信息基础设施接管。这一新范式将影响从应用到基础设施各层面，引发整个产业格局的巨变，大模型及其软硬件支撑系统的生态之争将成为未来十年信息产业焦点。
值得注意的是，ChatGPT有时会“一本正经地胡说八道”，存在事实性错误、知识盲区和常识偏差等诸多问题，还面临训练数据来源合规性、数据使用的偏见性、生成虚假信息、版权争议等人工智能通用风险。多家全球知名学术期刊为此更新编辑准则，包括任何大型语言模型工具都不会被接受为研究论文署名作者等。
“学术论文的署名作者须满足至少两个条件，其一是在论文工作中做出‘实质性贡献’，其二是能承担相关的责任。目前这两个条件ChatGPT（以及其他AI系统）都不满足。”陈小平说。
ChatGPT也有应用在舆论信息战方面的潜力。加拿大麦吉尔大学研究团队曾使用ChatGPT前代模型GPT-2阅读加拿大广播公司播发的约5000篇有关新冠疫情的文章，然后要求其生成关于这场危机的“反事实新闻”。连OpenAI也警告使用ChatGPT的用户，它“可能偶尔会生成不正确的信息”，“产生有害指令或有偏见的内容”。
“针对这些问题，需要我们在发展技术的同时，对于ChatGPT应用边界加以管控，建立起对人工智能生成内容的管理法规，对利用人工智能生成和传播不实不良内容进行规避。同时加强治理工具的开发，通过技术手段识别人工智能生成内容。这对于内容检测和作品确权，都是重要前提。”北京瑞莱智慧科技有限公司副总裁唐家渝说。
往期推荐:
