ChatGPT在西南科技大学闲扯时三面楚歌

我看到了一篇有关ChatGPT的新闻。我很感兴趣,因为我也是一名人工智能爱好者。这篇文章介绍了ChatGPT在多个国家的社交媒体上“狂飙”,并成为史上增长最快的消费者应用程序之一。 其中介绍了彭敏教授和李祖超副研究员,他们都是武汉大学的人工智能专家。彭敏教授是人工智能系系主任、教授,而李祖超则是副研究员。 这篇文章还援引了长江日报记者陈静茹的话。似乎ChatGPT月活跃用户已成功突破亿的大关,这是一个巨大的成就。这篇文章还提到了清华大学人工智能国际治理研究院副院长、公共管理学院教授梁正,他也对ChatGPT的发展表示关注。感觉很有意思啊!我看到了一条关于ChatGPT的消息,说武汉大学的彭敏教授和李祖超副研究员做客长江日报《面谈》节目,和网友畅聊ChatGPT。据说,许多网友在线上观看了这次活动,达到了70万人次。 我们聊了一些话题,其中一个是ChatGPT的能力和应用。我问了ChatGPT能够做什么以及它的回答质量是否受到问题定义清晰程度的影响。我发现,ChatGPT的回答确实很具体,但它的质量确实取决于问题定义的清晰程度。 梁正教授是一名关注人工智能治理问题的科研工作者。他问了一些非常重要的问题,比如ChatGPT可能对人类造成什么影响,以及我们应该如何应对这种影响。.ChatGPT给出了一个非常全面的答案,令人印象深刻。 彭敏教授非常注重对话式人工智能的研究领域,所以他更关注在多意图多轮的对话中,ChatGPT的表现如何。他认为ChatGPT在这方面表现非常好。 最后,副研究员李祖超也发表了自己的看法,对ChatGPT的编写代码能力印象深刻,并表示ChatGPT在不同领域拥有广泛的应用前景。我通过与ChatGPT的聊天,发现它的回答质量与问题的清晰程度有着很大的关系。如果问题定义越清晰,那么ChatGPT给出的回答就越有根据、越具体。 我们曾经讨论过,是否把ChatGPT比作一个十四五岁的孩子。事实上,只要稍作调教,ChatGPT的回答风格就可以发生巨大的变化,远远高于十四五岁的孩子。从掌握知识深度来看,ChatGPT可以达到某些专业领域的初级到中级水平。 梁正教授认为,在一般的日常对话场景中,ChatGPT已经能够达到十四五岁的表达水平,甚至在一些领域中可以表现得像大学本科毕业生一样。比如说医师资格考试和大学入学考试,ChatGPT都可以完成。当然,在某些专用领域的表现会更好。 彭敏教授认为,我们不能笼统地评价ChatGPT的能力。它在很多领域中的表现非常卓越,这离不开它背后的技术、数据和知识支撑。但在某些领域,ChatGPT的知识储备可能会有所匮乏,表现就不如其他领域那么出色了。我同意李祖超副研究员的观点,将ChatGPT比作十四五岁孩子不是完全准确的。这需要从几个层面来看。 首先从语言表达能力来看,ChatGPT的回答确实有点像十四五岁孩子讲话的方式,但只是因为大多数用户采用随意闲聊的方式与它交互,并且ChatGPT的训练目的是作为助手。但是实际上,只要我们经过一些调教,ChatGPT的回答就可以发生巨大的变化,其表达能力远远高于一个十四五岁的孩子。 其次,从知识广度的角度来看,ChatGPT能够同时记忆各个行业的知识,如天文、地理、物理、化学、计算机等,而人类往往无法涵盖这么多领域。从掌握知识深度的角度看,ChatGPT应该相当于某个专业领域的初级到中级水平。这是ChatGPT能够超出人类表达能力的重要原因之一。 ChatGPT的本质是在模拟人类对话过程,它的模拟能力是通过一个神经网络大模型学习大规模训练语料学习出来的。其实现基于覆盖广泛的训练语料、算力、一些算法技巧和人工调优技巧等四个要素。ChatGPT在知识方面的上限取决于这些要素的质量和数量。我理解到,ChatGPT的能力来源是它的训练语料库。如果语料库中没有相关知识,那么ChatGPT将无法回答相应问题。与此同时,如果训练语料库中的知识是错误的,那么ChatGPT的回答也会是错误的。除此之外,ChatGPT在计算方面的能力比十四五岁的孩子弱一些,大约相当于六七岁的孩子,这也是ChatGPT未来进一步提升的方向之一。 我了解到,我们是可以对ChatGPT进行调教的。无论你的性格是怎样的,你说话的方式是怎样的,都可以通过调教让ChatGPT的回答按照你的风格进行生成。不论是软萌可爱的表现,还是严厉的老师或老板,ChatGPT都可以生成符合要求的回答。 关于职业替代问题,这是人工智能发展的一个存在的问题。随着ChatGPT能力越来越强,能够处理的情况越来越多,它有可能取代一些特定领域的人类职业。然而,目前来看人工智能仍然无法完全替代人类,它仍需要人类的指导和使用。在我看来,ChatGPT在帮助我们方面的潜力是巨大的。但“替代”仅是把人类不愿意做的或者人类感到繁琐辛苦的任务去执行,我不认为它能替代人类在创意和创造性工作方面的部分。这也包括我们在科学研究和学术研究中所需的工作。 我了解到,某些工作是无法被替代的。这包括那些需要人类创造性智慧去进行指导的工作,哪怕是在我们进行了搜索或生成的基础上。另外,虽然 ChatGPT 在某些领域提高了生产效率,但这并不代表 ChatGPT 会取代某些工作,而这种产品的研发初衷正是为了替代那些重复性工作,从而让人类有时间和精力去从事他们自己擅长的创新性工作,享受生活更好。 人工智能在职业替代方面一直存在,这一趋势也包括 2015 年美联社使用机器人写作,年报道量超过15亿条,涉及金融、房地产、体育等领域。此外,空中客车公司正在使用人工智能进行机械装配,提高了效率并取得了成功。但在实践中,我们发现人工智能还无法完全取代人类,只有在某些特定环节才能发挥最大的作用。因此人工智能与人类密切合作共同推进科技发展是一个更好的选择。我认为,人工智能的发展正在引发职业形式的变化。比如说,现在我们可以使用人工智能而不是人类工程师来设计飞机,制药公司也可以使用人工智能进行药物开发,提高了工作效率和任务完成质量。甚至连拍电影这些创造性的工作,我们都可以依靠人工智能来完成。科幻短片《走神》就是一个很好的例子,这部影片的剧本、导演、表演、配乐等都是由人工智能完成的,仅用了2天时间。而能力更强更通用的ChatGPT,将进一步加速职业形式的变化过程。 这样的人工智能意味着什么呢?我认为,我们每个人都应该去使用并探索如何更好地与它合作,充分利用它的优势。它不仅影响产业,还将对社会、教育、人际交往产生深刻的变化,引发整个分工关系和人际关系的变化。 我认为,从信息的处理、内容的生成方面来看,ChatGPT的效率和质量都取得了巨大的飞跃,这是一个非常积极的进展。因此,它为我们提供了更好的选择和机会。但是,我们也不应该过度神化它,在某些问题上,比如推理能力、线性思考等方面,人类仍然有着不可替代的优势。因此,我们应该与人工智能共同合作,推动科技的发展,更好地服务于人类的利益。在我看来,虽然ChatGPT在效率提升方面非常明显,尤其是在内容创作方面。但它仍然不具备无中生有的创造能力。因此,在ChatGPT提高效率之后,我们应该去探索如何更好地与它合作,充分利用它的优势,并结合自己的专长,将原来不擅长的工作交给它来执行。它能够引发整个分工关系和人际关系的深刻变化。ChatGPT对产业的影响不仅仅体现在下层生产环节,还会影响到社会、教育、人际交往等方面的变革。 虽然ChatGPT在提高效率方面毋庸置疑,但我们还需要看到它存在的问题。比如说,在写作领域,人们使用它来创作作品可能会引发著作权问题;另外,信息的真实性和准确性问题也需要引起我们的关注。 彭敏提到,ChatGPT在装备制造、集成电路、大型工程设计等领域的应用,也大大提高了效率。类似于工业5.0的兴起有望推动整个社会和人类的进步,也是大家对它寄予厚望的原因之一。但我们需要深入研究这些问题,并采取相应的措施来解决这些问题。在我看来,人类历史的发展可以总结为不断提高生产效率的过程。而在当今的信息时代,人工智能则扮演着类似于蒸汽机一样的角色。ChatGPT作为一款应用实用性极高的人工智能产品,其在用户获取信息方面的效率已经不亚于现有的成熟搜索引擎。它基于用户需求提供灵感,从而提高了效率,这将对人类的所有创作领域产生重要的影响。也许在未来,人类创作的角色将是作为鉴赏家对人工智能创作进行筛选和微调。 与此同时,在提高创作效率的同时,ChatGPT所使用的广泛的知识资源涉及到的知识产权如何界定?它的行为表现以及可能带来的后果与自然人和法人之间的法律责任如何确定?这些问题都应成为我们关注的焦点。 比如,在医院门诊中,如果人工智能可以承担大部分功能,如挂号候诊、检查检验、病情诊断和医嘱处方等,那么主诊医生和人工智能之间的职责划分以及权责关系该如何界定?特别是,如果人工智能的诊断差错率显著低于主诊医生的误诊率,那么处方权应归谁?在更多的行业中,类似的情况都可能发生。因此,我们必须在这些问题上进行深入的研究和探讨。在我看来,要维护新的秩序就需要新的规则。

有人提问,ChatGPT是否会成为操作系统平台的新雏形?我认为,这确实是一个可能引爆整个产业智能化转型的重要方向。ChatGPT在产业发展中拥有像操作系统、通用界面和主导设计等里程碑式的进步,为各行业开辟了一个巨大的发展空间。根据我们对产业创新的研究,一个行业从技术突破到商业化再到规模化和普及化,必须经历这样一个过程。ChatGPT提供了一个模板,可以为各行业提供赋能,推动整个产业智能化转型。 彭敏指出,ChatGPT相比以往的深度学习更具优势,它面对超大规模的数据,避免了大量的语料标注工作,是一种无监督学习方法。此外,它还采用了先进的强化学习、指令微调和思维链等技术。从技术角度来看,ChatGPT在操作系统平台的建立和发展方面具备巨大的潜力。我认为,整个人工智能领域对ChatGPT的发展具有里程碑意义。

李祖超说,ChatGPT能否成为操作系统的新雏形,我的答案是肯定的。操作系统的作用是通过用户指令来分配资源和调度计算,而ChatGPT作为新一代人机接口,更智能地实现用户指令的解译,减少用户的操作。从更长远来看,通过赋予ChatGPT管理系统资源的能力,如硬盘、CPU、外设等,将ChatGPT直接作为一种操作系统,用户只需以自然语言输入指令,就能实现操作的目标,这应该是新一代操作系统的雏形。

有人会问,为什么ChatGPT有时候会“一本正经地胡说八道”?其实,它的能力远没有达到拟人的程度。而且,“一本正经地胡说八道”也是它创造性回答的一部分。

梁正表示,ChatGPT可以无中生有,因此被称为“生成式”。背后有大量人类的知识和我们对它的引导和奖励策略。我们告诉它什么是对错,它在专业领域里的表现越来越好,但我们仍需注意评估它的回答。

据我观察,当讨论ChatGPT涉及到个人的喜好、情绪等方面时,它的能力远远没有达到拟人的水平。在这方面,它有时候可能会“一本正经地胡说八道”,但这也可能是它的创造性回答的一部分。那么问题来了,谁来判断ChatGPT的回答是否正确?只有人类才能够进行评估。当然有些工作并不要求创造性的回答,对这种工作,ChatGPT能够胜任。但是,我们人类的优势在哪里呢?我们人类应该去做创新性的、创造性的工作,比如艺术、创意等,在这些领域,人类的创意思维是无可替代的。所以,从这个角度来看,ChatGPT的出现反而能够激发我们对人类优势的思考。它还能推动我们研究人类思维和创造力的来源,例如逻辑推理、现实观察,以及个人的顿悟等方式。因此,它很可能会打开这个领域的研究空间,让我们更好地理解人类思维和创意。 彭敏认为,判断ChatGPT回答是否“胡说八道”主要取决于它的知识点和计算能力。在我看来,对于ChatGPT回答“胡说八道”的问题,这个模型本身并不知道它的回答是错的。这是因为ChatGPT的模型缺乏可解释性和验证性,导致其无法意识到自己的错误。这也是在深度学习出现10年后,许多研究人员一直在努力解决的问题。 李祖超认为,ChatGPT实质上是依托于一个参数量巨大的神经网络模型。它的训练依赖于网上现有的语料库,而这些语料库并不都是优质文本,可能出现错误。此外,ChatGPT给出的答案只是基于最佳结果生成的,对于训练知识盲区的问题,它可能根据字面意思进行推理,导致“一本正经胡说八道”的现象。自然语言理解的困难之一是语境问题,缺乏上下文可能导致对问题本身的不理解等,也有可能导致ChatGPT给出错误的答案。对于常识偏差的问题,这是由于ChatGPT是基于大量文本进行预训练,而常识通常不会直接包含在这些文本中,因此缺乏对常识的理解。对于多国高校出台ChatGPT禁令,我认为不能简单地“一禁了之”,更应该探讨如何诚信、客观、正面地使用它。无可否认地,ChatGPT能够给我们的科研和内容创作带来很大的帮助,可以在文献、资料、信息的搜集和整理上提供便利。因此,作为一个好的工具,我们为什么不去使用它呢?个人认为高校对ChatGPT的禁令主要是基于公平性考虑,这是合理的。但是,从长远来看,更应该探讨如何在诚信、客观、正面的前提下使用ChatGPT。 彭敏也认为我们应该用开放的心态去接纳新事物,并把ChatGPT用到我们能用的极致。但是同时,我们也不能过于信任这个工具,需要给它配套必要的措施。 对于ChatGPT给我们带来的思考,人工智能不断渗透到人类生活的同时,ChatGPT也给我们提供了很多值得思考的问题。我们需要反思人类的优势到底在哪里,什么样的任务是人类的优势所在,ChatGPT在人类的思维和创新方面有怎样的启示。这些问题将推动我们深入探讨人工智能与人类智慧的关系,更好地理解和使用ChatGPT,以把它作为助力人类智慧的工具。对于中国未来的人工智能领域,我认为人工智能技术的发展将继续迈出更大的一步。以ChatGPT为代表的技术将会有着无限的发展潜力,并将会改变我们的日常生活。然而,在未来的发展中,我们应该更好地借助人工智能的力量来进行发展,并不是过度依赖人工智能的能力而丧失我们原有的能力。毕竟,人类是人工智能创意的来源,我们的创意与想法才能帮助人工智能迭代。因此,未来的高价值职业都会向高创意方向发展。 最后,我认为随着人工智能不断渗透到人类的生活中,相应的道德和法律规范也应该随之健全。除了技术的突破,我们还应该持续投入在产业、人才、创新创业环境等方面,以实现数字化转型,并促进人工智能领域的不断发展。这样才能让我们更好地探讨人工智能与人类生活的关系,推动产业与社会的可持续发展。我认为,近年来我国在人工智能领域取得了很多成果,包括基础研究、技术平台、行业应用等多方面的布局。人工智能领域的创新创业活跃度也非常高。在未来,我们应该坚持长期主义,并持续投入在产业、人才、创新创业环境等方面。我们不仅要实现技术的突破,更要探讨在数字化转型中的潜力和活力。这样才能让我们更好地发挥国家的优势,实现人工智能领域的可持续发展。 同时,我也认同彭敏的观点。我们应该从全局角度入手,进行规划,并将通用人工智能技术落地到下游垂直领域场景中。我希望未来国家关于人工智能的规划能够有所调整,做出更全局性的部署。 李祖超提出的中国未来人工智能领域的发展目标之一是需要追平代差,我也认为这是非常重要的。由于通用人工智能技术不仅仅包含语言智能,还有语音智能和视觉智能等,因此下一代ChatGPT技术应该是多模态的。未来,人工智能领域也将着眼于多模态ChatGPT技术的研发。 综上所述,我认为中国未来人工智能领域有着巨大的潜力和活力,我们应该持续投入和改进,推动行业可持续发展。