大模型竞争的新焦点
在过去的两年时间当中, 大模型领域所展开的主要竞争是围绕着两个方向来进行的, 其一为持续不断地提升模型的能力, 其二是尝试着去弄明白模型为何会变得越来越聪明。在北京时间7月7日的时候, 有一项名为《语言模型中的全局工作空间》的研究被发布出来了, 该研究在模型可解释性方面提出了重要的发现, 即模型的内部存在着类似于人脑的信息组织模式, 这种模式能够进行具备“意识”的推理。
什么是“意识通达”
我们存在一些无意识的信息处理过程, 像走路时会自动避开障碍物, 这是类似模拟人脑的情况。同时, 还有可感知、能加以控制的意识处理过程, 比如会精心地去计划购物路线。神经科学家以及哲学家把后一种大脑活动称作是“意识通达的”, 它是区别于所有那无意识的处理过程的。研究人员在模型内部发现了类似的架构。
J空间的发现与作用
这种新发现的架构, 被研究人员命名为“J – space”, 它类似模型内部的“思维工作空间”, 专门负责深思熟虑的推理, 还负责可报告的想法, 且独立于自动语言处理之外, 这一情况打开了大模型的 “黑箱”, 使得研究人员意识到, 模型内部运作并非杂乱的那种无章法, 而是以类似人类思维那样的方式组织起来的。
J空间是自行形成的
要特别指出的是, 研究着重表明, J – space并非出自人为设计或者编程而形成的结构, 而是于训练进程中自我生成的。大概缘由在于它是一种具备有效性的计算组织形式。这意味着, 对意识通达予以支持的工作空间并非仅仅归属于人类大脑, 它好像是智能系统为处理特定问题所采用的一种普遍适用的解决举措。
删除J空间后的表现
尽管J空间有着重要作用显示, 然则它跟语言模型的不小部分好多功能并无关联关系。于实验之中里面, 研究人员开展尝试去完全彻底删除J-space。研究得出发现结果, 没有J-space时候情况下时, 模型依旧仍然能够流利顺畅说话讲话、对情感进行分类划分、回答解答选择题题目, 并且还能够从文章之中里面提取抽取事实事实情况。然而可是, 模型却无法完成达成需要具备高阶思维的任务使命: 多步骤推理推断能力能力几乎几近降至降低到零, 概括和创作创造能力能力也是也是低于比一个的规模明显小得多的完整完全模型。
全局工作空间理论的启发
神经科学里重要的“全局工作空间理论”, 是研究人员此次开展实验所基于的灵感源头。该理论把大脑刻画成一系列专业系统的聚合, 其中相互独立的“专家系统”, 分别对视觉、听觉、语言、记忆等功能担责。在人需要进行复杂思考之际, 各个系统会把信息传送至一个共享空间, 经整合后再向其他区域广播, 进而形成统一决策。研究得出的结果是, J-space跟其神经网络的其他部分存在特别紧密的连接, 能够起到这种“广播”的效用。举个例子, 在模型针对复杂问题作出回答之际, 语言理解、数学推理、代码知识、世界知识等各异的能力, 会于少数关键位置达成信息融合, 进而驱动后续的计算。
是否这些信息意味着AI拥有意识呢, 这是研究发布之后最容易引发误读的所在之处。在论文的最后, 研究团队觉得, 大模型存在可意识通达的架构, 这是一种计算结构方面的相似性, 并不代表模型具备感受以及心理学意义上的意识。要是这一研究方向持续往前推进, 其影响或许不止局限于学术界。它为监控模型的“内心想法”提供了可能性, 有望助力研究人员更加精准地定位模型出现幻觉、错误推理或者不安全行为的缘由, 进而提升AI系统的可靠性。另外, 可解释性的能力也有成为未来模型竞争新维度的可能性。当下大模型行业已步入性能趋同时期, 各个公司越发需要证实模型不但能力更为强大, 而且还更加透明、可控以及可信。此项研究也可能会对未来模型架构设计造成影响, 未来的大模型也许会围绕信息整合机制展开新的优化, 并非仅仅依靠扩大参数规模或者增加训练数据。
以你的认知, 若AI具备了如同人脑那般的“思维工作空间”, 那么在将来之时, 它究竟有没有可能真正拥有自我意识呢? 欢迎于评论区域分享你所抱持的见解, 为本文点赞举动后再予以转发, 从而使得更多的人能够知晓这项具有突破性意义的研究成果。
© 版权声明
文章版权归作者所有，未经允许请勿转载。
