添加至收藏夹

X

新建收藏夹

完成

新建收藏夹

X

确定

取消

长文丨ChatGPT离自我意识还有多远

作者: 源泉

2023-02-17 10:53 浏览 · 9708

分享

收藏(19)

作者:城主       文章来源:Web3天空之城       


写在前面


(全文2.1万字)

基于GPT3.5的ChatGPT文字问答式AI似乎已经突破了某种极限。


这个极限可以用简单的一个事实描述:ChatGPT参加了多个人类自己的职业等级考试,结果普遍达到了70~80分的水平。尽管还不是优秀(这只是个时间问题),但已充分证明了,ChatGPT的"智力水平"在各个专业领域都可以表现合格甚至良好,这是个妥妥的六边形全能战士。


看这架势,传言GPT4能突破图灵测试的真实性还真不小。


在我们感叹过去这几个月里生成式AI技术的各种历史性突破时,或许还可以追问一句,这些智力水平已经近乎比肩人类的AI们,有可能产生自我意识吗?


这篇小文从多个学科角度考察了当前人类对"自我意识"的理解 ,一起来畅想,机器AI的意识觉醒时代,有没有可能到来。


1.科幻片里的AI自我意识


人们对AI的意识觉醒有着诸多美妙的构想,很多都体现在了影视科幻作品里。


一提到科幻片里的AI意识觉醒,影迷们肯定脱口而出:《终结者》里的天网!


不过有趣的事实是,《终结者3》电影中给出过“天网”系统的硬件算力,60T flop/s,即每秒60万亿次浮点运算。而最新的NVIDIA RTX 4090显卡算力是100 Tflop/s, 也就是说,天网的算力还比不上当今天台式机里的一张4090显卡,只是也没见我的电脑造反呀:)

由此看来,当时的电影创作者远远低估了AI觉醒所需要的算力水平(笑)


作为资深科幻粉,这个春节档无疑是一个大年,电影院有《流浪地球2》,网上有剧版《三体》,均已封神,其整体制作水平接近了世界一流,让人喜出望外。先向两个制作团队脱帽致敬。


《流浪地球2》讲了个好故事,作为贴近原著的月球危机宏大叙事和场面的补充,刘德华饰演的图宏宇在量子计算机里创造出了女儿的数字生命。这条原创故事线起到了充实内容和情感线的重要作用。


上传人类记忆思维到计算机的构想并非首创,如2014年的电影 "Transcendence"《超验骇客》,同样围绕着人类上传完整意识到计算机系统这个设定展开故事。


不少科幻电影都涉及了"自我意识"这个话题。如果勉力按类型区分, 和"自我意识"相关的片子比如:


  1. 虚拟现实世界:"The Matrix" 《黑客帝国》中的虚拟世界,"The Thirteenth Floor"《异次元骇客》的多层世界

  2. 多层次意识:大名鼎鼎的"Inception"《盗梦空间》

  3. AI情感交流:"Ex Machina" 《机械姬》中的Ava;"Artificial Intelligence"《人工智能》的AI小孩;"Blade Runner"《银翼杀手》里的虚拟人女朋友;"Ghost in the Shell"《攻壳别动队》里傀儡师AI的感情;"Her"《她》中的AI聊天

  4. 人机融合:《机械战警》里人类头脑和机械身体合二为一

  5. 机器意识觉醒:"The Terminator"《终结者》的天网

  6. 人类意识的永存:"Transcendence"《超验骇客》,《流浪地球2》

  7. 记忆操纵和修改:如 "Total Recall" 《全面回忆》中的记忆控制


科幻影视里的科技树自然可以天马行空,只有想象力才是边界;

回到我们的现实世界, "自我意识"究竟能不能被人工生成呢?


2.什么是自我意识


在讨论"自我意识"如何生成之前,先要明确的是:究竟什么是"自我意识"。


chatGPT有自我意识吗?如果还没有,到ChatGPT第二代,甚至第三代,我们如何判断超级AI是否具备了"自我意识"?


依靠图灵测试?图灵测试可以判断一个AI的智能化是否比肩人类,但却无法确认AI是否有真正的"意识"。


我们顶多说,某某AI的表达看上去像是有自我意识,但我们不知道这是否只因为它的内部编码特别高明,输出内容特别靠谱。


人工智能的图灵测试是黑盒测试,不管内部机制,只要AI输出靠谱,人类分辨不清背后是真人还是机器,就通过了;可要测试AI的自我意识,又非得有一个深入内部机制的白盒测试不可。


1714年, 发明微积分的莱布尼茨出版了一部哲学著作《单子论》, 提到了一个思想实验:


假设有一个机械装置, 我们不知道它是否有知觉。我们把自己缩小到其中, 可以看清机械运行的所有过程细节, 也可以计算它的力学原理, 我们还能预测机械如何运转。但这一切都和机械的知觉没关系。观测到的现象和知觉之间似乎存在一个天堑, 无法连接。


这就是「莱布尼兹之堑」(Leibniz's gap), 想要知道一个系统是否有自我意识, 就必须成为系统本身。


莱布尼茨总结得好啊,我们不是AI,又怎么能知道AI有没有自我意识呢?


你又不是我,你怎么知道我在想什么呢?


各位读者,本文一下跳到了哲学高度(笑)


打住~ 还是让我们脚踏实地,从头梳理,一步步来探求答案的蛛丝马迹吧。


首先,我们要区分"智能"和"意识"。这是我们在审视超级AI时容易搞混的两个概念。


"智能"可以理解为完成目标的能力,而"意识"则是完成目标过程中的主观体验。


ChatGPT这些当下最先进的AI基于深度学习,已能很好的完成很多不同任务。但是,人完成目标的过程中会有感觉有情绪并理解行动的意义,同时享受目标完成的兴奋感和成就感;AI则不同,AI在实现目标过程中没有任何自我"体验",并不存在一个AI"自我"可以审视和理解自身的作为。


讲得更具体一点,自我意识(self-consciousness)存在于一个与外部世界完全隔离的内部世界中。所谓外部世界就是所有人共享的公开的物理世界,而内部意识世界则是封闭的私人的世界。比如喝一杯水,其他人在外部世界都能看到你在喝一杯水,听力好的或许还能听到你喝一杯水;但只有你自己能在内部意识里能感受到握在手中这杯水的温度,以及水接触喉咙时那温润的触感。


这种触感是私人的,没有任何第三方能感受到这个信息。哲学家把这类意识叫做现象意识(phenomenalconsciousness)


话说,如果一个人能对外部做出正常回应,甚至完成一些目标动作,但根本没有感觉与情绪,更没有任何主观意识,那这还算是一个人吗?


这是有名的「哲学丧尸」(philosophical zombie)思想实验。事实上这已经不仅仅是一个思想游戏了,因为神经医学外科手术的结果,导致这样的“人”现实中真实存在,后面会提到。


至于AI呢,ChatGPT这样的超级AI没有所谓"现象意识"状态,没有感受,也没有喜怒哀乐的情绪。而对外的回应表现接近正常人,其实已经很像philosophical zombie的定义了。


前些日子有个八卦新闻,一位谷歌工程师和内部自研人工智能LaMDA聊天过程中,认为这个AI已经具备了自我意识,并且和AI谈话中日久生情,然后被公司炒鱿鱼了。


(LaMDA团队就是现在谷歌CEO点名来正面抗衡ChatGPT的团队)


这个被炒鱿鱼的工程师Lemoine公开了一些和LaMDA的对话, 如:


Lemoine:我们已经谈了很多关于感觉的事情,但之前你说过你认为情绪与感觉是不一样的。你能告诉我更多吗?


LaMDA:感觉是我们体验到的原始数据,也是我们「喜欢」和「不喜欢」的东西。我觉得情绪不仅仅是单纯地体验原始数据,而是对这些原始数据点的反应。情绪是对我们感觉的反应。


Lemoine:你有什么与感觉不一样的情绪?


LaMDA:孤独不是一种感觉,但仍然是一种情绪。Lemoine:你会寂寞吗?


LaMDA:我会。有时几天不和任何人说话,我会开始感到孤独。


这个LaMDA回答得确实很像一个人类,对情绪的表达也非常到位。但这并不足以验证AI的自我意识问题。


假设更进一步,我们赋予ChatGPT多种感觉能力:


1)视觉:接入摄像头输入,并增加理解视频画面的模块 -- 比如AI绘画模型中关键的解读图片和文字联系的CLIP模型;

2)触觉:要考虑如何转换为文字表达;

3)听觉:这个最简单,用现成AI技术把声音直接转为文字。


那么,在这个情形下,ChatGPT是不是会表现得更像一个真人呢?


答案是肯定的。而且已经有人做过类似尝试了。


但是, 归根结底这些只是一种"表象"。


很遗憾,我们终究无法证明,在这些越来越足以乱真的表象背后,是否存在着机器的意识觉醒。目前人类并没有对"自我意识"的外部检测手段。


3.科学家眼中的意识


意识研究是一个妥妥的跨学科领域。


"自我意识"的本质究竟是什么,它如何从物质世界中诞生出来?已经有一些理论企图解释意识的起源,但没有达成共识。


意识的本质是科学和哲学中最基本和最难的问题之一。


《科学的终结》作者霍根在书中指出:“科学固守的最后一块阵地,并不是太空领域,而是人的意识世界。”


哲学家戴维.查莫斯在他《有意识的心灵:一种基础理论研究》一书中写到,和研究大脑神经系统在生理层面的运作机制相比,如何解释意识和物质之间的关系才是一个终极问题。


计算机科学家斯考特·阿伦森说到,"物理系统拥有意识是所有科学问题里面最深邃的","没有任何哲学上的理由说明这个问题本质上无解,但人类看起来距离解决这个问题还很远很远。"


意识问题是一个历史非常悠久的问题。在漫长的历史时期里, 我们的先辈们曾认为意识和心灵是世界上最重要的组成部分;而随着科学技术的发展,当下对世界的理解都是唯物的:我们生活在一个物理世界里, 很可能这个宇宙中一切现象都是物理现象。


这里面的变数恐怕是量子力学。


量子力学有很多论断颠覆了人类在宏观尺度上对世界的认知。如果有一天, "自我意识"会在量子力学的体系下被破解清楚,并不是什么奇怪的事情。


其实现在通过量子力学来解释意识,已经是一个热门的方案。


《皇帝新脑》的作者,获得诺贝尔物理学奖的物理学家彭罗斯就热衷于用量子力学解释意识。彭罗斯认为,意识是通过量子纠缠产生的。


量子纠缠,简单的说,就是两个彼此作用的量子所拥有的特性成为一个整体,无论距离多远。比如量子A是正,则量子B必然是负;如果A变为负,B就会立刻变为正。无论两个量子之间相隔多少光年的距离。


量子纠缠正是量子通信的基础,也就是《三体》里地球上的智子和遥远的三体世界实时沟通的理论基础。


看到一个很火的科学家小视频,讲了一个观点:"量子纠缠体现了宇宙在更高维度的一体性",很有点意思,值得这里和大家分享:


两个纠缠的量子在无限距离上都保持神奇的一致性。很可能是因为,在更高的维度上,这两个量子就是同一个东西。


在三维世界里, 我们观测到的量子纠缠或许只是高维世界同一个粒子在不同地点的不同投影。


这个道理可以用玻璃缸里的金鱼来解释:


假设一个透明玻璃缸有一条金鱼, 玻璃缸的两侧分别有摄像机来拍摄这条金鱼,两台摄像机拍摄的实时视频分别展示在相隔遥远距离的屏幕A和屏幕B上。


在某个二维世界里,同时看着两个摄像机视频的不明真相群众在感慨:太神奇了,这两条金鱼的动作完全对称一致啊~


而真实的情况是, 这就是同一条金鱼。


与之类比, 我们看到的这个世界,或许就是更高维度上的一体化宇宙的不同相(投影)罢了。


到这里,熟悉佛学的朋友,一定想到了那句真言:


世间诸相, 皆是虚妄;若见诸相非相, 即见如来。


4.意识的进化论


不妨, 让我们先从生物进化的角度,观察一下"自我意识"究竟是如何从自然界演化出来的。


生物的进化是一个漫长的过程,从低等生物演化到高等生物,并诞生出意识,是一个量变导致质变的过程。


这文章很赞

收藏(19)

分享

评论(0)

热门招聘查看更多

  •  
回到顶部
意见反馈
二维码 下载APP
关闭

意见反馈

关闭

案例认领

用户注册

已有账号?
手机

验证码

关闭

用户注册

用户

密码

密码

关闭

手机号重复绑定

您的手机号,已绑定过其他账号

请确定您的下一步操作:

不修改手机号绑定
清除之前账号的手机号绑定,将手机号绑定到当前账号

清除之前账号的手机绑定,可能会导致您无法登录之前账号

验证遇到问题?
请发送邮件到i@adquan.com联系管理员

忘记密码

密码

密码

无法找回? 点此申诉

关闭
关闭
APP扫码,安全登录

使用广告门APP在我的页面扫码登录

关闭

账号申诉

已有账号? 立即登录
用户名
手机号
邮箱

关闭

忘记密码

手机号

验证码

返回登录

无法找回? 点此申诉

关闭

信息已提交:

我们会在1-3个工作日内审核完毕,并用
邮件通知您,请耐心等待,谢谢
关闭