人工智能自我意识的觉醒

　　2016年，人工智能已经经历了60年的风雨路程。未来，人工智能到底可以发展到什么程度?

　　人工智能逐渐演变为一种社会需要，机器也不再是人们眼中冰冷的工具，而是拥有自我意识的机器。

　　作为科幻作品中很大的母题，人工智能经常在科幻电影中出现，比如《我，机器人》《黑客帝国》《机械姬》，其中人工智能往往扮演反叛者的角色，对人类造成伤害。结合现实来说，这样的事情会不会发生?

　　清华微电子专业毕业后在外资企业从事半导体研发，这只是江波的工作之一。更令人瞩目的是，作为中国更新代的科幻作家，从处女作《最后的游戏》到《时空追缉》，再到恢弘磅礴的《银河之心》三部曲，他用冷峻而优雅的文字、超越寻常的想象力以及对人类未来发展的终极关怀征服了一众科幻爱好者。江波认为，“将机器赋予文明，将文明赋予机器。这是人类的使命，也许是最后的使命。”这是他对人工智能的期待和展望，也是未来人工智能科技发展的方向。

　　生物智能与自我意识

　　回答这一问题，首先要提到生物智能。生物智能是目前已知唯一产生了自我意识的智能，所以它是人工智能唯一的参考。将人类和蚂蚁做比较，人类是智能生物，蚂蚁是本能生物。所谓智能，就是可以设计出各种方法适应环境;所谓本能，就是生来具有的一种能力，诸如蚂蚁生来就能筑巢觅食。

　　为什么把这两种生物放在一起比较?如果把所有人类重量和蚂蚁重量都相加起来，在天平的两端，蚂蚁和人类的总质量是差不多的。所以从这个意义上来讲，两种同样成功的生物可以用来做比较，人类在分类学上属于哺乳纲灵长类人科，蚂蚁属于昆虫纲膜翅目蚁科，在纲目科属种的分类上，可以用同样的“科”级衡量。人科人属人种，事实上只有一种，但是蚂蚁有11 700余种，从这个意义上来说智能相对于本能的好处是以一敌万，一种智能生物通过调整行为方式，可以适应地球表面上的任何地形地貌，但是蚂蚁为了做到这件事情却用了11 700多种，这是智能带给生物的好处。

　　生物形形色色，怎样去衡量它的自我意识?生物学家采用了“镜子实验”——就是让生物照镜子，如果它能够从镜子中辨认出影像就是自身，就通过了测试，可以认为它具备自我意识。“镜子实验”有很多模糊的地方，不算非常客观标准的测试，但作为目前研究自我意识的一个参考，它可以代表自我意识的存在。

　　黑猩猩、鲸鱼、大象诸如此类可以通过镜子测试，像蚂蚁、水母等神经系统很简单的生物，不可能存在自我意识。也有两种生物在关系上和人类比较接近，一种是猴子，一种是猩猩，它们的镜子实验是什么结果?

　　一只非常强壮的银背大猩猩，看到镜子当中的自己，认为是另外一个对手直接撞上去，所以它失败了。

　　一只猴子从镜像中发现了自己脸上的红点，也就是说它已经通过了镜子测试。而实际上猴子是没有自我意识、不能通过镜子测试的，这只猴子的确通过了，它是怎么做到的?这只猴子是2015年中科院神经科学研究所最新的研究成果，通过某些程度的训练，让原本不具有自我意识的猴子产生一定的自我意识，从而能够辨认出镜子中的自己。

　　这个研究说明，自我意识的边界具有模糊性，并不存在非黑及白的世界。从没有自我意识跨入到自我意识并没有截然的边界，最有可能的情形是这个过渡是连续而模糊的，这点非常重要。

　　通过以上的实验和研究可以得出结论：自我意识并非高级智能的神秘功能，变化的环境不断推动智能向着更复杂的方向发展，当智能复杂到能意识到本体的存在，自我意识便自然产生，它是复杂智能的伴生物，学习是获取智能的唯一途径。

　　现在的拟智能与未来的可能性

　　既然学习是获取智能的唯一途径，那么人工智能的学习就是通过对外界环境的认识来改变自己的内在逻辑。如果这个智能体设计当中本身有一个变量是2，通外界刺激之后我认识到是6，把2改成6这不叫逻辑变换，这只是变量的变换。逻辑变换的意思是，通过环境刺激到神经系统最后接受最佳答案，对机器来说就是它的学习。

　　有了对学习的定义之后，就可以定义什么是拟智能了，Google的自动驾驶汽车、亚马逊的无人机、微软小冰，这些都可以称之为拟智能，是所有不通过学习得来的智能。这些智能通过预先编制的程序锁定了它的行为是什么，它很强大，但因为是不通过自主学习得来的，所以它不会产生自我意识。

　　我们生活中广泛存在的智能被称为拟智能，如果拟智能不能产生自我意识，它就不是我们担心的对象，那么什么东西是我们未来的可能性?

　　第一种未来的可能性是神经网络。2004年初，Google以4亿美元(约合26亿元人民币)价格收购了一家做算法的公司，简单地说，这个算法的任务是玩游戏。一个大屏幕上方有些不断落下的方块，这个算法所控制的是一个方块，这个方块在屏幕下方前后左右可以移动，游戏目的是延长生存的时间，这个算法当中如果上方出现一个方块，叫做输入，引起下方一个动作之后这个游戏就失败了，这个神经网络能够记住这一点，在下次游戏当中尽量避免这样的动作。

　　同样，如果一个输入引起动作之后，这个游戏能够延长更长的时间，它就可以获得奖励，在下一轮游戏当中，它还有可能采用同样的动作，这个就是学习的过程。它用分层结构对人类神经系统进行了很好的模拟，在神经网络深度学习的过程中，没有人预先告诉它该往哪边走，它通过不断地试错最后得到自己的最佳策略。

　　未来的另外一种可能是人脑芯片，大概意思是指根据神经元的结构组合成大脑皮层，科学家已经用物理芯片实现了，它用56亿个晶体管大概模拟了100万的神经元，有2.56亿个突触。这种人脑芯片是突破性的成就，但还有两个方面的问题：第一是规模，100万的神经元听起来很多，对比140亿神经元是人脑的神经元数目，人脑的突触以万亿记，这个规模只有人脑的万分之一，但是规模一旦提出来就是时间问题。还有一个问题，算法，怎么让人脑芯片工作?一般的智能需要预先编制好它的行为方式，但是这块芯片需要的是和认知世界一样的方式，通过外界刺激修正内部逻辑编程。从这两方面来说，人脑芯片还有很长的路要走。

　　赋机器予文明

　　人工智能的发展会带来很多问题，一旦人工智能和人类并存在世界上，就面临一个问题，什么样的人工智能可以融入到人类社会?

　　科学家们想到了“图灵测试”——让一个机器跟人对话，如果30%的人认为他是人，他就是人。图灵测试实际上有两端，目前认为人工智能的产生是单向性，一旦跨过一个界限达到一定复杂度就变成了人，将来社会中一旦人工智能跟人类并存，它是否是人就要交给人来判断。

　　通过对以上内容的分析，我们可以给出这样的结论：人工智能的自我意识只是一个时间问题。那么，科幻电影当中出现的灰暗的现实有一天会变成真的吗，人类该怎么办?

　　回顾18世纪的工业革命，人类在工业化的道路上狂奔，从来没有停止过，不断发明各种各样的机器充实人类文明，发明各种各样让大家生活得更好的物质，这个过程可以称为“赋文明予机器”，不断用机器填充文明。

　　拥有自我意识的机器必然是能够学习的机器，因为学习是自我意识的源泉，就像一个孩子，刚开始就是一张白纸，如果教给他的是暴力、战争、侵害，那么他学会的也是这些，如果教给他的是和平、爱、仁慈，那么他学会的也将会是这些。而“赋机器予文明”，可以通过一些方法方式来规范引导将要产生的人工智能，从而避免科幻电影中描述的黑暗未来。

　　人工智能的终极影响会怎样

　　人工智能指研究、开发并扩展人的智能的新学科，既是计算机科学的一个分支，也指能以与人类智能相似的方式作出反应的智能机器。说穿了，人工智能是对人的意识、思维过程的模拟。尽管它不是人的智能，却能像人那样思考，能完成财务查账、疾病诊断、危险操作，甚至使盲人恢复阅读能力……随着大数据的运用，将其与相关算法结合，人工智能便具备了深度“ 自我学习”的本领，可以模仿人脑神经元处理海量数据，“ 自己教自己”如何去执行一些过去只有人脑才能完成的任务，如驾驶无人飞机与汽车等。这就给警醒的人类带来了很大的疑虑：发达的人工智能技术对人类社会的终极影响将会怎样?

　　客观地分析，目前人工智能技术仅局限于某一具体领域的特定能力，能“形似”地模拟人脑，但不具备范围广泛且灵活变通的人类思维能力，也不具备人类的自主性、欲望与情感。但科学的进展是难以预测的，毕竟人工智能正在飞快地向自我学习、自我决策等高级认知层次演进。有朝一日机器是否会拥有比人类更灵敏的认知能力?拥有与人类冲突的利益观?甚至主宰人类……难怪霍金也会提出：人工智能可能是一个 “真正的危险”。

　　直面迅猛发展的人工智能，激起人们对其负面效应的谨慎和担忧是毫不奇怪的。毕竟，人工智能须接受人类伦理的监督，其研发者虽无法预见所有情形，但至少要做出在危急时刻能及时终止设计的超前安排，这是科学工作者必须具备的人文精神。我们并不赞同因对人工智能的过度忧虑而导致研究上停滞不前，在关注人工智能可能带来危机的同时，还要看到其无可估量的学术价值和经济效益。预见问题总比视而不见更理智。

　　延伸阅读：

　　过去20年，这4次“人机大战”载入史册

　　从第一台计算机问世以来，人们就梦想造出一种可以完美模拟甚至超越人脑的计算机系统。过去20年中，有4次“人机大战”给人们留下格外深刻的印象，也成为人工智能发展的绝佳注脚。

　　深蓝——蛮算的“硬汉”

　　1997年，美国IBM公司的“深蓝”超级计算机以2胜1负3平战胜了当时世界排名第一的国际象棋大师卡斯帕罗夫。“深蓝”的运算能力当时在全球超级计算机中居第259位，每秒可运算2亿步。在今天看来，“深蓝”还算不上足够智能，主要依靠强大的计算能力穷举所有路数来选择最佳策略：“深蓝”靠硬算可以预判12步，卡斯帕罗夫可以预判10步，两者高下立现。

　　浪潮天梭——以一敌五的“铁人”

　　2006年，“浪潮杯”首届中国象棋人机大战中，5位中国象棋特级大师最终败在超级计算机“浪潮天梭”手下。中国人发明的这项充满东方智慧的模拟战争游戏，被中国超级计算机独占鳌头。

　　从那场比赛开始，象棋软件蓬勃发展，人类棋手逐渐难以与之抗衡。

　　沃森——察言观色的全才“学霸”

　　2011年，“深蓝”的同门师弟“沃森”在美国老牌智力问答节目《危险边缘》中挑战两位人类冠军。参赛者需要大量历史、文学、政治、科学及流行文化知识，还需要解析隐晦含义和谜语等。虽然比赛时不能接入互联网搜索，但“沃森”存储了2亿页的数据，包括各种百科全书、词典、新闻甚至维基百科的全部内容。

　　“沃森”最终轻松战胜两位人类冠军，展示出的自然语言理解能力一直是人工智能界的重点课题。

　　AlphaGo——有棋风的“深度思考者”

　　围棋一直被看作是人类最后的智力竞技高地。据估算，围棋的可能下法数量超越了可观测宇宙范围内的原子总数，显然“深蓝”式的硬算在围棋上行不通。

　　2015年10月，美国谷歌公司旗下的人工智能公司研发的AlphaGo人工智能程序以5∶0战胜欧洲围棋冠军樊麾，这是人工智能程序首次在不让子的情况下战胜人类围棋选手。2016年3月初，拥有十多个围棋世界冠军头衔的李世石与AlphaGo力战5局，以 1∶4告负，这被认为是人工智能发展最新的里程碑。

　　作者： 来源：科学之友 2016年6期