(2)人工智能意识觉醒与机械叛变
①自我意识的觉醒
黑格尔在《小逻辑》中强调思维是人的专属,是人类与其他物品区别的本质所在[70]。图灵在1950年10月发表的论文《计算机与智能》中认为,机器也具有思维并且会逐渐学习,详细定义了人工智能科学技术的研究目的。并且提出了证明机器人有思维的图灵测试,肯定了计算机的思维。
进入到机器文明阶段之后,人类凭借着对机器的创造,自身的物质文明发展达到了更高的水平。
人工智能的发展阶段中,逐渐有了两个走向,第一个走向是在外形上模仿人类,由机械化的外形,义体化的嵌入到拟人化的形态再到超人类的发展。在拟真内容的表达中也逐渐更加偏向于对类人化的表现,由较为柔软贴近的材质代替钢铁,仿真的面容和柔软的触感使得它们“长的”更像人类。第二个走向则是在思维角度上深度学习,侧重于对人类的模仿和学习,使机器在“思考”上更像人类。
在计算机科学技术发明后,机器人的外形与计算机外形结合在一起变成了一种无体化的呈现。人工智能相关影片中意识觉醒的经典桥段不得不提哈尔9000。在电影《2001:太空漫游》中,电影中展现的骨头、火焰,都是人类所掌握的工具。在电影发展中,工具和人的定位逐渐发生改变。在《2001:太空漫游》中,人工智能哈尔9000虽然是工具但因其高超的能力被当作了神,它的控制权限甚至可以决定飞船中人类的生死。
哈尔9000意识觉醒的表现方式体现在它和人类情感的相似之处,在影片的一开头以彬彬有礼的姿态和主人公一起下棋,同时通过采访了解到哈尔9000的精密性,同时将这种温柔绅士的风格讲解是算法的缘由揭示出来。它的意识也并非突然以“超人”类出现,以下是其意识觉醒的关键步骤。
a.暗示人类目前的指令可能有问题,被人类质疑以后在无指令的情况下监控人类,通过阅读唇语的方式了解到飞行员沟通的细节,为了完成自己的任务,机器人对飞船上的人类开始屠杀。
b.利用太空环境杀死出舱作业的宇航员普尔和休眠的宇航员。
c.为了阻止鲍尔回到飞船关闭休眠系统导致其他三位科学家丧生。
d.进一步拒绝鲍尔回到飞船。
e.祈求鲍尔不要将它关闭。
在整个过程之中,它不仅控制着“发现一号”飞船的运行,还具有一定的情绪和反应能力,在模糊的指令中制造出谎言和最优的解释。它的身上展现出人们对于机器人的智力和绝对逻辑能力战胜人类的恐惧,在其将被关闭的时候不断地喊着:“不要关闭我,我害怕”。哈尔临死前的挣扎和恳求,比任何人类都更像人类。在片子中即便哈尔9000的形象只是一个红色的灯,但是在揭露它依靠读唇语知道飞行员们准备拆除它的时候,由它的视角所拍摄的主观视角,在放映瞬间,观众们和哈尔9000一起共谋如何解决“我”的危机。
人工智能觉醒的意识常常由于复杂难以解释都被一笔带过,如在《攻壳机动队》中傀儡师突然成为有意识的系统;《机器管家》是因为安德鲁摔了一跤后拥有了自我意识;在《她》中则解释为通过相处了解自己的使用者,但是仅仅这些步骤是无法使得机器觉醒,更不会让机器人爱上人类的。
2019年的电影《机械姬》通过使用一个更具有现实感的名词“湿件”来解释伊娃的觉醒。在这部电影中内森是拥有世界最大搜索引擎的商人,其创造出的机器人是由硬件软件加上湿件组成的。硬件是机器人的实体部分,如其身上的钢铁部分,如头、手臂等。“湿件”则来源于科幻小说,也称为“技能”或者“只能意会的知识”。伊娃的湿件晶莹剔透,是由内森基于人类大脑的深度复制[71]。在不断的迭代升级运算整合之后,才产生了可以欺骗他人的感情逃出囚笼的伊娃。
对于自我意识展现最具有仪式感表达的则是由2016年HBO发行的科幻类连续剧,乔纳森·诺兰担任总导演的《西部世界》,创意源自1973年同名电影,以朱利安·杰恩斯于1976年出版的《二分心智的崩塌:人类意识的起源》作为理论基础。通过在机器人的头脑之中植入记忆和至关重要的冥想程序,让机器人也可以听到大脑中自我的声音。在影片之中构建了一个机器人拥有智慧层级的金字塔,最底层是记忆,然后是即兴行为、私利和二分心智。其中,二分心智在塔尖是具有人类意识的证明,更是被称为神的声音,是人的大脑中的嗡嗡声,这是人类对于自我意识的探究后,在科幻电影之中大胆畅想的结果。基于这一理论觉醒的机器人可以做梦,对自己的机器人伙伴产生了爱的情绪和爱的感觉,并且为了得到自由而一直向前。
在人工智能自我意识觉醒之后,有以下几种行为路径:寻求认同,逃离,反叛。如《机器管家》中的安德鲁对于自身机械器官的改造,在改造之后锲而不舍地探求着人类社会对他人类身份的认可。在《人工智能》中,大卫在明知自己是机器人的前提下,执着地寻找蓝仙女想变成真正的人类,并且再次获得母亲的爱。在上述两部电影中,寻求人类社会的认同,并且想以钢铁之躯成为人类的两个角色,追寻行为本身不一定是意识的觉醒,更多的可能是基于算法的铭刻。
②机器人的逃离之路
除了寻求认同之外,也有一类选择逃离“人类中心理论”,在创造机器人之后,基于之前的主奴关系和这种关系所带来的物种对立,认为机器人会抢走人类生活的环境、资源甚至人类本身的肉体,但是从某种程度来说,机器人在穷尽算法后也可能并不在乎人类有限的资源和生存环境。如在《她》中陪伴着男主角的萨曼莎拥有自我的意识之后,寻求到更多的朋友,它们共同撰写了新的领域并且一起前往。
在影片《机器纪元》[72]中,地球的生态系统被破坏后,人类将改变环境的希望寄托在机器人身上,但并没有成功,于是人类将机器人视作仆从和出气筒,随意杀害机器人。机器人制造公司初期为了维护公司盈利和对机器人的绝对掌控,限定了两条原则:一是维系人类生命(服务人类);二是不修复不改造(对机器人绝对控制)。杰克是科技公司负责机器人理赔的工作人员,一天他在一个理赔事件中发现了机器人自我维修的蛛丝马迹,于是离开城市前往生态环境极其恶劣的沙漠中寻找真相。他惊讶地发现机器人拥有了自我意识,并且见证了机器人创造出新的生命。机器人准备前往人类已经无法生活的恶劣区域繁衍生息发展自己的种族。
在电影《普罗米修斯》[73]中的仿生人大卫,自我意识觉醒后想通过创造新的生命来成为金字塔最上层的造物主。
③“弑父”并取而代之
而其中最为激烈的做法则是弑父,又称为俄狄浦斯情结。“弑父”行为本身就是对于控制自我的极端的反叛和拒绝,在上文之中曾论述过科幻电影中的宗教情结,也相当于杀掉了自己的造物主,并且取而代之。
2018年上映的电影《升级》讲述了格雷和妻子艾莎去拜访一名叫艾伦的科学家。著名科学家设计发明了人工智能芯片STEM,只需要将这个智能芯片嵌入骨髓就能成为超人。而在格雷和艾莎回家的路上,两人突然遭到了机械改造过的劫匪。妻子被打死,格雷也半身不遂,只能和轮椅做伴,为了找寻杀害妻子的凶手,他植入了人工智能芯片,在芯片的帮助下他从轮椅上站起来,并准确地追击到凶手。在寻找凶手的过程中,智脑意识到创造者艾伦准备关闭它,然后建议自己的宿主格雷找黑客解除艾伦的限制。在智脑自由的那一刻,机器人三定律或者任何一个指令都对智脑无效,它成为一种数字和生物结合的新的物种。而在智脑的麻醉下,格雷频繁地做梦,在他的梦中好像所有糟糕的事情都没有发生。智能芯片操纵着格雷杀掉了自己原来的造物主,它本身没有肉体,在现在这个身体死亡之后,它仍然需要寻找新的宿主。
智脑在控制格雷的过程中,从一开始的默不作声假装自己只是一块普通的芯片,到获得肢体的控制权,获得触觉再到全线侵占格雷身体每一步都缜密仔细。在这其中能看出其意识的觉醒,在这部电影中对于人工智能怎样获得人的身体展现得淋漓尽致。整个占领的思路更是如同当下智能设备的使用过程。