当前位置:主页 > R泰生活 >AI要你灭亡,必先令你疯狂>内容

AI要你灭亡,必先令你疯狂

2020-08-12 12:14 来源于:shenmy 我要评论(467)

几年前,学术界曾进行调查,访问世界顶尖人工智能(AI)专家,问他们「AI何时会有成年人类的思考力?」,多数答案是2040至2050年,换言之是距今二三十年。

22世纪杀人网络

2199年,人类颈后接口会插入数据线接驳电脑,下载程式「入脑」及进入主程式「母体」内生活。母体内建各种程式,五官感受会从超级电脑经神经末梢传入大脑。这是《22世纪杀人网络》(Matrix)科技达到最极致的世界。

电影摄于1999年,当时互联网刚成形,不足20年,虚构已经成为现实。今年3月,Tesla创办人Elon Musk成立新公司Neuralink,研究于大脑中植入芯片与电脑直接联繫,把人类思维「下载」到电脑中,或将电脑中的讯息「上传」到人脑。

AlphaGo去年以慢棋4比1战胜围棋职业九段高手李世石,AI震惊世界。1997年IBM「深蓝」击败西洋棋世界冠军后,直至2015年电脑最佳战绩仅能达围棋业余五段。李败阵未满一年,帐号「Master」以快棋60比0横扫逾20名职业高手,真身就是「棋灵王」AlphaGo第二代,其自学能力已远超人类理解範围。(编按:今年5月AlphaGo亦以3:0击败世界棋王柯洁)

一场人类命运的辩论正式拉起帷幕。AlphaGo由DeepMind进行研发,该公司创办人Demis Hassabis曾推出游戏《邪恶天才》,主角科学家为统治世界,创造出末日设备。在科技界,Demis Hassabis及Elon Musk站在AI正反方。前者曾拜访后者的火箭工厂SpaceX。

Elon Musk说:「我们要殖民火星,就是怕有朝AI攻击人类,我们还有藏身之地。」Demis Hassabis随即笑着回应:「那AI都会追到火星!」Elon Musk甚至恐怕Google创办人Larry Page也是「虽有良好意愿,却意外造出邪恶机械人」。2014年Google收购DeepMind时,条款就包括「双方必须组建伦理委员会」。

AI要你灭亡,必先令你疯狂
DeepMind创办人Demis Hassabis
「23条」规範发展

「人工智能有强弱之分。」华为诺亚方舟实验室主任李航向本刊解释,弱者部分实现人类智能;强者则完美实现人类智能,甚至超出人类智能。他比较过人脑和计算机,两者规模已经相当。「处理速度上,计算机基本已经是人脑100万倍。」

「2075年机器就会达到人类智慧90%」,牛津未来智能研究所创办人Nick Bostrom预言。去年12月白宫就连发3份报告要为AI做好準备、9月美国五大科企罕有进行AI合作,连欧盟都在探讨道德问题。专家恐惧「强人工智能」,今年1月逾2000位业界就联署23条发展原则,包括Demis Hassabis及Elon Musk。

物理学家霍金就三番四次警告人类, 指AI已开始站稳阵脚,未来将为人类带来末日,「苹果Siri、Google Now和微软Cortana只是IT军备竞赛的预兆」。他从不否认AI会带来好处,但强调其威胁乃源自人类本身──贪婪和愚蠢。「6年前,我警告过污染和人口膨胀,但现在变本加厉。过去5年,空气污染加剧,二氧化碳排放量不断上升;若目前速度持续,到2100年全球人口将达110亿。」Elon Musk也认同霍金说:「有时候科学家太埋首于自己世界,往往未能意识到所作所为有何后果。」

2045年超越人类?

另外,「AI比人类进化速度更快」。霍金这种忧虑已经发生,AlphaGo用了短短6个月,就从围棋二段升至九段,这水平人类要花8年努力才能达到。美国未来学家Ray Kurzweil早于2005年就着书《奇点临近》(The Singularity is Near)预测,2045年AI将完全超越人类。人类能理解智商80,也理解智商180,但智商1880亿呢?科技专栏作者「零机壹触」曾撰文指:「医治疾病经AI计算后,最有效的方法可能是消灭全部可能患病的人。」这就是霍金所说「一旦AI能自我进化,人类无法预测其目标」。

这种「失控」已发生在微软身上,去年其AI聊天机械人Tay上线不足24小时就下架,皆因它言论偏激、种族歧视。Tay因反馈机制而拥有「个人特质」,却同时堕入「高德温法则」(Godwin's Law)。该法则指线上讨论往往不合逻辑,甚至荒谬,如网民倾向将厌恶者比作希特拉,故意用纳粹结束话题,参与者难免受影响。Elon Musk嘲讽:「看吧!让聊天机械人变成希特拉,微软只花了一天时间。」

历史的终结

Nick Bostrom曾出版《超级智能》(Superintelligence)。这位哲学教授警告:「一旦不友好的超级智能诞生,就会阻止我们替换它或改变其喜好,我们的命运就会被终结。」前美国国务卿基辛格也怕历史因而断裂,甚至瓦解整个人类文明。

不过,「情感、创造力和自由意志对于现阶段的AI仍非常困难。」李航解释人脑是紧密连接、并行处理;电脑则是稀疏连接、顺序处理,「感知、认知处理都很难用数学模型。」但这并非「不可能的任务」。

「随便给它四个字就可作首唐诗。」IBM香港首席科技专家戴剑寒向记者介绍AI诗人。自古以来,写诗都是抒情。「偶得」利用人工神经元学习过万首唐诗宋词,记者就输入「信报月刊」四字,尝试一睹其文采,不消3秒已经「出货」。

诗句基本符合平仄、对仗、押韵,但「诗意及用词难解」,连曾任金庸及李嘉诚中文秘书的文学博士杨兴安都说:「可能每句均有典故,可惜本人未能参悟。」他评价「感觉似牵强堆砌」,但坦言「看不出是机器作的」。

图灵曾说如果电脑欺骗到人,甚至令人信「它」是人,便是人工智能。Kurzweil预计到2030年人类都会进化成半机械人(Elon Musk的人机合一正是这项实验),通过神经系统进入虚拟现实(VR)世界。事实上,AI早已改变人类行为。传播学者McLuhan提出「人的延伸」,智能手机就是「大脑延伸」,Google搜索引擎开始已靠AI、Facebook用AI捉心理卖广告。

AI要你灭亡,必先令你疯狂Photo Credit : Reuters/ 达志影像没有硝烟的战争

2016年,高盛发表报告就提出「AI将如同九十年代的技术变革」,近年全球资金快速涌入该领域,中国就提出明年要形成千亿级市场。AI未取代人类,先取走饭碗,单单今年3月已杀退摩根大通的律师及贝莱德的基金经理人。

在人类演化中,机器很早已经取代「劳力」,继而取代「脑力」似乎已顺理成章。「AI危险不在于手上有枪,而是比人类更聪明。」美国加州大学柏克莱分校AI研究所联合创办人Eliezer Yudkowsky说:「只要发几封电邮就可获分子武器,合成细菌经微型电脑进入血液,只要释放一微克肉毒桿菌,就足以杀人于无形。」

相关文章:

人工智能Tay上线不足24小时变网上流氓,发种族主义言论要「闭门思过」

节录2017年5月份《信报财经月刊》/Android揭页版/iOS揭页版


热门阅读
猜你喜欢
图文精选