科技巨头忧人工智能失控灭人类 中国专家不担心

人工智能超过人类的时间点——,被《福布斯》杂志誉为,人工智能会不会在未来KO人脑

  那人工智能技术是否可以等同于机器人呢?360公司副总裁谭晓生11日接受《环球时报》记者采访时表示,机器人要用到人工智能技术,两者是一个交集关系,但不能完全等同。对于超级计算机和人工智能的关系,谭晓生认为,超算只是一个拥有巨大计算能力的载体,这是人工智能更深度发展的一个物质基础。除了这个物质基础,还有一些软性的东西。他认为,学界探讨的人工智能主要是指机器是否可能有自主意识,像人类一样去做一些复杂的智力活动。争论的核心可能包括,机器的智商能有多高?机器是否会产生自我意识?

当人们看到太多不同的时候,也许我们视野不够大;

人工智能处理数据的能力远远大于人的能力,然而它们不用睡觉、没有情绪,不会被领导骂几句,工作效率就降低。

  谭晓生的观点则相对激进。他表示,文明的进化不用过分担心。哪天机器进化超过人了,从优胜劣汰角度,如果机器会带来更高的文明,人类为啥还要占着茅坑呢?看看《三体》、《星舰文明》,就很能理解。为了文明延续,要让最强者得到机会,4艘星舰留存1艘,其它舰人员甚至沦为食物,so
what?更何况,即使从文明延续的角度看,机器智能与人类也未必不能共处。▲(文中部分专家观点摘选自《互联网与人工智能的未来:奇点临近》专题沙龙)

然而,因为黑洞释放出了粒子雨,这给出了一种看到黑洞内部的方法。事件空间附近会产生粒子一反粒子对(这会发生在空间里任何的地方)。对于某些粒子对,有时候会有一个被拉到黑洞里,有一个会趁机逃跑。这些逃离的粒子会形成光束,称为霍金辐射,是用它的发现者史蒂芬•霍金的名字来命名的。现在普遍认为的是,这种辐射并不反映(以一种编码方式,并作为一个量子纠缠与内部粒子形式的结果)黑洞内部发生了什么。霍金起初抵制这个解释,但现在似乎已经同意。

3000万局围棋,对于人类来说,即使每局只要15分钟,可能要八百多年才能下完。事实上,关注这次人机大战的朋友是有体会的,这几场比赛,平均每一盘需要4~5个小时。

  科技巨头担忧人工智能失控

•“奇点主义”:“奇点”已经成为了一种思潮,在世界范围内具有广泛影响,关于它的争论没有一天停息过,拥护者将奇点升级为奇点主义,从哲学、科学、技术、艺术等各个方面构建奇点。

临近奇点,局面就完全就转折了。

  而百度深度学习研究院(IDL)常务副院长余凯则认为,以他从事人工智能行业十几年的经验,再从上世纪八十年代到现在整个的发展看,人工智能产业发展非常快,至少从过去30年的进展看,计算能力跟数据量高速成长,人工智能(超越人类)的发展走势是有可能的。

摘要
对本书的赞誉
译者序
前言
致谢
作者简介

第二代机器,是对人类的感官——眼、耳的延伸,像电脑、智能手机;

  谭晓生表示,人工智能近来受到关注可能与计算机芯片性能提升、计算能力提升以及算法的优化有关,但更重要的因素可能与深度学习技术的进步有关。深度学习技术就是机器模拟人脑的工作机理,这个理论很早就被提出了,但由于计算能力的限制,一直没法实现。随着深度学习的进步,使人类看到机器按照人脑的机理工作可以取得这么大的进步,因此产生了对于机器超越人脑的推理。

——马文•明斯基,麻省理工学院媒体艺术与科学系教授

人工智能;蔡登;李世石;围棋;机器人;人脑;电脑;谷歌;茶壶;定律

  2045,人工智能超人脑?

我不能确定自己是在什么时候第一次意识到奇点的,应该承认这是一个逐渐认识的过程。在近半个世纪的时间里,我致力于计算机及其相关技术的研究工作,并努力去理解我亲身经历的很多层面上的巨大变革及其背后的内涵和意义。渐渐地,我开始认识到21世纪前五十年里变革的大致轮廓——就好像空间中的黑洞突然改变了物质和能量的模式,加速朝其边界发展。这逼近未来的奇点,从肉体到精神,逐步地改造人类生活的各个方面。

我们人类需不需要开始担心:10年或者更短的时间以后,可能失业的我们,到底还能做点什么?我想我要给替我写稿子的机器人做推拿。

  在不久的未来,人工智能(Artificial
Intelligence,英文缩写AI)技术会全面超越人类的智慧,甚至会反过来控制或毁灭人类——这一灾难性的预测来自一群世界上公认“最聪明的人”,包括微软创始人比尔·盖茨、英国科学家史蒂芬·霍金以及美国的“科技狂人”埃隆·马斯克。甚至有美国学者认为,人工智能超过人类的时间点——“奇点”已经逼近,很可能就在几十年后。这一切真的会发生吗?还是正在发生之中?

那么,什么是奇点呢?奇点是未来的一个时期:技术变革的节奏如此迅速,其所带来的影响如此深远,人类的生活将不可避免地发生改变。虽然这个纪元既不是乌托邦,也不是反乌托邦的形态,但它将人类的信仰转变为生命能理解的意义;将事物模式本身转变为人类生命的循环,甚至包含死亡本身。理解奇点,将有利于我们改变视角,去重新审视过去发生的事情的重要意义,以及未来发展的走向。一个人真正理解了奇点的含义,将从根本上改变他的人生观和他的人生。我所尊重的一些人,他们理解了奇点,领悟了它的内涵,他们终身都是奇点人。

最早出现的机器,是人的体力、肌肉的延伸。它们的“四肢”极其发达,头脑简单到几乎没有头脑,是人类体力的帮手;

  中国科学院计算所研究员、中国计算机学会高性能计算专委会秘书长张云泉也认为,机器智慧很难超越人类。仅从超级计算机的技术发展状况看,几十年内出现奇点的可能不大,但在资本的推动下,也有自我实现的可能。

而物理领域所感兴趣的,并不是实际的大小是否为零,而是一个有着和黑洞内的奇点理论相似的事件视界(这甚至都不一定是黑洞了)。事件视界内的粒子和能源,如光,都是无法逃避的,因为重力太强大了。因此,从事件视界以外,我们肯定不能轻易看到视界内部。

昨天下午,谷歌围棋人工智能Alpha
Go与韩国棋手李世石进行了最后一轮较量。最终,AlphaGo获得本场比赛胜利,人机大战总比分定格在1:4。

  据多家美国媒体报道,在最近一次网络答问活动中,盖茨被提问如何看待人工智能的潜在危害,他表示,这确实是值得担心的问题。盖茨说:“如果我们能够很好地驾驭,机器能够为人类造福,但如果若干年后机器发展得足够智能,就将成为人类的心头大患。”

第4章 达到人类智能的软件:如何实现大脑的逆向工程
大脑的逆向工程:任务概况
人类大脑是否与计算机不同
对等进人大脑
构建人脑模型
大脑与机器间的接口
加速人类大脑逆向工程
人脑上传

而以Alpha
Go为代表的最新一代的机器,是对人类脑神经的一种延伸,我觉得,“它们”已经可以改称为“他们”了,因为灵长类机器人几乎出现了。

  对于是否存在奇点的问题,国内的学界与产业界也存在着完全不同的观点。中科院计算所研究员、中国计算机学会副秘书长陈熙霖不认同2045奇点到来的结论。他认为,机器智慧很难超越人类,也许更像永远处在逼近的过程中。对于如何衡量智慧,如果仅仅是从记忆能力上看,或者计算能力上看,今天的计算机已经远远把人的能力甩在后面了。但从人类的智力活动来看,我们包括了记忆、联想、归纳、演绎、判断、思考、顿悟、甚至做梦等诸多智力活动,我们的智力还与情感有关,从这个意义上看机器智慧很难超越人类。

(6)衍生无限的奇点

灵长类机器出现了吗

  《金融时报》2日一篇名为《机器人何时“造反”?》的文章称,物理学家霍金最近向BBC表示,“完备人工智能的发展可能导致人类灭亡。”霍金认为,一旦诞生了真正的人工智能——即人类思想的全数字化版本——它“将开始自主迅速发展,并以越来越快的速度重新设计自己……受限于缓慢生物进化的人类无法与之竞争,将被取代”。

尽管大脑在很多方面具有极为优越的性能,但其仍有很多局限性。现在已经可以通过技术使用大量的并行(数百T级的模拟内部神经元链接操作)来迅速认知大脑中微妙的模式。但我们的思考却是很慢的:基础的神经元事件处理比同等的电子电路要慢上数百万倍。这将导致人类在生理上处理新知识的能力远远跟不上人类知识的指数级增长速度。

但是灵长类机器的进化速度,非常惊人。过去的机器,它们的优化是由人来完成的,但现在的阿法狗们,已经可以自我优化了。

  英特尔中国研究院院长吴甘沙表示,相信奇点,但是采用一种预测的态度,而非预报,言之凿凿说2029或2045有点不合适。人的智慧形成,也存在奇点,在那之后加速进化。他表示,人的生理结构、DNA编码、脑和神经系统那么精密,常常有种错觉,人就是过了奇点的机器。吴甘沙写过一篇名为“与机器赛跑:Win
or die”的文章,总的观点是机器智能终将超越人类。

书中前两章运用了归纳式推理总结,后几章又大量运用了演绎式推理预测,真正诠释了回溯有多远,预见就有多远的道理;作者通过追溯、分析以往的科学发展趋势和当今科技的现状,演绎并预测未来。
其重点论述的技术加速回归定律已被现实逐步地验证。

我们每个人都知道,电脑的计算速度正变得越来越快。如果有一天,电脑的运算速度快到令人难以置信时,它们掌握人工智能的时刻也到来了——那时电脑,将能够模拟人脑、产生意识:人类本身也将发生改变。在信息学上,这个时间点也被称为“奇点”。

  人工智能全面超越人脑这样具有科幻色彩的话题,不仅在国内外科技界受到关注,甚至还有美国学者明确提出了人工智能超过人类的时间点。美国著名专家库兹韦尔在他的《奇点临近》一书中预测这个时间点将是2045年。

但是局限性似乎依然存在。宇宙所能支持的智能计算能力似乎只有大约1090cps,这一点在第6章就曾经讨论过。也有些理论(如全息宇宙理论)指出宇宙所支持的智能计算能力可以达到更高的水平(比如10120cps)。但这些量级显然都是有限的。

生物进化到人类,大脑的容量和沟壑回路复杂程度,登峰造极。但是这是一个非常缓慢的演化过程,今天人的大脑,不敢说比两千年前苏格拉底的脑子发达。

  美国《华尔街日报》曾发表题为《人工智能不是威胁——现在还不是》的文章称,在过去几十年里,从象棋到算术再到网上交易,计算机在许多事情上的表现都有长足进步,但到目前为止,它们还没有对我们或我们的财物表现出一星半点的兴趣。FT的文章也认为,人工智能展示的技术进展意义重大,它们展示了非凡计算能力、海量数据和案例分析软件所能形成的威力。它们将改善我们的生活、改变我们的经济,但它们造反的可能性与叉车没有两样。人类面临大量短期挑战,为什么要把未来的幽灵说成即将到来的恶魔呢?

我不知道这个世界会如何看我,但对我自己而言,我仅仅是一个在海边嬉戏的顽童,为时不时发现一粒光滑的石子或一片可爱的贝壳而欢喜,可与此同时对我面前的伟大的真理的海洋熟视无睹。

昨天下午,谷歌围棋人工智能Alpha
Go与韩国棋手李世石进行了最后一轮较量。今天的棋局,会不会是未来人工智能全面战胜人脑的预演?钱江晚报记者梳理了人工智能发展的历程,并请浙江大学计算机科学与技术学院教授蔡登分析,人工智能会不会在未来KO人脑。如果有一天,电脑的运算速度快到令人难以置信时,它们掌握人工智能的时刻也到来了——那时电脑,将能够模拟人脑、产生意识:人类本身也将发生改变。人工智能处理数据的能力远远大于人的能力,然而它们不用睡觉、没有情绪,不会被领导骂几句,工作效率就降低。他估计,至少在100年的时间里,人工智能不会超越人脑。科幻电影中那种拥有自我意识,能够和人类交流的人工智能,蔡登不认为会出现。

  “进化的机器”会最终毁灭人类吗?

因此,我们认为在本书中所使用的“奇点”这个词的准确性并不比物理学领域差。正如我们很难看到超出了黑洞的事件视界,我们也很难看到超越历史奇点的事件视界。我们怎么能够在我们每个大脑限制于1016cps的情况下,去想象我们在2099年能够拥有进行1060cps计算的能力来思考和处理事情。

著名的国王下国际象棋的故事,或许可以佐证。战胜国王的大臣,想要得到的奖励是米,放到棋盘山:第一个格一粒米,第二格两粒……装满64个格子,要放9.2233720368548×10粒米。18个零是什么概念?8个零就是一个亿,这是指数级增长,经济学上讲的复利效应。

  此前,数十位科学家、企业家及与人工智能领域有关的投资者曾联名发出一封公开信,警告人们必须更多地注意人工智能的安全性及其社会效益。参加联署的人中包括霍金及马斯克等。据英国《金融时报》报道,这封发自生命未来研究所的公开信还附带了一篇论文,其中建议应优先研究“强大而有益”的人工智能。目前,人们日益担心机器的智力和能力可能会超过创造它们的人类,从而影响到人类的就业,甚至影响到人类的长期生存。马斯克表示,他相信不受控制的人工智能“可能比核武器更危险”。

第1章 六DA际元
直觉的线性增长观与历史的指数增长观
六DA际元
奇点临近

在宇宙学中,霍金和彭罗斯证明了,在一般的条件下,空间——时间一定存在奇点,最著名的奇点就是黑洞里的奇点,以及宇宙大爆炸处的奇点。

  那什么是人工智能呢?从字面来看就是人造的智能,也就是让机器具备人类一样的行为能力及思维意识。美国麻省理工学院的温斯顿教授认为:“人工智能就是研究如何使计算机去做过去只有人才能做的智能工作。”

作者简介

我们没有跟Alpha Go交流过,无法领教它的凶猛。据科学家说,在Alpha
GO正式出山前,它用了3000万局“自我对弈”的数据,来训练自己比赛时对每一颗落子的价值进行评估。

第2章 技术进化理论:加速回归定律
摩尔定律与超摩尔定律
DNA序列、记忆、通信、因特网和小型化
奇点是一项经济命令

从普罗大众的角度来看,机器人的历史可以分三个部分。

人类生物体的1.0版本也是很脆弱的,他容易屈服于大量的错误模式,而且,维持生命需要大量的成本。虽然人类的智能在某些时刻能够突破他的创造力和表象,但是人类的大多数想法还都是衍生的、琐屑的、受限的。

而自从去年10月和樊麾对弈后到上周开始和李世石交手,短短5个月时间,Alpha
GO又完成了2000万局自我对弈,掌握了更加大量的判断、评估局面的数据库。

雷•库兹韦尔是我所知道的预测人工智能未来最权威的人。他的这本耐人寻味的书预测未来信息技术得到空前发展,将促使人类超越自身的生物极限——以我们无法想象的方式超越我们的生命。

电脑运算速度快到难以置信时,突变会否到来

书中每章章首都有名人的警世之语:通过智者的眼睛去审视自然、科学以及我们生存的世界,从而不断强化思想的力量;

一些科学家认为,正如天体物理学上存在着一个让所有物理定律都失效的“奇点”一样,信息技术也正朝着“超人类智能”
的“奇点”迈进。发明家、计算机科学家雷蒙德·库兹韦尔在接受《时代》杂志采访时表示,信息技术的奇点将在2045年到来。“届时,人工智能将超越人脑,人类的意义彻底改变,与机器融合为‘超人类’,并借助科技的发展而获得‘永生’”。

很多批评家对于这些改变的评述都聚焦于这个过渡时期带给人类的在一些重要方面的缺失。但若从这个角度考虑问题,就不能准确地理解技术的未来。当前所有的机器都比不上人类本身那么精妙。尽管奇点有很多方面,但其最重要的内涵是:我们的技术将能够和人类最优秀最精妙的品质相媲美,并超越它们。

连续苦战五场,一方展示的是人工智能的最高水准,另一方代表的是进化了几千万年的人类智慧。今天的棋局,会不会是未来人工智能全面战胜人脑的预演?

生命的意义在于创造爱。这并不是因为爱是一种内在的感觉,或是一种私密的脆弱的情绪,而是因为爱是一种动态的力量穿梭于世间,驾驭着最原始的事物。

在奇点处,所有定律以及可预见性都失效。

第6章 影响的盛装
关于人体
关于人类大脑
关于人类的寿命
关于战争:远程的、机器人的、健壮的、更小尺寸的、虚拟现实的范式
关于学习
关于工作
关于游戏
关于宇宙中智能的命运:为什么我们可能是宇宙中唯一的

爱因斯坦说:”世界上最大的能量不是核能量,而是复利。”

奇点一词来源于数学的Y=1/X函数曲线上X=0的点,这个点应该是数学的禁区,也因此给人们以无限的遐想,在这一点上,也许科学与人文得到了交融。

钱江晚报记者梳理了人工智能发展的历程,并请浙江大学计算机科学与技术学院教授蔡登分析,人工智能会不会在未来KO人脑。

当人们同时看到不同和相同的时候,也许这恰是我们的智慧原点。

——比尔•乔伊,SUN公司创始人,前首席科学家

第9章 回应评论家
一系列的批评
来自怀疑者的批评
来自马尔萨斯的批评
来自软件的批评
来自模拟处理的批评
来自神经处理的复杂性的批评
来自微管和量子计算的批评
来自图灵支持派理论的批评
来自故障率的批评
来自锁定效应的批评
来自本体论的批评:一个计算机可以有意识吗
来自贫富差距的批评
来自政府管制可能性的批评
来自整体论的批评

第3章 达到人脑的计算能力
计算机技术第六范式:三维分子计算和新兴计算技术
人类大脑的计算能力
计算的限制