人物现场

四季书评新春采访之一:何光沪

何光沪(学者)

1.在过去一年里,有什么书是让你觉得耳目一新的?为什么?

在过去一年里,有一本书真的让我觉得耳目一新,那就是《人工智能革命——超级智能时代的人类命运》(【英】卡鲁姆-蔡斯著,张尧然译,机械工业出版社,2017年5月)。该书谈的不是一般的问题,而是人类在近期可能会永生、也可能会灭绝的问题。那就是所谓“超级人工智能”可能带来的美妙前景或恐怖前景的问题。这是关系到全人类命运的问题。因为如果受益,受益者不是某一个国家、某一个群体、某一个阶层、某一个党派,而是所有人——例如手机这一人工智能终端带来的益处就是如此。如果受害,受害者也不是某一个民族、国家、阶层、集团,而是全世界——例如,设想“超级人工智能”侵入核武器控制系统并启动核导弹的情况,那甚至会是包括动物界、植物界在内的整个地球生物界的大劫难!

之所以会如此,是因为按照多数专家的预测,“广义人工智能”或“强人工智能”,即不是在某一或某些方面拥有(或超过)人工智能,而是在所有方面拥有人类智能的“机器人”,会在本世纪下半叶(很大可能是在2075年)出现;在此之后,由于人工智能或“电脑”处理速度方面的“摩尔定律”(即其处理速度以指数增长),所谓“超级人工智能”会在几年甚至几个月之内出现,那时各方面的能力超过人类无数倍、能力还会飞速增长、可以自主决策,甚至可以复制能力更强的后代的“超级智能”,它们如果要控制或者毁灭全人类,确实会轻而易举!

所以,包括斯蒂芬.霍金、比尔.盖茨和埃隆.马斯克在内的一些科技大腕和大企业家,都严肃地警告人类,必须考虑巨大灾难的风险,未雨绸缪,有所收敛,甚至立法禁止某些研究。

当然,该书也指出了“广义人工智能”可能带来的种种利益,特别是它同基因工程的结合,可能带来人类“长生不死”的结果。为了产生更好的结果,避免坏的结果,书中提出了人类必须进入“友好人工智能”阶段,即必须保证“超级人工智能”对人类友好。但是,作者清晰而冷峻地指出,超级人工智能造成灾难的可能性,明显大于带来福祉的可能性——毕竟,沦落为另一物种手中的万物或“低等”的存在物,其他的“福祉”有何意义呢?例如,我们会羡慕不虞匮乏并坐享一切的宠物或动物园里的动物们的生活吗?

在读此书后写的“从宗教角度看人工智能”中,我也作了一点反思:上帝造人并给人以自由,人类却因想要“像上帝一样”而接受诱惑、反叛上帝,因而受罚。现在,人又一次想要“像上帝一样”,“按照自己的形象”造“机器人”或“电脑”,即把自己本性的一部分,把“心智”中的智(哲学家所谓的工具理性,即记忆、计算、推理、谋划等能力)和创造新事物的能力(创造力)交给了机器,也许会面临第二次的惩罚——不是被逐出伊甸园,而是被逐出地球?

因此,人类必须,首先是专家们——尤其是其后盾即大公司和政府——必须考虑,如何能够将“心智”中的“心”(哲学家所谓价值理性或老百姓所谓良心)赋予人工智能,如何能够不让人工智能获得“自由”即不受控地抉择的能力。只有做到前一件事,才能确保人工智能“对人友好”。只有做到后一件事,才能避免人工智能“反叛人类”。这是两件当务之急、但都是极端困难的事情——希望不是不可能的。

最后,有一件事也很困难,但因为取决于我们的意愿而不是能力,所以似乎不是不可能,那就是,人类现在就开始约束自己——不要只贪图人工智能之利,而必须警惕其害,预防灭顶之灾。

2.在过去一年里,有什么书是让你觉得失望或糟糕的?为什么?

我读书很慢,时间很紧,又有点“完美主义”,不能忍受回避事实或不合逻辑或文字拙劣的书籍。所以,如果我“觉得失望或糟糕”,那么我看了一两页就会放下一本书,多半就不再记得是“什么书”了。

不过还有两点可论,一是去年,我还翻看了一本人工智能方面的书,书名又是《人工智能革命》,但副标题是《历史、当下和未来》(王天一著,北京时代华文书局,2017年6月)。读“前言”时我有点“觉得失望”,但是后来再往下读,就觉得写得相当好,觉得这本书虽然不像蔡斯写的同名书(其实是被译成那样的,原名是Surviving AI: The Promise and Peril of Artificial Intelligence)那么简明、精炼、集中,但是相当全面、深入、细致,为读者提供了许多知识。可见,最初的“觉得”也会不可靠!

二是现在国内这种出版环境,越来越多种类的书必须事先接受检查,而检查通过的标准越来越不可理喻,言论能否发表越来越多地取决于电脑中事先输入的关键词和“敏感词”,这就必然导致中国这个“文化大国”出版的书会越来越多地让人“觉得失望和糟糕”,甚至思想被机器控制,中文被大肆糟蹋——君不见网上充斥着不得不故意写的错字、别字、谐音词、外来词,等等?

3.你现在手头在读什么书?阅读的原因?

我现在主要不是在读书,是在读手机,读朋友转发的各类文章,其中也有书,比如说一位朋友最近写的关于柏格里(Samuel Pollard)的小说。原因呢?上面说的第二点不无关系,也许对我来说是重要的原因,因为杂志文章同书籍处于同样的环境之中,必然会越来越多地让人“觉得失望或糟糕”,甚至愤怒。实际上,这是众多的、越来越多的读者和作者共同的感受。当然就我个人而言,我因为读书慢,深感自己接触面太窄,常常自叹“闭目塞听”,现在真拜“人工智能”之赐(尽管前面说了它不少坏话),可以大为容易地接触众多方面的信息,读到许多话题的文章,眼界大大开阔了!

所以,又回到第一个话题:人工智能真是天使,但愿它们不会变成魔鬼!

4.在春节里,你会看什么书?为什么?

在春节里,我想再翻看一本厚厚的《从万国公报到牛津共识——基督教与近代以来的社会思潮》(王文锋著,方舟机构有限公司出版,2017年11月)。这是“基督教入温(州)丛书”的一本,作者是“牛津共识”的发起人和组织者。

我对该书的推荐,是因为它“具有超出思想史的意义和价值。因为读者从中可以看到中国最杰出的思想家和活动家,甚至从官场到民间,从哲学到政治各领域的领军人物与基督教的关系,从而也就看到了中国社会各领域一个半世纪以来的变化发展与基督教的关系,由于有这种新的视角,还可以对中国思想、中国社会的发展有一种新的理解。”

作者王文锋虽然与我在2010年才认识,可以说已是老友。他尽管当时才三十出头,却以对信仰的热诚,对中国社会的关心而令我钦佩…仅以他从一个新的重要角度搜罗了如此丰富的资料,从“双向影响”的视角进行了爬梳整理,对这纵贯三个世纪的历史的一个侧面进行了翔实的描述而论,这本书已经值得我向读者举荐了。“我相信,不论是专业人士,还是一般读者,只要是对中国社会最近一百七十多年的艰苦历程真心关切的人,都会从这本书中获益。”(见笔者为该书所作序言)

好,答问完毕,盼能对读者有益!

何光沪◾️

一键分享

Leave a Reply

Your email address will not be published. Required fields are marked *

%d bloggers like this: