上篇
理念与技术

思想观念：人类观念秩序的重构

杨小康

上海交通大学校友会人工智能分会副会长，图像所2000届博士校友，上海交通大学人工智能研究院常务副院长。

一、人工智能发展概况

1．人类进入智能时代

图1是人工智能（artificial intelligence，AI）技术发展的一个简单历史沿革。人工智能已经经历了60多年的发展，中间起起落落，直到2016年，AlphaGo在围棋比赛中战胜了人类围棋世界冠军李世石，人类进入智能时代。智能时代的开启，至少有三个标志。

1）标志一：人类观念的改变

人工智能是ABC之和。A（algortithm）是算法，以深度学习为代表；B（big data）是大数据，有了海量的数据之后，算法能够不断自我进化，使得算法的参数越来越好；C（computation）是算力，CPU、GPU以及TPU的集群提供了充分的算力来支撑算法和大数据。

AlphaGo战胜李世石，并且不需要依赖人为经验和规则。它（AlphaGo）主要是靠两个深度神经网络来模仿和学习人类高手的对弈，并且能够做到左右互搏。这一事件本身为人工智能在观念层面上做了一次非常好的全球性宣传。

AlphaGo的诞生给了我们两个启示。第一，人工智能将基于算法，以数据、算力、体力、心力的优势击败人类。第二，在集合、规则、约束固定的问题中，人工智能必将战胜人类。

这两个启示可以让我们理性地看待人工智能。在技术层面，我们可以知道人工智能在哪些方面做得非常好、哪些方面近期很难做得特别好。这个对于做开发、选项目非常重要。在观念层面上，我们就不会把人工智能万能化，更不会把人工智能妖魔化。

2）标志二：大量落地应用

人工智能和人具有一定相似性，至少在以下六个方面可以比拟。

（1）感知。人工智能用计算机视觉来“看”，用语音识别来“听”。

（2）认知。人工智能也会运用一些知识进行推理。

（3）交流。人工智能也要做自然语言处理，进行语言层面上的信息互通、知识共享等。

（4）运动。更广泛意义上是指智能机器人，这也是大家对人工智能非常具象的理解。

（5）竞合。人会竞争与合作，人工智能也会竞争与合作，这里主要是指多智能体、多智能强化学习等。

（6）学习。学习是人非常重要的能力。对人工智能来讲，机器学习是一个主力分支，同时也为其他五个方面提供了非常好的解法。

需要指出，深度学习只是机器学习非常小的一个分支，深度学习不等于人工智能。但是在这次人工智能浪潮当中，深度学习的确是非常重要的，正因为有了深度学习，才使得人脸识别、视频监控等以前不能用的技术，做到了真正的落地应用。

3）标志三：正在改变社会

人工智能将在算法、算力、数据等层面创造一个万物智能的新时代，在数字化、网络化基础之上，智能化将对人类社会形成一个升维的重构。

人工智能已经在医疗、金融、财会等方面起到非常重要的作用。2017年，创新工场董事长兼CEO李开复在接受专访时预测说，10年后50%的人类工作将被AI取代。这个说法在技术上非常乐观，但是在人文意义上略显悲观。我们预计，未来10年，50%的现有岗位将有人工智能作为大家非常好的助手，这样的人工智能应该有，也可以有。

2．中国发展人工智能的优势

我国非常重视人工智能的发展。人工智能也是国家重要战略，我们国家在发展人工智能方面还有一些优势。

1）算法是人工智能的大脑

算法最初都是发表在一些科研论文上的。据统计，人工智能领域顶尖国际会议和期刊中有超过30%的论文是由中国人撰写的，这意味着我们国家发展人工智能具有非常好的智力资源。

2）算力是人工智能的躯体

我们国家有太湖之光、天河二号等超级计算机，同时我国智能手机的普及率也非常高，普及率高意味着每个人所拥有的平均计算能力是非常高的，这对开展人工智能的用户终端应用是非常有优势的。

3）大数据是人工智能成长的养分

我们国家有人口、地理这样静止的、冷的大数据，也有像交易、诊疗这样动态的、热的大数据，而且每一类的数据量都极为巨大。

所以我国无论是算法、算力，还是大数据，总量上的确具有非常好的优势。当然，中国在原创性尤其是芯片等基础技术方面与欧美发达国家还有一定差距，这也是我们需要努力的方向。

3．中国新一代人工智能发展规划的五大技术方向

根据国家对于人工智能发展的规划，五大技术方向包括：

（1）大数据智能，从传统的知识工程技术到大数据驱动知识学习；

（2）群体智能，从聚焦研究“个体智能”到基于互联网络的群体智能，即从单体单能到多体多能；

（3）跨媒体智能，从单一媒体跨数据到跨媒体认知、学习和推理；

（4）混合增强智能，从追求“机器智能”到迈向人机混合的增强智能；

（5）自主无人系统，从机器人到智能自主系统。

二、人工智能的未来愿景

上述这些技术的发展会为人类创造一个非常好的愿景，其中之一是以人为中心的人工智能，也就是“超人感知，类人服务”。

超人感知指人工智能通过使用大数据、超算，可以更好、更及时、更动态地理解人、机、物融合的三元空间中的变化，比人类更加灵敏和准确。

类人服务在某种程度上要求比拟人的智能做到更好的双向理解。人要知道人工智能能够做些什么，而人工智能也要知道人类目前所处的状态、情绪怎样，从而在一定程度上帮助人、服务人。

1．类人智能

1）类脑计算

类人智能研究非常重要的方向是类脑计算。IBM之前推出一个芯片叫真北（TrueNorth），功耗非常低，100万个神经元，功耗只有65毫瓦，当然性能也很有限。这里想强调的是，低功耗是非常重要的，人脑的功耗是20瓦。前面战胜李世石的AlphaGo的功耗是李世石（大脑）的37万倍，从某种意义来讲，这种竞争是不公平的。

类脑计算可以大大降低芯片的功耗，同时也可以使人工智能自学习、自发育。

2）类人知觉

在感知层面上，目前人工智能可以做到语音、图像双向理解，也就是看图说话、说话读图等。在不久的将来，人工智能可以做到非常体贴入微。

以家庭服务机器人为例，比如，今天来了一位客人，首先，它从人脸识别，这是一位比较友善的人，之前没有见过，是陌生人，它就会上来问这位客人喝点什么，如果客人回答要喝咖啡，它可以给客人端咖啡，甚至做咖啡，这样的人工智能不久的将来可能就会有。

3）艺术创作

现在人工智能领域有一个热点，叫生成对抗网络。生成对抗网络可以作画。比如应用人工智能，把梵高某幅画的风格迁移到了斯坦福校园的照片上，这样的人工智能从某种意义来讲的确具有某种创意、某种品位，这个和前面讲到的家庭服务机器人不太一样，前者科技感比较强，但是给人的感觉总是冷冰冰的，而后者使得人工智能带有一种人文的气息。又如，微软的小冰聊天机器人，它作的诗有些的确比徐志摩还要缥缈，比李白还豪迈。结合以假乱真的作画和自动写诗，这样的人工智能可以认为具有一定的创意和品位。

2．超人感知

1）全谱感知

超人感知是自然而然的。人其实是一个非常窄的带通滤波器，人的视觉在整个电磁波谱当中只能看到可见光那个波段，听觉也是一样，而人工智能可以把不同谱段的传感器联结在仪器上，加上智能算法，实现全谱段的感知。

比如，有科研项目用雷达做行为的识别，可以远距离非接触地测心跳。又如，太赫兹安检，有了高光谱、对立观测，就可以把原来检测不到的陶瓷刀等检测出来。

有了这样的人工智能之后，可以在肉眼基础上，提升到天眼，甚至是慧眼。

2）自动驾驶

超人感知非常重要的应用之一是自动驾驶。图2显示的上海交大（SJTU）无人小巴，它的使用非常方便，这样的小巴目前在低速环境中的应用非常好。

基于超人感知，未来的自动驾驶可以将路径规划、支付等一系列的动作交给人工智能做。当然自动驾驶有很多形态，我认为至少未来乘用车还是得有一个方向盘，提供自驾或者自动驾驶的选择权，结合5G智能网联的形态，驾驶员累的时候可以把方向盘交给自动驾驶。同样，如果到了一个非常美丽的景观面前，比如行驶在青藏公路、加州一号公路上，驾驶员又可以接管方向盘，享受驾驶的乐趣。

这样的自动驾驶技术使得驾驶感受提升到了更高的层次，我称之为“从心所欲不逾矩”，也就是既安全又自主。有了这样的技术之后，人类每一次出行都是一次旅行，我们就有更多时间享受诗和远方了。

3．类人服务

当前人工智能要实现类人服务，主要是服务人类的健康。有一个叫特鲁多的美国医生，他的墓志铭写着，“偶尔去治愈，常常去帮助，总是去安慰”。这也是很多医生的座右铭，这是一种有爱的医学，具有非常高的人文关怀。但是，由于现阶段医疗资源不充分、不均衡，很难实现这样高的人文关怀，有了人工智能之后，可以重构甚至再造医疗资源。

经过人工智能辅助后的医学，能够给人类带来超级医生助手、超级医护助手、超级家庭医生助理，人工智能将让人类生活得更健康、更有尊严。医疗手术机器人技术目前可以实现非常好的微创手术，可以全面地检查胃肠道，也可以做心血管介入治疗等。智能医学影像成果无论在肺结节检测还是在视网膜病变检测上，都可以做到非常接近普通医生的水平，有时甚至超过普通医生水平。

基因分析也是人工智能所擅长的一个领域。基因技术发展可以使得我们用人工智能做非常好的基于基因个性化的靶向治疗，这可能会使我们在癌症治疗等历史性难题方面得到突破。

在抗击新冠肺炎疫情当中，上海交大科研团队创立的思必驰公司做了一个疫情防控机器人，通过语音技术对重点人群进行回访，这样可以非常好地做摸底排查工作，对中高风险人群做好疫情防控。

上海交大医学院开发了一个防疫医护服务机器人，就是在一个低速的无人车上加了智能影像分析、智能图像、智能语音，让它在医院里面自由走动、查房、远程操控和医生进行交互，从而使医生得到有效的保护。

三、人工智能对观念层面影响的思考

人工智能把人类带到了一个新的境界，将对观念进行重构，重构人类的观念秩序，无论是人生观、世界观，还是价值观方面。人机结合，会不会使得人类向更高阶段进化？虚实结合，人和自然如何和谐相处？自主无人，如何重构人的价值和意义？这些留待我们做进一步的思考。

1．人类何为？

1）人工智能重构和增强人的身体

有了人工智能、智能手机之后，很多人变成了低头族，如果上班忘了带手机，很多时候没有办法开展工作。在新冠疫情防控当中，进入各类场所时需要出示健康码，很多不会用手机、没有手机的老年人变得寸步难行，这也是人工智能带来的一些挑战。

更深层次，人工智能和我们的身体会非常紧密地结合。目前的一种技术趋势是人和人工智能做一种结合，形成一种混合的增强智能。特斯拉公司创始人埃隆·马斯克曾经说过“现在人类已经算是‘生化电子人’（cybrog）了”，就是指把机器装在人体里面的一种人机结合的人，就像以前科幻电影中的场景，人的某些器官已经实现了局部性的机器替代（见图3）。比如外骨骼机器人可以增强人类的肢体能力；人工耳蜗等技术可以弥补人类的器官功能；“脑机接口”、光遗传学这样的技术可以用来恢复、强化大脑的一些机能，但是反过来是不是也可能会操控大脑？

当人工智能不断地深入人体当中，什么叫做人？人的主体性会不会发生一些改变？这是值得我们思考的问题。

2）人工智能重构人的行为和思维

在人工智能给人类带来便利的同时，人类其实也被人工智能所驯化了。算法的确很多时候比你自己还懂你，特别是在购物的时候推荐的东西真的挺准。但是算法或者数据在俯视人类、俯视每一个人的时候，我们很多珍贵的东西可能正在失去。

人工智能带来的行为改变具有两面性。有时候信息越发达反而交流越困难，比如社交自闭。以前大家聚会都是一起侃大山，现在大家聚在一起是一起看手机，面对面发微信，这会导致严重的社交自闭。又如人群分类，人工智能可能会带来一些歧视，比如性别歧视、种族歧视等。深度学习这样的算法无处不在，深度学习主要是在做聚类、分类上的问题。在网络社区中应用算法不断给你推送所谓和你匹配的信息，使得人可能会变得越来越二极化、越来越极端，这样的话人群会不断被割裂，社会的戾气也会加重。

人是理性的动物，但是经常又有魔鬼的冲动，也会做出一些非理性的选择，人工智能相对来讲客观理性，是以理性思维取胜的，从这个意义来讲，人类需要道德律，人之所以作为人其实是有道德律的。人工智能高度理性，它能不能帮助人类理性地进行道德评判和选择呢？能不能督促人类更自律？能不能成为维护正常社会秩序的道德利器？

以智能交通为例，疲劳驾驶的检测算法，可以帮助人类更好地做自律，电子检查可以在某种程度上帮助人类更好地他律，从这个意义来讲，人工智能的运用会正向推动社会道德的进步。

2．世界何在？

我们此前熟悉的时间与空间是二元关联，现在有了人工智能、大数据之后，人类生活在人、机、物三元的融合中，人类最终会不会走向虚实合一、人机一体的世界？在原始文明、农业文明、工业文明基础上，在智能文明当中，人与自然能不能和谐相处？

1）如何管控虚拟世界？

当前人工智能、大数据使得万物都可以感知，万物互联、万物智能。也就是说人工智能所带来的数字孪生正在构建一个和现实世界高度径向的虚拟世界，比如说数字孪生城市，可以把城市当中的所有东西进行数字化。

人本身也可以被孪生，比如现在已经做得比较成熟的用户画像，就是主要利用用户标签数据进行分析，对人的偏好形成画像。又如一款名叫“ZAO”的应用，是一款人工智能换脸软件，可以实现深度造假，将影视剧中的角色换成自己的形象，其实这也是音视频层面的数字孪生。未来是否会更进一步，人的基因、脑数据都被全面分析出来，构造出一个数字孪生人？

随之带来的问题是如何管控虚拟世界：如何管理数字孪生资产和数字孪生人？如何防止过度沉迷于虚拟世界？如何打击虚拟世界当中的种种罪恶？

2）AI时代，世界更安全？人类更有安全感？

人在这个世界当中是需要安全的，安全是第一位的。人工智能时代，世界是不是变得更安全、人类是不是更有安全感？

需要注意的是，这里说的安全和安全感不一样。以自动驾驶为例，从概率统计来讲，自动驾驶的车的确比一般的车更安全，但是如果说自动驾驶的车出一次事故，对社会的影响就特别大，因为采用自动驾驶而把生死交给这辆车之后，自己在很大程度上操控不了车辆，失去操控感之后，会带来不安全感。其他具体的例子非常多，比如从正面看，智慧城市、智能医疗等带来了更多安全，这是毫无疑问的。但在这个过程当中，会导致隐私的泄露、虚拟新闻等，则会降低安全感。

这一波人工智能浪潮，深度学习起到了非常重要的作用，它高度浸入人、机、物三元的融合中。但是深度学习是一个黑箱化的模型，黑箱会带来脆弱性，客观上存在不安全的隐患，也会使算法过程、算法输出不具备可解释性，主观上增强了不可控，也会让人有不安全的感觉。

3．价值何来？

之前是手工劳动、工业流水线，现在已经出现了无人产业了，比如特斯拉的无人工厂，只有150个机器人，还有上海洋山港无人码头，整个集装箱的装卸、转运都是自动完成的。人工智能正在优化人类劳动，在提高效率的同时，无人产业会对传统意义上的劳动价值论带来什么影响呢？会带来一些问题，比如谁创造了这个价值？怎么分配这个价值？

对于无人产业可能有一种非常悲观的看法，就是无人产业将大量地替代人的工作，产生大量的无用之人，很多人会有一种被替代、被忽视、被排斥的感觉，使得人在社会当中觉得非常荒谬。

也有一种非常乐观的看法，无人产业将使得人类的自由时间高度充裕、物质文明高度繁荣、资源分配极度优化，从这些意义来看，人类憧憬的新世界正在加速到来。

Q&A

Q　上海交通大学特别是人工智能研究院在人工智能人才培养方面有什么独到的举措呢？

A　上海交大人工智能人才培养主要聚焦两方面，基础性人才和复合型人才。基础性人才从博士生和本科生的角度考虑多一点，特别是学术型博士，本科培养希望学生底子好，博士培养希望学生在理论和创新方面有突破。而复合型人才培养主要是对大部分硕士生以及工程博士而言，针对重大应用和需求来培养。交大人工智能研究院将来会成立十几个研究中心，它们交叉性很强，比如数学和人工智能结合。人才培养方面这样去做的确可能在重大理论问题方面有突破。

还有很大一部分研究中心是AI+X的模式，比如自动驾驶、智能医疗、智能工厂跟法学、金融的结合，联合培养硕士研究生、工程博士。

我们依托人工智能研究院本体，和数学结合，把人才基础培养做好，然后其他研究中心把复合型人才培养好，这是我们的基本想法。