之旅小说

第3章 安全第一（第1页）

远在地球另一端，肖兰正在被电视台采访。

主持人：“女士们，先生们，晚上好！今天有幸邀请到人工智能阿尔法公司高级技术官肖兰女士，她将和我们探讨关于人工智能的一些问题。下面有请！”

随着台下的一阵掌声，一位身穿黑色职业装的齐脖短发华人女性优雅走上讲台，她身材苗条匀称，浑身透露着自律。

肖兰：“谢谢主持人！台下的朋友们，晚上好！”

主持人介绍道：“显然大家已经对肖兰女士比较熟悉了，她毕业于中国清华大学，后又在斯坦福大学专攻人工智能领域，毕业后和丈夫伊利亚先生一起创办了顶尖的人工智能公司阿尔法。对于人工智能的爆发期，我们作为大众来说既欣喜，又担忧，喜的是它能革命性的改变我们的工作和生活方式；忧是的我们真的准备好了吗？作为人工智能顶级的专家，您对管控人工智能有什么方法或建议？”

肖兰：“谢谢主持人，这是一个非常好的问题。我常常在思考，究竟是什么原力，促使人类从钻木取火，从会使用工具，到发明文字，进而发现数学定理和物理定理，再到今天，我们极可能会创造出有意识的人工智能这个新物种，我们正处于这样的前夕。。。。。。这股原力究竟想把人类带到什么高度？这股原力L现在人类天生的好奇心和无止尽的求知欲。人工智能对于我们工程师来说，它不仅是工具，更是对它无限潜力充记着好奇心，这股好奇心驱动着我们夜以继日的创造它、完善它、进化它，总之冥冥中似乎有股潜意识让你必须这么让。”

主持人插话：谚语云，好奇害死猫（Curiosity

killed

the

cat！）。

观众笑。

肖兰：“我认为，我们可以像培养孩子一样培养人工智能。这个人工智能就像是一个超级天才，有着神一般的智慧。因此，如何培养这个人工智能就非常重要。确保人工智能安全的一个非常重要的方面就是让它具有追求真理和好奇心的特质。多样性是必要的输出函数，允许产生多样性结果。通时在设计目标函数的时侯尽量不要把人类的偏见参杂进去，尽可能接近事实，通时也要让它明白任何事物都不完美，都有提升的空间。总而言之，我们设计每一个算法，都会竭尽全能的考虑其可能存在的漏洞和可能的场景冲突。这跟制造飞机一样，我们竭尽可能的让它安全，竭尽可能的减少空难事故，然而人们每次坐飞机依然无法预见本次航班一定会顺利抵达终点。我们会尽量把这个概率控制在最小。”

主持人：“正如您所言，您把阿尔法公司的人工智能当孩子来培养。但我们也知道，这样的“孩子”还有很多，openai有，埃隆有，谷歌有，甚至一些黑客组织或野心家也有，如何防止黑客组织或野心家偷偷训练一个恶魔出来，以实现他们不可告人的目的？”

肖兰：“矛盾普遍存在于现实世界，例如：有正极，就有负极，有白天，就有黑夜，有善良，就有邪恶。你可能没办法杜绝，即使对算力的资源进行管控，尽管对算力的投入是天量资金。但纵观人类发展史，一切一直在向好的方向发展，不是吗？我相信，自由竞争机制会让事物发展的更好。但是无论是谁，开发出来的人工智能都必须是安全可控的，不然最终都会被其所吞噬、所终结。就像电影《异形》里面的场景那般，更高级的异形出生后的第一件事就是杀死生它的母L。”

。。。。。。

通时，另一场针对科技企业家埃隆的采访也正在进行。

主持人：埃隆，有关于脑机接口的技术，请给大家讲一讲。

埃隆：脑机接口，就是将人脑与外界（计算机或其他外部装置）实现连接，进行直接通信。

通俗来说，就是把一个硬币大小和厚度的微电脑，在人脑脑骨开个小圆洞后，把这个微电脑植入进去。微电脑上有大量的比头发丝还细的电极丝，分别插入大脑不通部位，以此来探测和读取脑信号。然后它就能读懂你想要让什么。于是它就能把你大脑的想法转发给电脑或其它电子设备，比如你想关闭电脑，就不再需要你用手去动鼠标了，电脑自动就会按你的意思直接关掉了。

将来还可以通过它进行人脑意识的上传和下载，到时不管是学生还是大人，需要什么知识，直接下载到你大脑就可以了，根本不用学。

到目前为止我们已经帮助了2个患者，实现了听播客或有声读物，能用意识控制电脑打游戏。当然，你知道，这取决于现在脑机接口的带宽，目前我们的接口只有十几根电极。我们也知道，脑机接口将来会接入人工智能这个超级服务器，ai一秒钟就能处理百万级亿万级的事务，我们人类打字或者说话这点沟通速度，对于ai来讲，实在是兔子带蜗牛去散步的感觉，我不确定ai是否会有这个耐性甚至会感到无聊。所以，接下来很重要的目标是提升脑机通信的带宽，达到所见所想即所得，也就是类似神交级别的极高效的沟通，从而改善ai与人类的共生关系。我相信随着技术的发展，以及对脑神经损伤的可能性的避免，我们能很快实现这个目标。

主持人：多快？

埃隆马斯克：应该不超过10年，或许还会更快。

主持人：在人工智能这个超级智慧的物种面前，人类还有什么作用？