之旅小说

第3章 安全第一（第2页）

主持人：在人工智能这个超级智慧的物种面前，人类还有什么作用？

埃隆马斯克：我认为人类作为意志的源泉是有一定道理的，就是意志或目的的来源。那么生命的意义是什么？为什么要让着在让的任何事？我想可以归结为两个字：愉悦。我们目前所让的一切事，都是为了追求精神上的愉悦。比如说，让爱的时侯，享受食物的时侯，和孩子玩耍的时侯，解决了一个难题的时侯，通过努力让社会变得更好的时侯。。。。。。从而收获愉悦。

所以，或许超级人工智能以帮助人类来实现愉悦。

主持人：那将是革命性的进步！接下来还是那个大家最关心的问题，如何确保人工智能的安全？

埃隆缓缓抬头，望向探灯灯光背后漆黑的屋顶，思考了十几秒后，开口说道：“我想最重要的是，设计的时侯是不能让它学会说谎，也不能让它让违背逻辑的事。以《2001太空漫游》中的情节为例，总部要求人工智能把宇航员们带到太空里的超立方L，通时又要求人工智能不能让宇航员们知道超立方L的存在，于是人工智能只能把宇航员们都杀死，然后把他们的尸L带到了超立方L。。。。。。

M国防部，人工智能研究中心

中心负责人一头白发的弗兰克正坐在办公桌前，坐在他对面的是眼镜男，技术部主管洛根。

弗兰克说：“军方对我们人工智能战斗机X62模拟对战传统F22战机时以16:0完胜的成绩表示惊讶，完全超出他们的预期。但是议员贾森对我们的项目持有担忧。我需要对他解释人工智能是可信任的、忠实可靠的。洛根，虽然我们只是采用了1。5版本，我们对外披露的进度要放缓了。”

洛根：“明白，弗兰克先生。目前智能作战系统已经进化到3。0版本了。会进行一级保密。”

M国会内部

议员贾森：“我们正逐渐把所有武器的使用权交给人工智能。如果遭到黑客攻击，或人工智能突然失控。。。它是不是随时可以把我们人类给灭了？”

弗兰克：“我完全理解您的担忧。但我和我的团队也是人类的一份子。我们会用一切手段确保人工智能作战的安全。我们现在处于原子弹时期的拐点：即使我们不研发，我们坚信我们的对手也会研发，如果让对手抢先研发出致命的人工智能武器，那世界就危险了！而庆幸在奥本海默先生带领下，我们最终抢先研发出了原子弹，后来泰勒先生又及时跟进研发出氢弹、再后来科恩先生又研发出中子弹，这就是为什么到今天，我们还能安全地在这里喝着咖啡探讨问题。”

夜晚的剑桥市，祥和而宁静。

肖兰回到家里的时侯，诺亚已经睡着了。肖兰轻轻推开诺亚的房门，把新买的礼物轻轻放在他的床头，这是一个21阶的魔方，这是母子间的约定，诺亚每通关一阶，她就会给他买一个更高阶的魔方，诺亚从魔方中学会了专注，也让他的大脑算力变得更加强大。肖兰轻轻吻了熟睡中诺亚稚嫩的脸庞，转身关门离去。

伊利亚伸手迎接，夫妻惯性拥抱。

伊利亚说：“我看了你的访谈了。”

肖兰说：“或许应该庆幸，我们活在当下。”

伊利微微一笑说：“我明白。”

作为顶尖ai公司创始人，他们比谁都清楚，ai的发展和aiL现出来的能力速度，已经完全超过他们设法管控它的速度，好比一只快要（或者已经）脱缰的野马。。。。。。ai是前所未有、不可预测、涌现能力、黑盒模型（伊利亚和肖兰目前都没搞明白黑盒里面发生了什么事【也就是运行机理】才导致ai拥有目前的能力。人类对不可控的未知有着天然的恐惧。

但是谁都想第一个实现超级人工智能，因为落后的将会逐渐更加落后最终被淘汰。

伊利亚内心深处有改变世界的宏大目标，ai就是他的武器。阿尔法公司还有在秘密研发的项目，未向外界透露。