第473章 机器人法则 (1/2)

李尘：“第一首的打算是，利用量子计算机，不管我们龙国研制成功后，还需要多久才会公布，才会给商用一个机会。我都要争取到自己的渠道，做量子计算机的第一批使用者，如你所说，深度学习，如果能够用在生活的方方面面的话，那么说，造出的人工智能是无比强大的，这样的人工智能，就算花再多的代价获得也不为过。”

乔布斯：“不错，火龙系统一旦诞生，整个人类社会都会发生天翻地覆的变化，我们已经设计好了一套完整的方案，我们系统绝不会只是满足于软件方面，他在超级计算机中成熟之后，第一件事情就是设计出一套，完美的3d打印系统，配合3d打印，火龙系统可以制造出超越时代的科技，而这一切都不需要通过思维缓慢的人类，一旦火龙系统成功的制造出来，不亚于第一次第二次工业革命。”

李尘：“嗯，对于量子计算机我会保持最高的关注的，但是如果我确实到时候得不到量子计算机的话，我们要做好第二手打算，那就是依旧用你原来的方案，租借世界各地的超级计算机，以及建造自己的超级计算机，100亿美元离我也不太远了，青藤市的三个实业公司，倾城仙品，丰玉珠宝行，龙华制药厂，带来的现金流都非常的充足，龙都的蓝水地产和火龙电子，也会马上踏入更成功的行列，相信不出半年100亿就完全可以实现，而如果情况更好的话，甚至三个月，是一个月，都有可能达成。”

乔布斯：“好，都看尘哥的了，至于火龙手机制造，需要联系的那些制造商，我都会帮尘哥处理好，制造商，行业中的巨头，我在当年的时候都和他们打好了招呼，我会给那个叫谢东的小子和所有制造商接头的暗号，火龙手机会优于世界上所有的手机生产出来，不出半年，我想火龙手机，就可以超过iphone手机的地位了。”

李尘：“乔帮主，你也真是舍得啊，iphone毕竟也是你的孩子，不过当然，火龙手机更是你的心的心血之作。放心吧，我到时候不会让iphone倒下的，必要的时候我会接手他，火龙电子的手机部门可以和iphone合并，毕竟火龙电子最终的目标是，火龙系统，而不是单单的一个手机。”

乔布斯：“呵呵，我确实和apple有感情，不过在全人类的进步之下，这也无关宏旨，在apple倒下之后，就麻烦尘哥帮忙照顾一下了。”

李尘：“一定！”

乔布斯：“好，我这就去继续优化火龙系统！火龙系统在天界不可能做成，但是我们会把它的种子做出来，只要能得到人界的超级计算机的巨大算力，火龙系统会自我进化，而最终达成真正的强人工智能。这就是一个胚胎，或者说婴儿，这个胚胎还不是十分稳定，爱因斯坦和特斯拉正在研究基本层面的法则，让火龙系统绝对不会危害人类，在人类设定的框架之下运行。”

李尘：“哦，是机器人三大法则吗？”

乔布斯：“不错，不过比起机器人三大法则要复杂得多，机器人三大法则的实现本身就是一个非常复杂的命题，如果在人界，一代科学家的黄金时间只有几十年的话，能真正的实现机器人三大法则可能性微乎其微，我们在天界有着寿命无限的天才科学家，全都聚集在一起，也才能挑战这一个，最终极的项目。”

李尘：“明白，去吧乔帮主。”

李尘退出微信之后，感到全身都有一些发麻，自己不仅是在见证历史，而且是在参与历史。

机器人三大法则是著名的科幻小说家阿西莫夫在银河帝国系列中提出的，1942年的时候，世界上甚至没有真正的装载电脑的机器人，但是阿西莫夫伟大的想象力，却已经为将来即将来到的机器人设定好了lún_lǐ道德。

“第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管；

第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外；

第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存；

第零定律：机器人必须保护人类的整体利益不受伤害，其它三条定律都是在这一前提下才能成立。”

这几个定律完美的使得机器人成为了人类忠实的朋友，一切的行动都为人类的福祉着想，所以机器人是个人会比人类强大无数倍，但是却不会，给人类社会带来灾害，更不会灭绝人类。

但是机器人三大法则，最致命的一点，如何给机器人设定这几大法则。

以人界当前的人工智能水平，机器人恐怕连人类和充气娃娃都分不清，而人类在什么时候将遭受威胁，也没有任何的机器人，有能力有水准判断，所以机器人的第一定律就实现不了。

而机器人法则之中，最为终极的，也是最为关键的一个法则，第零法则，机器人必须保护人类的整体利益不受伤害，这一法则之中涉及了对人类的整体利益进行判断，

人类的整体利益涉及的面非常广大，而且需要考验机器人对于lún_lǐ的，极为苛刻的判断能力，要达到第零法则，机器人在lún_lǐ方面的造诣也会超越全人类任何一个lún_lǐ学家，

而目前的情况是，不说机器人，即使是当今世界所有的人类都无法对这一价值进行判断，

每一个人类都属于一个群体，都有思维的固执，而现实是，一个群体的受损，往往伴随