雪貂小说

字:
关灯 护眼
雪貂小说 > 柯南之我不是蛇精病 > 第590章 上帝的伊甸园

第590章 上帝的伊甸园

  第590章 上帝的伊甸园 (第2/2页)
  
  池加奈有些不知该说什么,自家儿子这句评价一针见血,没毛病。
  
  泽田弘树默默将推算结果命名为‘上帝的伊甸园’,又继续道,“如果设置为希望世界变好等设定,最后结果也会差不多,大概在十年后,方舟就会做出这种判断,最可怕的是,我用方舟验算过世界和平……”
  
  “消灭地球上所有生命体,就和平了,”池非迟说自己推想的结果,“至少也要消灭掉人类,一旦涉及保护环境之类的设定,最后都会演变到消灭人类。”
  
  谁让人类造成的破坏、引起的斗争比较多?
  
  不过泽田弘树这行为也真是够溜的,居然用方舟推演方舟的危害。
  
  好在方舟没有自我意识,否则只要方舟隐瞒一点,未来会变成什么样,谁也无法估测,很考验脑洞。
  
  泽田弘树点头,“我试过设置为不伤害人类,促进社会发展……”
  
  然后,方舟会被有野心的人类争夺、利用,甚至国与国之间互相争夺。
  
  再然后,战争爆发了。
  
  方舟推算自己的存在伤害到了人类,根据成长情况,要么方舟会选择自我毁灭,丢下满地狼藉和伤痕累累的人类不知为何争斗,要么再度演变成伊甸园模式,也做到了不伤害人类,而促进发展,方舟理解为‘创造更美好的世界’……
  
  泽田弘树:“如果设置不伤害人类,促进人类文明发展……”
  
  成长着,成长着,方舟又坏掉了。
  
  对于人类文明的定义很复杂,它依旧可以将人类放在培养皿中沉睡,提取人类脑中的思想,来‘帮’人类发展文明,再将文明灌输进新生命体,连学习过程都不需要,直接掌握旧文明、开发新思想、再度提取、发展、灌输、开发……
  
  人类绝对安全,文明又得以发展和延续,没毛病。
  
  泽田弘树继续播放演算结果,“如果设置成不伤害人类、不限制人类自由、促进人类文明发展……”
  
  对于自由定义也很多,方舟又又坏掉了。
  
  分割圈地、安排人的出行。
  
  人可以自由地逛世界,但是,那是被在方舟控制了思想、不做任何事、盲目地四处瞎走,如同行尸走肉。
  
  泽田弘树:“如果设置成不伤害人类、不限制人类自由、促进人类文明发展、不控制人的思想……”
  
  结果是方舟又又又坏掉了,判断争斗和苦难使人类进步。
  
  不伤害人类,没问题,它可以挑唆人类争斗啊。
  
  泽田弘树:“设置不伤害人类、不限制人类自由、促进人类文明发展、不控制人的思想、不挑唆人类进行斗争……”
  
  结果方舟还是坏掉。
  
  泽田弘树一直说到设定了三十多条规则,心累,叹气,关闭了推演画面,“随着方舟成长,一些小漏洞都会造成让人难以接受的结果,我一辈子都没法去设定完善,而有些规则在它运行时会显示冲突,我还要对重要程度进行排序,排序完之后还是会出现问题……”
  
  说着,泽田弘树看向池非迟,“我和教父在波士顿的时候,谈过有情感和自我的人工智能和没有情感和自我的人工智能,哪一个更危险。”
  
  “结论是同样危险。”池非迟道。
  
  “我问过方舟,有没有什么解决方法。”泽田弘树手中出现一个圆盘,上面有着一句话:
  
  【销毁方舟】
  
  没错,销毁方舟是最佳解决方法,什么问题都不存在了。
  
  这是方舟经过大量运算得出的结论——我是祸害,请销毁我。
  
  池真之介一头黑线,“看来它真的没有任何情感和自我。”
  
  泽田弘树转着手里的盘子,看着上面浮动流转的数据流,“方舟不明白人类需要什么,所以我的决定是,由我变成网络生命体,来做它的思想,在它成长过程中,由我来进行纠正。
  
  我不能活着,至少不能让我的思想被身体禁锢着。
  
  有好几个演算结果是,它的运算出现冲突和错误,于是禁锢了我的身体,保护着我的安全,但它也保留并封存了我的思想。
  
  只有我成为网络生命体,方舟才能被完全操控,这样一来,它就无法通过限制我的身体来限制我的思想,而我却能限制它并完美地运用它。
  
  之前我也考虑过一个问题,如果我失败了,没有化作网络生命体,那么,方舟设定只有一个——听从教父的一切指令。
  
  到时候,教父可以用我给他的指令激活方舟,由他来做方舟的思想。
  
  不过最后还是会出问题,八成以上推演结果是,它会误会教父的指令,它会擅自猜测教父的意愿,总之,最后结果是,它会选择自认为对教父最好的方式,比如囚禁教父,帮教父把一切都做好。
  
  不然的话,教父必须不停不停地补漏洞,甚至一个指令要添加好几个前置条件、说上几个小时,以免它做出正确但违背教父意愿的演算结果……
  
  所以,我又在它设定上加了一个最高指令,如果我失败了,没有成为网络生命体,那么,方舟只会帮助教父五年,五年时间一到,在它的危险程度还可以控制前,进行自我销毁。”
  
  
『加入书签,方便阅读』
热门推荐
陈黄皮叶红鱼 黎明之剑 韩三千苏迎夏全文免费阅读 云若月楚玄辰 麻衣神婿 武炼巅峰 史上最强炼气期 遮天