“?!为什么。”
“首先,就是不可控性太大,当人工智能被创造出来之后,创造者就无法再直接对其进行控制,或者说修改其思维方式,举个最简单的例子,你还记得神鬼传奇里那个狼人吗,不是说他曾经是欧洲刺客世家的成员,后来因为疯狂而反叛,你觉得欧洲刺客世家会是故意培养出这么一个疯子吗?”
“所以说,一个人工智能根本没办法有效的进行控制,让这么一个危险的智能去管理强大的太空战舰,我可没那个胆子。”
“另外,人工智能的另一个特性让它更加危险,那就是思维的高速性,或者说迭代性,因为计算机的思维速度远超生物体,所以人工智能的思考速度也要远远超过人类,这样就使得只要它的思考方向稍有偏差,就可能差出十万八千里。”
“比如你刚才提到的‘火焰皇后’,最开始给她的指令是确保基地的安全,可当它侦测到T病毒泄露之后,第一时间却把基地里的人杀得干干净净,显然,在它的思维里,确保‘基地安全’的推导方式以及定义和普通人不大一样。”
“换句话说,如果你让一个人工智能研究怎样制作一盘完美的鱼香肉丝,它固然可能会给你一个精密的操作程序,确保每一次操作都能做出一盘完美的鱼香肉丝,可谓皆大欢喜,但也可能会告诉你鱼香肉丝不如宫保鸡丁好吃,还是改吃宫保鸡丁好了,甚至说觉得你挑三拣四的好烦,纯属浪费资源,比起研究菜谱,干掉你最简单,也不一定……”
“人工智能那么危险?不是说个‘三定律’来确保安全。”
“‘三定律’,你是说‘机器人三定律’吧,一、机器人不得伤害人类,或因不作为使人类受到伤害;二、除非违背第一定律,机器人必须服从人类的命令;三、除非违背第一及第二定律,机器人必须保护自己。”
“很可惜,这套定律能不能真正对人工智能发挥作用且不提,就只是这套定律本身,也因为过于模糊而很容易被绕过,比如说发出对一杯茶下毒这样的指令,恐怕并没有违背‘三定律’,然后给人送一杯茶也同样,但后果可能就是某个喝茶的倒霉蛋被毒死了。”
“所以,虽然灵活性差点,但只要有足够强大的数据库和算法支持,这种比起人工智能来说,‘半自动’的高级反应程序更加安全稳定,硅基的智能生物,有变形金刚就够了。”
“甚至我怀疑,古代圣人和修真者们建造‘主神’的时候,只设定了这么死板的程序,而不是为其配备人工智能,也是因为这个原因,毕竟一台机器,无论过多久,只要部件不损坏就能继续工作,可一个思想,过几千年,谁知道会变成什么样子,干脆直接变成毁天灭地的大魔头都有可能。”
在李萧毅和赵樱空聊天的时候,“恐龙特急克塞号”已经接近了此次飞行的终点,最后一艘外星战舰,而这,也意味着大反攻,即将开始。(未完待续。)
请收藏:https://m.qdbqw.com
(温馨提示:请关闭畅读或阅读模式,否则内容无法正常显示)