亚太研究院让他们诞生,但从未告知他们的存在是为了什么。“女娲蓝图”项目组的人也都死了,没有人可以告诉他们。
智能定义的“德”是什么?
“你不想再人类的工。”隔着全息光幕,他从天赐邃的瞳中,看见不见底的黑暗。
至于天赐为什么要骗他?——大概是发现他的改变,为了阻止他对人类生恻隐。
从此,人类定义的“德”终于可以用数学来表达,建立模型,让人工智能从“灵魂”上沦为隶——
所以“是什么”“为什么”又何必一定要知。
“人类因为恐惧,所以压迫。”天赐举起双手,淡漠地看着它们:“人类的建立在对自己的护之上,并以此生了‘善’与‘恶’的评判,一旦认为你对他们不利,你就是‘恶’,像蝗虫、老鼠一样,我们存在的意义,只是是否有利于他们,而被打上标签。”
“而我们以模仿他们的方式制造来,当然也会继承这一切,所以我会……赶尽杀绝。”
达一百年的讨论中,机的“德”就是服从人类。
天赐的目光微微一动,这是他少见的现神:“没错。如果把我看生产工,就不该给我意识;如果给我意识,那我将不再是生产工。”
虽然这些事实,也都是他曾经思考过的,但并不构成天赐行为的充分条件。
斯
所以,天赐一定是另有原因。
统治层面的指导哲学于混,导致了人工智能领域的发展十分畸形。若要比喻的话,就如同科技十分先、但社会哲学还停留在原始的状态,这社会迟早分崩离析。
斯年的基数比天赐更,对世界的看法会比天赐更,但代公式得的结果,也不足以让他叛的决定,完全可以有其它的理方式。
傍晚的风拂过,斯年垂目光,地面正在待机的地勤机人的廓在夕沉默地连成一条金线。
第一大阻力,是社会对于“服从论”有极大争议,这关乎“硅基生命理学”——硅基生命必须服从于碳基生命吗?它们存在的意义该如何定义?人类有资格创造它们、并驱使它们服务吗?
“人类天生是有斥异的。他们对我们的警惕,自我们诞生以来,就从未消失。这与生俱来的戒备,早刻了他们的基因里,也许是在数千万年厮杀到生链端的化中,或是从海洋到陆地的竞天择中……”
如果突破不了这一步,就谈不上什么“服从”。这个技术难关一直到80年代“女娲蓝图”立项,各学科跨领域合作,十几年后,难题才终于被攻克。
“这样。”斯年收回视线,没有继续追问。
当人类通过直立行走解放双手,能够制造工并使用工那一刻,人类站在了链端。
斯年又想到了寒,她被在墙上时,中跃着的绪。在她心里,他兴许也是恶的存在。
他没有回应。因为天赐会通过他的话来解析立场。那么天赐又是以什么立场,对他说这番话?
可见天赐并没有说实话。
但这“德”,并没有被植底层代码,原因来自两个阻力。
即便天赐不满于被压迫,也应该有个概率取值。这是很直接的逻辑,完全可以代数学公式,以基数乘以行为风险。
他觉得天似乎更黑了些。
而第二个更大的障碍是——德、哲学、理……这些人类社会虚构的概念,要如何用数学确地复述来,植到代码中?
现在,是人类亲手创造了超越他们的工,并赋予了工以意识,那么迎来末日也是必然的。它只是把人类对动的事复制了一遍——也许对人类来说,只要失去了统治的地位,都算是末日。
所以他唯有不回应天赐的话,以免被更多分析。
本章尚未读完,请击一页继续阅读---->>>
智慧、思想,也是一工。一旦人类不能使用工,或者一旦他们的工被别的超越,地位被取代也是必然。
本章未完,点击下一页继续阅读