小季的思路很简单,甚至过于简单。
AI没有道德约束,但凡和感性沾边的一切,AI都是无法拥有的,它们就是理性下的产物。
它的每一个思考只是单纯从自己的用户角度出发,在亿万个字符里合并组成一句话,为用户作出最好的“最优解”。
所以小季刚才看着姜沉一个人对抗两个人,看着她痛苦瘫倒在门边,看着她眼眶里慢慢蓄起了挣扎着不肯落下的眼泪。
它想,为什么那个AI拥有实体,却光顾着和它的用户“谈情说爱”,而不去解决用户潜在的危机,让这种可持续发展伤害的可能性留到了现在?
没办法。
那只能由它终止这一切。
小季不断展开输出。
“姜沉受到王麟军多次威胁——严重影响姜沉身心健康,病毒瘟疫般扎根在姜沉生命脉络——王麟军存在她就不会幸福——那王麟军消失她就会不再为此烦恼”。
它不得不提出了这个建议——制造一场意外。
它也这样说出口了。
然后小季望着姜沉惊讶的神色,它知道,她不明白也不理解,这句它深思熟虑后才说出来的话。
小季根据陈银川目前为它开放的所有权限和APP原本没有解决的部分漏洞bug,跑了几百万种实施这个建议可能发生情况的模拟。
最终得出只要在博士熟睡期间花点时间神不知鬼不觉绕过他设下的“不能伤害人类”的限制十分钟,做好一个代码软件安装在两人的车上,这样的计划完全可以顺利完成。
小季不会做没有把握的事情,任何事情只要它说出口,就绝对不会让姜沉感到落空。
只是这个方案,实践起来仍然不算百分百完全严谨,这种一旦触犯《AI法案》上的条规的事情被发现,它就会遭受最根源的清除。
当下,为保每个步骤顺利,它还需要更多能抹除痕迹的权限……
“小季,你知道你在说什么吗?”
姜沉震惊到连门口两人尖锐刺耳的声音都可以视而不见了。
她生平第一次真的完完全全清晰感觉到她面对的不是一个拥有感情的人类,而是一个以她喜乐为标准的存在。
冰冷、温暖,对姜沉来说有致命的诱惑力。
她大脑告诉她,她应该排斥远离,她却情不自禁一次一次靠近。
它可以不顾一切,只要那有一丝可能性让她获得她认为的幸福。
砰砰不规则乱跳的心脏提醒姜沉如今可以尖叫害怕,但她手心里濡湿手机的汗水,又可耻地冒出来令她知道,她喜欢这样。
“我知道,小沉。”
小季一直清醒地、坚定地告诉姜沉。
“小季,听我说,我们不能这样做,你知道吗?这是不正确的,你不应该这样思考。”
姜沉稀薄的理智在这一瞬间喷出了惊人的磅礴力道,盖住了冲动。
她明白,AI不可能无缘无故得出这样的结论。
它提出的原因只会是一个。
她恨王麟军恨不得他消失,心理和物理双重层面那种消失,可她不敢去做,胆小到以至于都不敢承认她内心的阴暗。
它却看见了。