书香小说网

手机浏览器扫描二维码访问

第九十二章 意义（第1页）

这是一个非常底层的设计。

义体控制中枢最初的设计者认为，再高明的工程师，也不可能应对所有突发状况准备预案。二十一世纪的时候，他是这么解释的。

“我们为什么不完全用机器去维修机器？为什么不用人工智能去debug？因为我们可以告诉机器，什么是‘正确’的。但我们没法将所有的有可能的故障状态做成一个集合，装进机器的数据库中。机器只能判断‘这不是正常状态’，却没有办法处理层出不穷的问题。倒不如说，一个工程师若是能够预知所有的故障，那他理应能够对所有故障做出预防。”

“故障，往往就是设计者预料之外的事态。”

举一个最极端的例子吧。一个人在灾难中被困住，需要自断手脚来逃生。这個时候，他的义体却因为安全协议而拒绝执行“自残肢体”的提议，而导致一个人被困死，那么这家义体的生产企业或许难辞其咎。

当然，这里面也存在另一个问题。如果一个人“杀人”的决心足够坚定，并且他的高级皮层也做出了明确的指令，那义体同样可以成为凶器。。

如果仔细考量的话，后者出现的场合，或许会比前面的“极端状况”要常见许多。

所以权衡“生物脑的意志”与“安全协议”的优先度，是当初超人类公司所作出的最艰难的决定。

而某位决策者最终认为，一个人如果真的如此想杀另一个人，那他是可以找各种凶器的。可从没有见厨具厂商、汽车厂商、运动器材厂商或者其他什么厂商因为产品沦为凶器而被人唾弃。但是“义体因为安全协议而卡死人类自救可能”，却无疑会导致公司的声誉受损。

那些帮助了海豚们的人类，尚不知晓如何修改这种底层设计。

而海豚们则觉得，这种设计糟透了。

人类可以一定程度上依靠新皮层的神经活动，去调节边缘系统之类区域的活动——甚至人类也不能时时刻刻保证自己不会被低级功能区所控制。

而海豚这方面比人类更弱。

他们很容易被某项本能、情绪主导。

希卡茜在饥饿的时候，甚至会顾不上长久以来的“隐藏”传统，无视了一个“看”起来像人造物的可疑玩意，冲过去咬住那鱿鱼。

克莱代奇甚至很担心，如果有朝一日，自己这个族群里有人搁浅了，其他的伙伴们会不会被救援的冲动所控制，全都没有计划地冲上海滩。

几名海豚也靠了过来，用鳍、尾巴或嘴巴尖轻轻碰了碰希卡茜。

“至少那条鱿鱼很好吃。”

“虽然小碎骨有点咯喉咙。”

“挺好吃的。”

克莱代奇挥了挥尾巴：“加紧干活吧！”

开着潜艇追踪海豚，听起来多少有些怪。从二十一世纪后半开始，大海已经变得不那么重要了。人类没有挖空心思研究潜水艇的必要。这个时代最快的潜水艇，可能也只有二十一世纪潜水艇的几倍那么快。

况且，向山的载具都不是专门的水下潜艇，是陆地载具临时改装的。

谷柎