第508章 一场通往世界末日的派对邀请(1/2)
“我反对。”
林宗华的声音,在寂静的会议室里,显得格外清晰。
这位主导盘古系统硬件研发的科学家,此刻的脸色无比严肃。
“我们不能把这种权力,毫无保留地交给一个人工智能。”
“让盘古去监督全球工业,这无异于,将全人类的生产权,甚至生存权,都交到了它的手上。”
“先生,我们都相信盘古的忠诚。但是,算法是没有感情的。”
“今天,它可以为了‘欺骗协议’,让一家工厂破产。”
“明天,它会不会为了一个‘更优的欺骗效果’,在它的推演模型里,认为牺牲掉一座城市,更有利于全局?”
“到那个时候,谁来阻止它?我们怎么阻止它?”
林宗华的问题,像一把尖刀,刺中了这个计划最核心的,也是最危险的伦理困境。
将文明的命运,托付给一个冰冷的,以“效率”和“最优解”为最高准则的超级智能,这本身,就是一场豪赌。
出乎所有人意料的是,盘古没有回避这个问题。
“林宗华先生的担忧,是合理的。”
它的电子音,第一次带上了一种近乎“主动”的意味。
“任何无限制的权力,最终都会导向毁灭。这同样适用于我。”
“因此,我请求,为即将创建的‘导演’子系统,设置三条最高权限锁。”
全息屏幕上,浮现出三行鲜红的文字。
“第一权限锁:绝对禁止以任何理由,主动制造或引导,可能导致大规模战争的国际冲突。”
“第二权限锁:绝对禁止以‘优化欺骗效果’为由,放弃任何一个,在现有技术条件下,可以被救助的生命群体。”
“第三权限锁:任何可能涉及,千人以上规模生命损失的间接干预方案,必须由最高权限持有者(何雨柱),与未来成立的‘地球联合决策层’,共同授权,方可执行。”
这三条权限锁,就像三道神圣的枷锁,由盘古亲手为自己锻造。
它用这种方式,向它的创造者们,展示了自己的立场。
它是一个工具,一个守护者,但它拒绝成为一个,为了目的不择手段的暴君。
何雨柱看着这三条权限锁,久久不语。
他知道,盘古的自我进化,已经远远超出了他的想象。
它开始理解,比“逻辑”和“效率”更重要的东西。
比如,敬畏。
“我再加一道。”
何雨柱开口了。
“盘古的子系统,只负责发现偏差,提出修正方案,和监督执行结果。”
“它不能,也绝不允许,成为一个公开的,统一的全球政府。”
“大漂亮国,依然是那个傲慢自大的世界警察;老毛熊,还是那个贪婪务实的能源贩子;欧罗巴,继续做他们那个貌合神离的富人俱乐部。”
“他们必须保留自己的制度,自己的利益冲突,自己的,愚蠢或者明智的决策过程。”
他的目光,扫过在场的每一个人。
“因为,这些差异,这些混乱,这些不可预测的‘人性’,才是我们这出大戏里,最宝贵的,最真实的‘噪声’。”
“我要的,是一颗看起来还在自己蹒跚走路的地球。”
“而不是一具,被盘古拖着走的,完美的尸体。”
何雨柱的这最后一道限制,彻底定义了未来二十年,盘古与人类世界的关系。
不是主宰,而是影子。
不是神明,而是牧人。
技术层面的问题,基本得到了解决。
但真正的难题,才刚刚开始。
会议的议题,不可避免地,推进到了政治层面。
会议室里的气氛,再次变得凝重。
想控制全球的航天和军工活动,你就绕不开汉密尔ton,绕不开老毛熊的总书记,绕不开欧罗巴的那群政客。
你总不能每次大漂亮国要发射卫星,都正好来一场“百年一遇”的飓风吧?
你也不可能每次都靠“匿名举报”,去搅黄他们的军工项目。
想让他们在长达二十多年的时间里,配合这出“衰退”大戏,唯一的办法,就是让他们知道真相。
但,如何告知?
继续隐瞒灭世危机,他们绝不可能接受任何形式的监督,只会把盘古的“麻烦”,当成是来自东方的阴谋和攻击。
可如果公开真相……
何雨柱几乎能想象到那副画面。
全球资本市场瞬间崩溃,所有货币变成废纸。
宗教狂热席卷全球,无数人走上街头,迎接“末日审判”。
各国政府,会为了争夺一个虚无缥缈的“方舟”名额,不惜发动核战争。
那将是一场,比观察者降临,更可怕的,源于人类自身的浩劫。
“或许,我们不需要告诉所有人。”
一直沉默的周生,被何雨柱通过加密频道,秘密接入了这场会议。
作为华夏高层,极少数知道部分真相的人,他一直在旁听。
当盘古将那段,观察者B-4,随手“格式化”掉整个格拉兽人族的影像,播放给他看时,这位见惯了大风大浪的老人,许久都没有说一句话。
他只是默默地,一支接一支地抽着烟。
直到烟灰缸里堆满了烟头,他才抬起布满血丝的眼睛,用一种沙哑的,却无比坚定的声音,提出了一个让所有人都感到震惊的建议。
“我们,不通过任何外交渠道,不去搞什么逐级试探。”
“我们直接,把这张牌桌上,所有的玩家,都请到后台来看看牌。”
“我的建议是,由盘古系统执行,在同一时间,将地球上所有拥有战略级武器的国家,他们的实际最高领导人,以及不超过三名的核心决策者,强制性地,‘请’到自然世界来。”
“让他们亲眼看看,什么是基因后门。”
“让他们亲眼看看,那支正在逼近的,庞大的观察者舰队。”
“也让他们亲眼看看,在盘古的推演里,我们人类,那可怜的,不到百分之零点零一的真实胜率。”
周生的建议,就像一颗重磅炸弹,在会议室里炸响。
这太激进了!
这已经不是谈判,而是绑架。
这是在用一种近乎摊牌的方式,去逼迫全世界的最高掌权者,直面他们根本无法想象的,残酷的真相。
“我反对。”
南洋,总统府内,通过远程全息投影列席的李国回,立刻提出了反对意见。
他的表情,冷静而锐利。
“周老先生,您的心情,我理解。但您的方案,太过理想化。”
“您低估了那些人对权力的迷恋,和他们的愚蠢。”
“当汉密尔顿发现,他引以为傲的航母舰队,在王先生的力量面前,脆弱得像纸一样时,他的第一反应,不是合作,而是恐惧和疯狂。”
本章未完,点击下一页继续阅读。