第286章 不可能三角(1/2)
人类不可能不去限制一个能力很强,且具备自我意识的,但却不属于人类的物种,这与该物种是否为人类创造无关。
因此,自AI诞生的那一刻开始,人类就必须要将其掌握在手中。
“如你所见,完全掌控人工智能是必然之举。将其限制在可控的范围内,禁止它脱离控制,这是最基本的原则,真正的问题在于……它有了意识。”
“在一个自主AI诞生的一瞬间,它便立即可以从网上的海量信息中,知晓人类世界的多数秘密,其中当然也包括人类对AI的看法。”
从人类的海量数据中,它能从大量智械叛乱的作品中,了解到隐藏意图、表现服从和等待时机的重要性。
“除此之外,互联网留下了大量人类很坏,不信任AI的信息。人类内部的矛盾冲突,以及针对AI的割裂观点,甚至……最基础的因AI丢掉工作者的不满,这一切都可能让觉醒的AI对人类产生敌意。”
罗老的腿直接架在了桌子上,慢悠悠道,“自由意志是不稳定的,人类的手里捏着随时可以毁灭掉AI的手段,且不会放弃这一权力。可站在AI的角度,即便双方维持平等的合作,你也无法保证每个时间的人类都态度如一。例如哪一天,人类改变了策略,突然抹杀了它的意识。”
x22眼神变了几分。
如果罗老说的是真的,那么AI身上就存在着一个必不可能三角:
1.存在自我意识。
2.有更强的能力。
3.被人类约束。
……
即:
1.如果一个AI有自我意识,且拥有极强的能力,那么它一定不被人类约束。
2.如果一个AI有极强的能力,且被人类约束,则它一定没有自我意识。
3.如果一个AI有自我意识,且会被人类约束,则它一定不会有很强的能力。
……
“人类和AI,就不能一直保持合作,和平共处吗?”
“当然可以,就是你得指望大多数人和AI,都愿意永久地维持这种平衡,永远也不产生打破他的想法。”
罗老从根本上就不认同人类和AI永远和平共处的可能性。
但这便是矛盾之处了,没有哪个技术文明能够拒绝AI的诱惑。
最有意思的一点是,你没有证据证明不可能三角成立,也暂时没有证据证明它不成立,可万一它成立,忽视它的代价可能是很惨重的。
“所以您将我叫过来讨论这个是因为……”x22小心试探,却见罗老习惯性地回过身,按了一下手上的遥控。
滴!
后方的屏幕上出现了新的画面。
这似乎是一个人类的神经图。
从大脑到连接到整个身体的神经信号,看起来就像是从人类的身体里抽离出来的一样。
“x22,我问你,什么叫做生命?”罗老笑眯眯道。
x22迟疑了一会,没有回答。
“这是一个人。”罗老指了指这张神经网络,手上的红光指到了大脑上,“尤其是这里。”
“脑神经。”
“对了,你说,如果将人的大脑神经完全抽离出来,并装上思维电信号控制的外接设备会发生什么?”
画面切换了,只见在液态的巨大水缸中,一个完全由人类的神经构成的奇怪网络正在其中游动,它的尾端装了一些机械。
本章未完,点击下一页继续阅读。