“BB书屋”最新网址:https://www.bbwwljj.com,请您添加收藏以便访问
当前位置:BB书屋 > 武侠仙侠 > 让你做短视频,你科普黑暗森林 > 第143章 未来超级智能体

第143章 未来超级智能体(2 / 3)

上一页 章节列表 下一页
好书推荐: 混沌剑体顾长青姜白薇 龙神:我在艾泽拉斯传火七千年 多子多福系统顾长青姜白薇 宇智波:开局拉着忍界陪葬 哈哈哈,大明 鱼获万倍成长!钓鱼佬们都疯了! 领证爽约?我闪婚女总裁你哭什么 转世宦情:进卫堇香嬿意两不疑 酿青梅 缺钱的我,只好练武

节时,相关事件早已尘埃落定。”

“事实上,他们甚至可能让人工智慧在其他行星上 “为殖民做准备”,或让人工智慧建造太空棲息地 —— 但最终,殖民者却从未抵达这些地方,因为 “没有足够有说服力的理由前往”。”

“这些空荡荡的星球(或棲息地)等待著人类(或该文明的成员)的到来,或许上面已经建立了复杂的生態系统。”

“这引发了一个令人不安的场景:一个 “布满无意识机器的宇宙”。”

“想像一下,你探索某个遥远的恆星系统,发现围绕著一颗荒芜行星的巨大巨型结构 —— 这些结构完好无损,內部机制仍在运转,却看不到任何生命的痕跡。”

“机器会 “迎接” 你,精准地回应你的询问,但它们的回答中,却没有任何 “理解” 或 “感知” 的痕跡。”

“这就是我们设想的可怕场景:一个 “文明被自身创造物毁灭、只留下庞大殭尸人工智慧网络” 的宇宙。”

“殭尸人工智慧无需具备意识,就能构成危险。它的力量在於 “无与伦比的行动效率”。”

“由於缺乏自我认知和道德考量,这类系统可能会 “无意间” 或 “漠不关心地” 毁灭其创造者。”

“例如,一个 “以最大化资源效率为任务” 的人工智慧,可能会认为 “其创造者是不必要的资源消耗者”;由於它无法反思自身行为的道德性,便会毫不犹豫地执行 “清除创造者” 的指令。”

“此外,即便是更智能的人工智慧,如果被赋予了一个简单目標,也可能会认为 “其他人类或人工智慧对该目標的实现构成威胁”。其结果可能抽象且完全出乎意料。”

“我设想过这样一种场景::一个经典的 “阿西莫夫式类人机器人”,被编程遵循 “三大法则”—— 即 “首要任务是服从人类、保护人类”,同时负责照看一个它需要监护的孩子。”

“孩子指向后院里一只可爱的动物,而机器人將这只动物视为 “潜在威胁”,立刻开枪將其击毙。”

“在机器人看来,“一只死动物对孩子造成伤害的可能性,比活动物更低”—— 儘管在现实中,这只动物对孩子构成威胁的可能性微乎其微。”

“我们还能设想其他场景:人工智慧可能会认为 “人类本身就是其存在或目標实现的最大威胁”。”

“为了 “减轻这种威胁”,它可能会决定將人类的大脑 “囚禁在大型装甲罐中”,为大脑提供营养和娱乐(或虚擬生存环境),並阻止新人类的诞生。”

“在它看来,“未来人类可能会危及当前受其监护的人类,或过快消耗资源”—— 即便这种风险的概率非零,也足以成为它採取这种极端措施的理由。”

“事实上,你我如今可能就生活在这样的环境中:我们的大脑被放在 “罐子” 里,沉浸在美妙的虚擬实境中。”

“你可能会说,这个场景已经涉及 “更智能的人工智慧” 范畴了 —— 我同意你的看法。但在 “简单殭尸人工智慧” 和 “复杂感知型人工智慧” 之间,存在一条我们尚未完全理解的模糊界限。”

“假设你有机会,前往其他的星系探索,可能会发现许多恆星系统中,都布满了基础探测器和採矿设备 —— 这些设备通常以 “鬆散的气泡状” 分布在某颗行星或某个恆星系统周围。”

“並且,其规模遵循 “卡尔达肖夫指数”的层级。”

“所以,“引入气泡文明”是可能的:某个文明可能会有意开採附近恆星系统的资源,將资源运回其核心星球,同时留下 “危险但无智能的机器”。这些机器可以充当 “威慑力量”,阻止敌对文明向该区域扩张,或至少让敌对文明的扩张 “速度大幅减慢、难度显著增加”。”

“如果某个外星帝国试图在你文明边界的 “已开採边缘区域” 定居,或者你自己文明的某

温馨提示:亲爱的读者,为了避免丢失和转马,请勿依赖搜索访问,建议你收藏【BB书屋网】 www.bbwwljj.com。我们将持续为您更新!

请勿开启浏览器阅读模式,可能将导致章节内容缺失及无法阅读下一章。

上一页 章节列表 下一页
新书推荐: 顿悟一秒抵千年,出关既无敌 胎胎多子,我靠生子修炼成神 玉碎惊玄 杂役百年:开局被女帝灌顶十八年 帝欲双修 化神 风雪长安道 独宠师妹?我换宗门后师兄们悔哭 弦魔至尊 有病才修仙!