“BB书屋”最新网址:https://www.bbwwljj.com,请您添加收藏以便访问
当前位置:BB书屋 > 武侠仙侠 > 让你做短视频,你科普黑暗森林 > 第142章 超级人工智慧

第142章 超级人工智慧(2 / 4)

上一页 章节列表 下一页
好书推荐: 混沌剑体顾长青姜白薇 龙神:我在艾泽拉斯传火七千年 多子多福系统顾长青姜白薇 宇智波:开局拉着忍界陪葬 哈哈哈,大明 鱼获万倍成长!钓鱼佬们都疯了! 领证爽约?我闪婚女总裁你哭什么 转世宦情:进卫堇香嬿意两不疑 酿青梅 缺钱的我,只好练武

可能存在至少一个 “例外”。”

“此外,即便某个文明比我们早十亿年发展,且正以接近光速的速度扩张以殖民所有星球,我们目前也很可能无法观测到它们 —— 这种可能性非常高。”

“罗伯特认为,他提出的 “殭尸人工智慧先於感知型人工智慧出现” 的观点,並不违反 “排他性原则”—— 因为感知型人工智慧理应在殭尸人工智慧之后出现,而真正安全的这两类人工智慧,都只能在 “危险版本” 之后才会出现。”

“因此,一个文明最有可能被殭尸人工智慧毁灭。”

“他还认为,基於我们之前討论过的原因,殭尸人工智慧不太可能被归为 “喧闹的外星人”。”

“即便它们具备太空旅行能力,也只是通过 “微弱、简单的探测器” 来实现;而如果它们不具备太空旅行能力,就可能只是 “统治著自己的母星”,像狮子或大象一样,没有向太空探索的倾向。”

“此外,殭尸人工智慧的创造者,想必也不会 “完全无能”,因此,殭尸人工智慧被设计成 “容易发生突变或自我损坏” 的可能性非常低。”

“此外,殭尸人工智慧的创造者,想必也不会 “完全无能”,因此,殭尸人工智慧被设计成 “容易发生突变或自我损坏” 的可能性非常低。”

“正如我常说的:在创造人工智慧这件事上,只有 “天才”才蠢到足以把我们所有人都害死,而其他人根本造不出能毁灭我们的工具。”

“我们经常会设想 “灰色粘质”这类场景:自我复製的纳米机器人將一颗行星变成由它们自身构成的 “播种海洋”。”

“人们常常將这种场景与地球早期生命的演化进行对比 —— 地球早期生命遍布全球,並最终通过光合作用等过程改变了地球环境,为包括人类在內的更复杂生命形式的出现铺平了道路。”

“然而,如果自我复製机器人像早期生命那样容易发生突变,那么从 “灰色粘质” 中进化出 “智能体” 可能需要数十亿年的时间。”

“但这种情况似乎不太可能发生 —— 因为任何设计这类机器的人,都可能已经掌握了关於进化和突变的知识,也可能接触过警告 “失控人工智慧” 或 “失控机器人系统” 的科幻作品。”

“因此,有理由认为,人们会採取措施来防止不必要的突变,例如:提高复製精度、设置 “纠错算法”,以及安装物理防护装置以確保 “高保真复製”—— 这些措施都能將突变风险降至最低。”

“殭尸人工智慧,为费米悖论提供了一个合理且发人深省的解决方案。”

“它表明,“宇宙的大寂静” 可能是文明 “败给自身技术野心” 的结果。”

“因此,在我们继续发展先进人工智慧的过程中,必须谨慎行事。宇宙之所以寂静,或许並非因为缺乏智能,而是因为 “没有意识的智能” 可能会成为自身最大的敌人。”

“我认同这一观点,它是近年来我听到的关於费米悖论的较好解释之一。但该观点也存在一些潜在的漏洞。”

“首先,这一观点假设 “人工智慧的发展存在必然的先后顺序”。”

“由於我们可以说 “已经拥有了基础的殭尸人工智慧,且已经拥有一段时间了,但尚未拥有感知型人工智慧”,因此得出 “感知型人工智慧在殭尸人工智慧之后出现,而非之前” 的结论,似乎是合理的。”

“但该推理的第二部分 ——“若不先遭遇危险的人工智慧,就无法拥有安全的人工智慧”—— 则似乎有些牵强。”

“对费米悖论而言,“潜在危险的人工智慧” 並非关键,只有那些 “真正脱离控制、要么毁灭其创造者、要么造成巨大破坏以至於永久改变文明轨跡(使其无法成为『喧闹的外星人』)” 的人工智慧,才与费米悖论相关。”

“我並不认为这种 “危险安全” 的发展

温馨提示:亲爱的读者,为了避免丢失和转马,请勿依赖搜索访问,建议你收藏【BB书屋网】 www.bbwwljj.com。我们将持续为您更新!

请勿开启浏览器阅读模式,可能将导致章节内容缺失及无法阅读下一章。

上一页 章节列表 下一页
新书推荐: 有病才修仙! 自求吾道 风雪长安道 弦魔至尊 玉碎惊玄 独宠师妹?我换宗门后师兄们悔哭 胎胎多子,我靠生子修炼成神 化神 帝欲双修 杂役百年:开局被女帝灌顶十八年