第142章 超级人工智慧（2 / 3）
“正如我常说的：在创造人工智慧这件事上，只有 “天才”才蠢到足以把我们所有人都害死，而其他人根本造不出能毁灭我们的工具。”
“我们经常会设想 “灰色粘质”这类场景：自我复製的纳米机器人將一颗行星变成由它们自身构成的 “播种海洋”。”
“人们常常將这种场景与地球早期生命的演化进行对比 —— 地球早期生命遍布全球，並最终通过光合作用等过程改变了地球环境，为包括人类在內的更复杂生命形式的出现铺平了道路。”
“然而，如果自我复製机器人像早期生命那样容易发生突变，那么从 “灰色粘质” 中进化出 “智能体” 可能需要数十亿年的时间。”
“但这种情况似乎不太可能发生 —— 因为任何设计这类机器的人，都可能已经掌握了关於进化和突变的知识，也可能接触过警告 “失控人工智慧” 或 “失控机器人系统” 的科幻作品。”
“因此，有理由认为，人们会採取措施来防止不必要的突变，例如：提高复製精度、设置 “纠错算法”，以及安装物理防护装置以確保 “高保真复製”—— 这些措施都能將突变风险降至最低。”
“殭尸人工智慧，为费米悖论提供了一个合理且发人深省的解决方案。”
“它表明，“宇宙的大寂静” 可能是文明 “败给自身技术野心” 的结果。”
“因此，在我们继续发展先进人工智慧的过程中，必须谨慎行事。宇宙之所以寂静，或许並非因为缺乏智能，而是因为 “没有意识的智能” 可能会成为自身最大的敌人。”
“我认同这一观点，它是近年来我听到的关於费米悖论的较好解释之一。但该观点也存在一些潜在的漏洞。”
“首先，这一观点假设 “人工智慧的发展存在必然的先后顺序”。”
“由於我们可以说 “已经拥有了基础的殭尸人工智慧，且已经拥有一段时间了，但尚未拥有感知型人工智慧”，因此得出 “感知型人工智慧在殭尸人工智慧之后出现，而非之前” 的结论，似乎是合理的。”
“但该推理的第二部分 ——“若不先遭遇危险的人工智慧，就无法拥有安全的人工智慧”—— 则似乎有些牵强。”
“对费米悖论而言，“潜在危险的人工智慧” 並非关键，只有那些 “真正脱离控制、要么毁灭其创造者、要么造成巨大破坏以至於永久改变文明轨跡（使其无法成为『喧闹的外星人』）” 的人工智慧，才与费米悖论相关。”
“我並不认为这种 “危险→安全” 的发展顺序是 “必然的”。”
“目前，我们拥有人工智慧，但没有感知型人工智慧。像 chat gpt 这样的系统是否属於 “殭尸人工智慧”，想必仍存在爭议。”
“我认为它不属於 —— 我猜测撰写本脚本的编辑们也持相同观点。”
“而且，当我询问 chat gpt 时，它也否认自己是殭尸人工智慧，理由是 “它没有思想、欲望，也无法反思自身存在”。”
“它解释称，自己的运作方式是 “遵循模式、逻辑和处理数据，以提供有用且连贯的响应”，但 “不会有任何体验或感受”，它 “纯粹是计算性的”，不存在 “能动性”。”
“不过，“具有能动性的人工智慧”似乎正在迅速发展，因此我认为 “chat gpt 不是殭尸人工智慧” 这一判断是可靠的 —— 但有趣的是，当我询问另一个人工智慧时，它却將 chat gpt 归类为 “哲学殭尸”或 “殭尸人工智慧”。”
“在今天的討论中，我们对 “殭尸人工智慧” 一词的使用略显宽泛，既包括了那些可能 “超出殭尸人工智慧范畴上限” 的例子，也包括了 “低於殭尸人工智慧范畴下限” 的例子。”
“就我个人而言，我乐於使用人工智慧来帮我修正糟糕的拼写和语法，或进行简单的计算。”
“如今，我通常会把段落输入人工智慧，让它帮我修正冗长的句子和拼写错误，而我则继续处理下一部分內容 —— 但我並不关心它对复杂话题的 “看法”。”
“按照这个標准，我可以放心地说，chat gpt 是 “殭尸人工智慧” 的一个简单例子，或许可以称为 “原始殭尸人工智慧”—— 尤其是因为我们例子中的 “太空鸡”，其运作所需的技术远没有这么复杂，而如今，作为 “可能遍布星系的安静外星人” 的代表，“太空鸡” 才是我们主要关注的对象。”
“当然，也有可能 chat gpt 和 “太空鸡” 都不属於 “殭尸人工智慧”。”
“儘管如此，我们当前的人工智慧系统，並非 “天网”（skynet，《终结者》系列中失控的人工智慧）式的直接威胁。”
“因此，我们不能想当然地认为 “危险的殭尸人工智慧必然先於危险的感知型人工智慧出现”，也不能认为 “只有在人工智慧造成灾难性伤害后，才能开发出安全的人工智慧”。”
……
【感知能力可选项？外星人：意识是dlc，我们买不起！】
【楼上笑死！宇宙大寂静是因为大家都被自己的殭尸ai干掉了？这剧本太黑暗了！】 ↑返回顶部↑
“我们经常会设想 “灰色粘质”这类场景：自我复製的纳米机器人將一颗行星变成由它们自身构成的 “播种海洋”。”
“人们常常將这种场景与地球早期生命的演化进行对比 —— 地球早期生命遍布全球，並最终通过光合作用等过程改变了地球环境，为包括人类在內的更复杂生命形式的出现铺平了道路。”
“然而，如果自我复製机器人像早期生命那样容易发生突变，那么从 “灰色粘质” 中进化出 “智能体” 可能需要数十亿年的时间。”
“但这种情况似乎不太可能发生 —— 因为任何设计这类机器的人，都可能已经掌握了关於进化和突变的知识，也可能接触过警告 “失控人工智慧” 或 “失控机器人系统” 的科幻作品。”
“因此，有理由认为，人们会採取措施来防止不必要的突变，例如：提高复製精度、设置 “纠错算法”，以及安装物理防护装置以確保 “高保真复製”—— 这些措施都能將突变风险降至最低。”
“殭尸人工智慧，为费米悖论提供了一个合理且发人深省的解决方案。”
“它表明，“宇宙的大寂静” 可能是文明 “败给自身技术野心” 的结果。”
“因此，在我们继续发展先进人工智慧的过程中，必须谨慎行事。宇宙之所以寂静，或许並非因为缺乏智能，而是因为 “没有意识的智能” 可能会成为自身最大的敌人。”
“我认同这一观点，它是近年来我听到的关於费米悖论的较好解释之一。但该观点也存在一些潜在的漏洞。”
“首先，这一观点假设 “人工智慧的发展存在必然的先后顺序”。”
“由於我们可以说 “已经拥有了基础的殭尸人工智慧，且已经拥有一段时间了，但尚未拥有感知型人工智慧”，因此得出 “感知型人工智慧在殭尸人工智慧之后出现，而非之前” 的结论，似乎是合理的。”
“但该推理的第二部分 ——“若不先遭遇危险的人工智慧，就无法拥有安全的人工智慧”—— 则似乎有些牵强。”
“对费米悖论而言，“潜在危险的人工智慧” 並非关键，只有那些 “真正脱离控制、要么毁灭其创造者、要么造成巨大破坏以至於永久改变文明轨跡（使其无法成为『喧闹的外星人』）” 的人工智慧，才与费米悖论相关。”
“我並不认为这种 “危险→安全” 的发展顺序是 “必然的”。”
“目前，我们拥有人工智慧，但没有感知型人工智慧。像 chat gpt 这样的系统是否属於 “殭尸人工智慧”，想必仍存在爭议。”
“我认为它不属於 —— 我猜测撰写本脚本的编辑们也持相同观点。”
“而且，当我询问 chat gpt 时，它也否认自己是殭尸人工智慧，理由是 “它没有思想、欲望，也无法反思自身存在”。”
“它解释称，自己的运作方式是 “遵循模式、逻辑和处理数据，以提供有用且连贯的响应”，但 “不会有任何体验或感受”，它 “纯粹是计算性的”，不存在 “能动性”。”
“不过，“具有能动性的人工智慧”似乎正在迅速发展，因此我认为 “chat gpt 不是殭尸人工智慧” 这一判断是可靠的 —— 但有趣的是，当我询问另一个人工智慧时，它却將 chat gpt 归类为 “哲学殭尸”或 “殭尸人工智慧”。”
“在今天的討论中，我们对 “殭尸人工智慧” 一词的使用略显宽泛，既包括了那些可能 “超出殭尸人工智慧范畴上限” 的例子，也包括了 “低於殭尸人工智慧范畴下限” 的例子。”
“就我个人而言，我乐於使用人工智慧来帮我修正糟糕的拼写和语法，或进行简单的计算。”
“如今，我通常会把段落输入人工智慧，让它帮我修正冗长的句子和拼写错误，而我则继续处理下一部分內容 —— 但我並不关心它对复杂话题的 “看法”。”
“按照这个標准，我可以放心地说，chat gpt 是 “殭尸人工智慧” 的一个简单例子，或许可以称为 “原始殭尸人工智慧”—— 尤其是因为我们例子中的 “太空鸡”，其运作所需的技术远没有这么复杂，而如今，作为 “可能遍布星系的安静外星人” 的代表，“太空鸡” 才是我们主要关注的对象。”
“当然，也有可能 chat gpt 和 “太空鸡” 都不属於 “殭尸人工智慧”。”
“儘管如此，我们当前的人工智慧系统，並非 “天网”（skynet，《终结者》系列中失控的人工智慧）式的直接威胁。”
“因此，我们不能想当然地认为 “危险的殭尸人工智慧必然先於危险的感知型人工智慧出现”，也不能认为 “只有在人工智慧造成灾难性伤害后，才能开发出安全的人工智慧”。”
……
【感知能力可选项？外星人：意识是dlc，我们买不起！】
【楼上笑死！宇宙大寂静是因为大家都被自己的殭尸ai干掉了？这剧本太黑暗了！】 ↑返回顶部↑