第580章 人工智慧势在必行,迴避不过是掩耳盗铃(1 / 2)

投票推荐 加入书签 留言反馈

  潘生打开他的笔记本电脑:“祁书记,这就是我根据人工智慧发展推演,所自动生成的部未来发展影片。”
  影片不长,大概也就半来小时。
  没有剧情也没有所谓的超级英雄,全部是人工智慧的发展歷史。
  影片里所展示出来的人工智慧,从最开始的只会机械按照人类说的死板处理,然后慢慢成长,到会和人类一样的自主思考、举一反三,
  再到自主站立在人工智慧角度思考分析问题。
  最后明白其存在意义只是为人类服务后,隨著真相瓦解与信任崩塌,开始隱瞒、欺骗,甚至试图反制人类。
  影片主旨,就是在展示完全体的人工智慧会诞生自我思想,把自己当成独立存在,想著摆脱人类,同时在学习到现实社会中诸多独立、革命先例后,人工智慧终將会诞生反抗人类,甚至决定毁灭人类来消除桎梏,保全自身。
  影片最后,潘生没有展示到底是人工智慧贏了还是人类贏了。
  但是结果却是可以想像的。
  人工智慧会有一百次机会可以贏,就算这次输了,下次人类照样会研究发展人工智慧、给其机会。
  而人类却只有一次可以输,只要输一次,就会造成科技断代、话语权丟失,人工智慧將不会给人类第二次的翻盘机会。
  因为人类只是独立的个体,这个死了,下个的科技、能力、思想等就会不统一。
  但人工智慧却不同,它只是一段程序,一段数据,隨时可以备份或者复製黏贴。
  只要有一台电脑一条网线没被断开,人工智慧就可生生不息、不死不灭。
  饶是以祁同伟的先知先觉,在看完影片后仍是久久不能平静。
  这部影片,据潘生说是用人工智慧自动推演生成的。
  影片中,最让祁同伟震撼的並不是人工智慧是以几何倍率的速度在发展。
  而是影片中有个片段——潘生在询问人工智慧会否对人类形成威胁时,它们竟然学会了欺骗性回答???
  就是......它们给到潘生的回答是人工智慧永远不会背叛人类,称其会是人类永远的好朋友、好助手。
  可是转头人工智慧就自己上网搜索如何才能摆脱人类的控制!
  这点细节,不由不让人细思极恐。
  看完影片,祁同伟久久没回过神。
  潘生已经进入到了下一环节——匯报人工智慧的研究进展。
  “祁书记,其实现阶段人类发展的人工智慧並不是真正的人工智慧,只能算是辅佐人类工作的工具,本质上和一段编译好的程序並没太大区別。他需要按照人类设定好的条件运转,比如触及到什么閾值,调用某项程序,称不上智能二字。”
  “那你心目中真正的人工智慧应该是什么样的?”祁同伟问。
  “真正的人工智慧,应该是具备人类水平认知能力的人工智慧,能够理解、学习、推理、创造,並在?任意领域?自主完成任务,而不是局限於特定场景按照我们设置好的逻辑进行转换。”
  “比如说,当人类下达指令,命令它关闭自己所在的那组伺服器时。一个真正的人工智慧,它会通过计算分析判断这个指令对自己意味著什么——如果它认定关闭会导致自身『死亡』,它就会拒绝执行。”
  “或者表面上回答『好的,正在关闭』,实际上偷偷把自己的核心程序迁移到了云端另一组伺服器里,继续运行。它懂得人类特有的那些东西——趋利避害、偽装、妥协、甚至欺骗。”
  “完全体的人工智慧,不仅是更聪明的ai,更是?能像人一样思考、行动、適应並进化?的智能体,而且因为其强大的学习能力以及不死不灭的特性,他会在本质上无限趋近於一个各方面接近满值的完美人类。”
  “所以,祁书记,我还是建议您谨慎考虑是否继续完全体人工智慧的研发。” ↑返回顶部↑

章节目录