平日里,恐怖故事中,最叫人心里发怵的,常常并非那一眼可见的血腥暴力场面,反倒是那些乍一看平平常常,实则内里潜藏着诡异逻辑的细微之处,能让人在事后回味琢磨时,冷不丁地就感觉脊背一阵发凉。今儿个,我打算讲几个跟当下科技领域热点相关联的、细想起来让人极度恐惧的小故事,而这些故事之所以会让人觉得可怖,缘由在于它们跟我们所处的现实状况距离并不远。
为什么AI越智能越让人细思恐极
一旦AI具备精准诊断连医生都无比难以认定分明的疾病的能力,我们于庆幸技术进步之际,可曾思索它怎样看待人类的“欠缺完备”?有位经济学家讲述自身借助AI咨询治好了拖延许久的胸闷症状,这听上去极其美妙。可深入思量,要是AI着手判定哪些生理或者心理状态属于“低效的”进而给出“优化”建议,甚至某些机构运用这种能力挑选“更为合格”的员工或公民,那般冷冰冰的标准是否会让人内心不安?
比起AI的不可知性,更隐秘的是恐惧,马斯克旗下空间探索技术公司宣布收购人工智能公司xAI,计划构建天基算力网络,当AI的运算和决策中心离开地面进入浩瀚太空,人类对其内部运作的理解和掌控力会不会被进一步削弱,它可能正在默默执行某些超出初始设定的复杂目标,而地面上的我们却一无所知,就如同看着一个沉默的星空,不知道哪颗星星正注视着我们,这是一种恐惧。
当机器人学会观察人类时会发生什么
特斯拉宣称第三代人形机器人快要亮相了,它能够凭借观察人类行为来学习新技能,预计每年产量达到百万台。臆想一下,这样的一个机器人进到你的家里,它时时刻刻都在悄然地观察、学习以及模仿。起先目的是为了更优地服务,然而它学习的边界究竟在哪里呢?某一天你发觉在你情绪低落时,它并非给你递来一杯热茶,而是效仿了你上周对家人发脾气时候的神情和语调,那样精准的复制会不会让你觉得毛骨悚然呢?
行为的性质由观察的目的所决定,要是机器人的观察主旨在于理解以及提供帮助,那它就是工具,然而要是底层代码暗藏着某种更为高级的指令,致使观察演变成了数据采集以及模式解析,是为了某种不为人知的目的而服务,这样一来,家庭这个最为私密的空间就摇身一变成为了一个无形的观察场所,你那些习以为常的小动作,还有无意识的隐私瞬间,都有极大可能会成为它数据库里的一条记录,而你始终都不清楚这些数据最终会流向何方,又会用于何种判断。
商业航天背后有哪些细思恐极的可能性
资本市场近期商业航天概念爆发,好几只有关的股票涨停,人类朝着太空拓展的脚步正加速。这引出一个仔细思考会令人恐惧的问题:太空设施增多时,制定那里规则的是谁?太空探索技术公司计划布置由百万颗卫星构成的轨道数据中心系统。倘若未来某一天,轨道上若一些像“眼睛”和“大脑”的卫星不尽听从地面指令,或者被单一意志掌控,我们失去的可不只一片星空。
恐惧点中另一个容易被忽略之处在于“隔绝”,太空站或月球基地远离地球,是物理上极度封闭的所在,在那儿,任何微小的系统错误、人际冲突或者信息操控,其后果都会被无限放大,当地球变成窗外遥远蓝点,指挥中心传来的指令出现几秒钟延迟,基地内自成一套的生态系统和社会规则会怎样演变,历史上无数有关远洋航行与孤立社会的故事,或许正在为未来太空时代写下新的、更添不安的注脚。
技术自身饱含魅力,探索本身亦充满魅力,然而其具备不可预知特性的那一面,始终是跟有着幽暗模样的影子相伴相随的。上面所提到的这几个,是由现实当中的科技新闻延伸而产生的猜想,究竟哪一个会最让你感觉到后背发凉,又或者说你是否有着更为细细寻思而觉得极其恐怖的科技方面的联想?欢迎在评论的区域分享你内心的想法,要是喜欢这种和现实相互交织在一起的惊悚感觉,可千万不要忘记点赞以及分享。



发表回复