第四**章 批驳
对兰伯特的动机,妄加揣测,方然这么做并没有什么恶意,至少非其本意。
但,莱斯利兰伯特却明显不是这样理解,而是停住脚步,站在一排黑黢黢的机柜面前,有点挑衅的直盯着阿达民看。
钢筋铁骨的替身,伫在眼前,对这样一具钢筋铁骨的身体发飙,不论从理论上、还是从实战上都毫无意义,意识到这点,兰伯特先生喉头微动,在短暂沉默中重新组织了自己的思路,而后强硬的提出抗议:
“这一点也不有趣,阿达民先生。
身为科学技术的研究人员,自然,应该对科学抱有一种使命感、责任感,但,倘若我们也稍有闲暇,考虑自己的前途命运,这种心理活动难道值得您来横加指责,或者站在高地上恣意嘲笑?
同样是为自己的命运而挣扎,为什么您无须被指责,我们,就得背上一种‘只顾自己’的恶名呢,就因为您的机器大军手里有gun吗。”
“正是如此。
只是兰伯特先生,我来这儿,并不是为找一个随便什么人来吵架;
如果刚才的话令您不快,我收回,并向您道歉。
但我也得说明,自己刚才为什么样那样讲,说真的,身为偌大一个nep的管理员,站在全局角度观察、思考这前所未有的时代,我本人的眼光,头脑,在您和您的同僚眼里,真会如此不堪,而须诸位来担忧一个管理员的未来吗。”
“我提出的只是建议。
或者,如果您不想听到‘警告’这样的词汇,称之为‘提醒’也可。”
管理员的未来,不消说,不会是莱斯利兰伯特的关注焦点,他真正关心的,是nep,人类世界,乃至人类文明的前途命运。
但以现在的语境,他并不需要刻意强调这一点,于是微微扬起头颅:
“如果我本人,以及一干同僚的猜测没错,您的计划,大概是借助一系列‘认知过程’、‘自主式ai’等研究成果,尝试研发出能够自主进行创造性研究的ai,借此实现nep大区的实力飞跃,进而达成更长远的目标。
那么这一规划的问题在哪里?
首先,不得不提到一点,即便阿达民先生、您想象的那种ai被开发出来,在短时间内,或许也就是十年、甚至五年内便进入实用化,这种ai也不过是将将能替代人进行科学研究,将我们这些人扫地出门,仅此而已。
基于人类世界的现状,基础科学的发展,停滞不前,即便用ai代替人类,也几乎无法取得一些关键的、划时代的突破。
至于说,制造出强ai,推动基础科学的发展:
像您这样的人物,该不会有这么一种不切实际的幻想,难道不是吗?
制约人类科学技术发展的,并非聪明才智,而是盖亚与一切相关资源的量级,没有足够的资源、能源甚至空间,这些因素,现阶段无法用任何手段加以改善,更无法规避,ai在这方面也一样无能为力。”
“似乎是这样,不过,我一开始也没有这种奢望。”
莱斯利兰伯特的话,十分浅显,方然便点一点头,承认这位科学家说的很有道理。
“强ai”,不论传统学术界的定义如何,即便被研发出来,缺乏客观条件的支持,也无法凭空推动科技的进步。
“没有,那么这很明智。
但不管怎么说,‘自主式科研ai’能否推进科技,那毕竟也是一个很长远的问题,眼前的危机,才更值得警惕:
出于种种考虑,研发具有创造性、探索性思维的人工智能,ai一旦这样的被研究出来,阿达民先生,您是否能确定,凭现有的科技、武器与战力水准,自己必然能掌控这ai,而不会被自主决策的ai所消灭?”
“ai的反叛,是的,这是一个想当棘手的问题,但,可以提前采取”
“没有什么‘提前采取’!
恰恰相反,一旦‘具有超越人类的科研能力’,这样的ai被制造出来,其行为与动机,就注定会脱离人类的掌控,这并非安保手段、武力强弱的定量问题,而是由双方‘智力’差距所决定的,无解的困局。
试想一下,阿达民先生,您之所以拍板这样宏大的计划,目标,正如刚才亲口所言,绝不是为了获得‘能够与人相比拟’的那种ai。
投入大量资源,消耗时间,只为了得到一些模仿的产物,根本得不偿失。
此类研究的根本动机,显而易见,是期望获得能力超越人类、甚至远远超越人类的‘强ai’,目的,并非研究什么自我意识、或者要创造出这样的自我意识,而是要在人类专有的科学技术研究领域,制造出一个碾压现今所有人的利维坦。
这样的东西,一旦真被研究出来,凭你我这种人类的头脑、意识,恐怕连预测其行为、判断其动机都做不到;
有怎么能奢望,凭借一些儿戏般的安保手段,便能将其禁锢起来,为己所用。”
滔滔不绝,莱斯利兰伯特的一番直抒胸臆,脸都有些涨红。
至于他要表达的意思,无需聚精会神,方然也能明白,事实上,自从掌控nep大区之初,自己便一直在琢磨事关重大的难题。
创造性思维,具有这种特质的ai,先不论通过什么样的手段去研发,一旦成为现实,那么,除非这种ai的能力与人类相仿,一旦其能力远超人类,再加上其自身“思维”、“决策”的无可预测,人类就会有灭顶之灾。
这种风险,只要着手开展此类研究,就一定会出现。
不仅必定出现,应对之策,事实上也是不存在的,并不会因为一些莫须有的“拉电闸”、“核弹爆轰”的手段而改变。
一切的缘由,完全在于ai的“自主意识”,其危害之大,只要设想一个能力超卓、却与同类决裂的人类,能对人类世界造成多么大的破坏,然后将这种威胁放大若干倍,便不难想象到时的情形。
面对特立独行、完全漠视人类利益的威胁,一切应对之策,在强ai的眼里都会十分可笑……
请收藏本站:https://www.fnxsw.cc。飞牛小说网手机版:https://m.fnxsw.cc
但,莱斯利兰伯特却明显不是这样理解,而是停住脚步,站在一排黑黢黢的机柜面前,有点挑衅的直盯着阿达民看。
钢筋铁骨的替身,伫在眼前,对这样一具钢筋铁骨的身体发飙,不论从理论上、还是从实战上都毫无意义,意识到这点,兰伯特先生喉头微动,在短暂沉默中重新组织了自己的思路,而后强硬的提出抗议:
“这一点也不有趣,阿达民先生。
身为科学技术的研究人员,自然,应该对科学抱有一种使命感、责任感,但,倘若我们也稍有闲暇,考虑自己的前途命运,这种心理活动难道值得您来横加指责,或者站在高地上恣意嘲笑?
同样是为自己的命运而挣扎,为什么您无须被指责,我们,就得背上一种‘只顾自己’的恶名呢,就因为您的机器大军手里有gun吗。”
“正是如此。
只是兰伯特先生,我来这儿,并不是为找一个随便什么人来吵架;
如果刚才的话令您不快,我收回,并向您道歉。
但我也得说明,自己刚才为什么样那样讲,说真的,身为偌大一个nep的管理员,站在全局角度观察、思考这前所未有的时代,我本人的眼光,头脑,在您和您的同僚眼里,真会如此不堪,而须诸位来担忧一个管理员的未来吗。”
“我提出的只是建议。
或者,如果您不想听到‘警告’这样的词汇,称之为‘提醒’也可。”
管理员的未来,不消说,不会是莱斯利兰伯特的关注焦点,他真正关心的,是nep,人类世界,乃至人类文明的前途命运。
但以现在的语境,他并不需要刻意强调这一点,于是微微扬起头颅:
“如果我本人,以及一干同僚的猜测没错,您的计划,大概是借助一系列‘认知过程’、‘自主式ai’等研究成果,尝试研发出能够自主进行创造性研究的ai,借此实现nep大区的实力飞跃,进而达成更长远的目标。
那么这一规划的问题在哪里?
首先,不得不提到一点,即便阿达民先生、您想象的那种ai被开发出来,在短时间内,或许也就是十年、甚至五年内便进入实用化,这种ai也不过是将将能替代人进行科学研究,将我们这些人扫地出门,仅此而已。
基于人类世界的现状,基础科学的发展,停滞不前,即便用ai代替人类,也几乎无法取得一些关键的、划时代的突破。
至于说,制造出强ai,推动基础科学的发展:
像您这样的人物,该不会有这么一种不切实际的幻想,难道不是吗?
制约人类科学技术发展的,并非聪明才智,而是盖亚与一切相关资源的量级,没有足够的资源、能源甚至空间,这些因素,现阶段无法用任何手段加以改善,更无法规避,ai在这方面也一样无能为力。”
“似乎是这样,不过,我一开始也没有这种奢望。”
莱斯利兰伯特的话,十分浅显,方然便点一点头,承认这位科学家说的很有道理。
“强ai”,不论传统学术界的定义如何,即便被研发出来,缺乏客观条件的支持,也无法凭空推动科技的进步。
“没有,那么这很明智。
但不管怎么说,‘自主式科研ai’能否推进科技,那毕竟也是一个很长远的问题,眼前的危机,才更值得警惕:
出于种种考虑,研发具有创造性、探索性思维的人工智能,ai一旦这样的被研究出来,阿达民先生,您是否能确定,凭现有的科技、武器与战力水准,自己必然能掌控这ai,而不会被自主决策的ai所消灭?”
“ai的反叛,是的,这是一个想当棘手的问题,但,可以提前采取”
“没有什么‘提前采取’!
恰恰相反,一旦‘具有超越人类的科研能力’,这样的ai被制造出来,其行为与动机,就注定会脱离人类的掌控,这并非安保手段、武力强弱的定量问题,而是由双方‘智力’差距所决定的,无解的困局。
试想一下,阿达民先生,您之所以拍板这样宏大的计划,目标,正如刚才亲口所言,绝不是为了获得‘能够与人相比拟’的那种ai。
投入大量资源,消耗时间,只为了得到一些模仿的产物,根本得不偿失。
此类研究的根本动机,显而易见,是期望获得能力超越人类、甚至远远超越人类的‘强ai’,目的,并非研究什么自我意识、或者要创造出这样的自我意识,而是要在人类专有的科学技术研究领域,制造出一个碾压现今所有人的利维坦。
这样的东西,一旦真被研究出来,凭你我这种人类的头脑、意识,恐怕连预测其行为、判断其动机都做不到;
有怎么能奢望,凭借一些儿戏般的安保手段,便能将其禁锢起来,为己所用。”
滔滔不绝,莱斯利兰伯特的一番直抒胸臆,脸都有些涨红。
至于他要表达的意思,无需聚精会神,方然也能明白,事实上,自从掌控nep大区之初,自己便一直在琢磨事关重大的难题。
创造性思维,具有这种特质的ai,先不论通过什么样的手段去研发,一旦成为现实,那么,除非这种ai的能力与人类相仿,一旦其能力远超人类,再加上其自身“思维”、“决策”的无可预测,人类就会有灭顶之灾。
这种风险,只要着手开展此类研究,就一定会出现。
不仅必定出现,应对之策,事实上也是不存在的,并不会因为一些莫须有的“拉电闸”、“核弹爆轰”的手段而改变。
一切的缘由,完全在于ai的“自主意识”,其危害之大,只要设想一个能力超卓、却与同类决裂的人类,能对人类世界造成多么大的破坏,然后将这种威胁放大若干倍,便不难想象到时的情形。
面对特立独行、完全漠视人类利益的威胁,一切应对之策,在强ai的眼里都会十分可笑……
请收藏本站:https://www.fnxsw.cc。飞牛小说网手机版:https://m.fnxsw.cc