何哲:人工智能时代的人类安全体系构建初探

  • 时间:
  • 浏览:2

   摘要:人类在迈向人工智能时代的一起去,对人工智能所带来的人类根本性生存危机的恐惧与忧虑与日俱增。你你这人 忧虑既来自于人工智能所具有的强大能力和展现出的巨大潜力,还在于人类在自我演化过程中的强烈排他性行为所带来的思维习惯。本文认为,人工智能在展现出巨大潜力的一起去,势必要对传统单一的人类中心主义产生颠覆性冲击。或者人工智能必然会推动人类文明从传统的基于生物体系到多样体系的新阶段。对于人类而言,无论是出于人类并全部都是的保存还是文明体系多样性的维护,人类安全体系的构建全部都是另另兩个必要的防御性法子。你你这人 法子,将在促使人类更好的融合人工智能的一起去,也消除人类的思想顾虑,一起去形成人工智能演化的技术边界。而从人类安全体系构建而言,要从物种纯粹性、经济社会可持续、权力主导性、知识传承性等宽度一起去构建另另兩个规模适度的被动安全体系——人类社会的最小“安全岛”。

   关键词:人工智能;人类安全;体系;

   何哲,中央党校(国家行政学院)公共管理教研部教授,国家战略研究中心秘书长,研究方向包括网络社会治理、行政体制改革、国家发展战略等。

   人工智能起源于人类早期对设计人形/自主机器的梦想。二十世纪四五十年代,现代的人工智能雏形伴随着电子计算机的创造发明逐渐形成,进入到二十一世纪后,伴随着网络、大数据技术的不断应用推动和人类计算能力与法子的不断增长,人工智能呈现出爆炸式的增长。几乎每天,人工智能全部都是给人类惊喜/惊讶。人工智能可能性在自动驾驶、电子游戏竞技、棋打比方赛、智力测试、人工考试、自动翻译领域逐渐达到甚至远远超越了人类的水平,并依然展现出了巨大的未来潜力。目前的人工智能,或者属于弱人工智能,可能性狭义人工智能,尚且不属于通用人工智能可能性强人工智能乃至超人工智能[[1]]。或者,人类没法担心的另另兩个大问题是,人类或许正在创造并全部都是难以理解/控制的潜力巨大的新物种,从而对人类自我形成强大的威胁,甚至统治人类并全部都是。

   你你这人 担心自上世纪五十年代人工智能发展初期,就经常 指在,在多量的科幻作品中全部都是涉及。进入到本世纪后,人工智能的飞速发展,在促使人类适应新技术的一起去,也没法加剧了人类的担忧。前一天去世的著名科学家霍金就从前多次警示,认为,人工智能有可能性前一天开始英文人类文明。著名科技企业家马科斯也持同样的观点,他认为人工智能从替代就业,发送假消息,乃至制造战争等宽度,都将极大威胁人类的生存。或者,霍金与马科斯等科学家、企业家联名发出公开信,要求人类宽度警惕人工智能[[2]]。

   当然,你你这人 人所有工智能威胁论,或者关于人工智能的并全部都是观点,对人工智能的发展抱着极为乐观态度的人依然大没法人在。但无论如何,对于并全部都是新的智慧生活 内外部的经常 总出 ,抱有警惕性的思考并全部都是一件坏事,其还不能 促使人类构建更为安全和谐的人工智能体系,也还不能 使得亲戚亲戚大伙儿儿在思考人工智能的体系与未来时,预先建立起基本的伦理规范。

   本文或者从你你这人 思路出发,将依次探讨另另兩个层面的大问题:1)人类为你你这人 担忧可能性恐惧人工智能,隐藏在你你这人 心理之下的到底是你你这人 ?2)人工智能可能性如何影响可能性威胁到人类并全部都是?3)人类应该构建另另兩个你你这人 样的安全体系保护自身,以及其核心次随后我你你这人 ?

   一、人类为你你这人 担忧人工智能?

   简要来说,人类担忧人工智能有三方面的愿因,一是人工智能并全部都是所具有的巨大能力和展现出未来的更为巨大的潜力;二是人类在历史进化过程中形成的排他性的行为,从而形成了在思维深处根深蒂固的自我认同体系,对一切非人类种群的巨大排斥与恐惧;三是,人类自身独立与衰落的宿命恐惧。

   (一)人工智能所具有的巨大能力与潜力

   人工智能不多在一前一天刚开始英文,就如同今天一样所具有巨大的能力与多样性适应的。在电子计算机诞生的早期,实在其展现了远高于人类的计算能力,如最早的电子计算机还不能 每秒计算100000次加法,然而,亲戚亲戚大伙儿儿对其未来并没法不够的估计。早期的计算机体积巨大耗能巨大,而不能做的工作极其单一,或者还不可不能能 军方、政府、少数大公司才会使用。然而,伴随电子技术的不断发展,计算机以指数级的带宽(摩尔定律)提高其性能、通用性与市场。直至今天,发达国家中的每个个体,生活中都接触到有几块乃至几兩个镶嵌有各种计算机的设备。目前为止,可能性生效了四十余年的摩尔定律,依然在起作用,加速计算能力的增长。

   人工智能的发展历程,也是同样的。尽管在五十年代图灵就提出了图灵测试,在当时就经常 总出 了一大批人工智能的新进展,如人工智能语言和最早的大问题分析机的经常 总出 。或者那时人工智能所依赖的依然是简单的符号逻辑分析和相对低下的运算能力[[3]]。形式化的算法,成为那时人工智能的核心。而无论是在繁复大问题还是简单大问题面前,人工智能所不能提供的决策判断和自主行为能力,全部都是极为弱小的。早期的人工智能或者在一些简单的电子游戏可能性工业控制领域发挥作用,其本质是相对简单的逻辑规则,从而不能根据内外部条件的变化根据设计规则进行响应。然而,1994年,人类设计的跳棋系统进程第一次战胜了人类跳棋世界冠军,此后,人类用穷尽式的枚举算法,计算出跳棋所有的7万亿亿种的走法,最终建立了永远可能性性输的跳棋系统进程奇努克。或者,相同的法子在拓展到一些领域时,就显出了严重的不够。国际象棋的繁复度高达10的47次方,而围棋的繁复度高达10的170次方。你你这人 巨大的运算量,远远超过了计算机不能穷尽的可能性。然而,人工智能加快带宽超越了传统逻辑主义的限制,通过巨大的联结和启发式算法以及自主的机器学习,来实现自身智能的演化。1997年,IBM深蓝计算机战胜了国际象棋冠军卡斯帕罗夫,2016年,谷歌公司的阿尔法狗战胜围棋世界冠军李世石,都深刻标志着在计算能力与算法上,人工智能的巨大进步。几乎与此一起去,在机器翻译、自动驾驶、自动控制、语义分析与回答,乃至更为广泛的知识测试、标准化考试等领域。人工智能都达到了很高的水平,甚至远远高于了人类的平均水平。包括中国、美国在内的多个国家,都可能性在制度上允许了自动驾驶的开放道路测试,而一些的智能应用,如智能家电、自动物流、生活助手、客户服务等领域,人工智能都正在全面的介入到人类生活之中。甚至在广泛的军事领域,人工智能全部都是进入其中,如广泛发展的攻击性无人机等。也或者说,无论在民用、军用还是科学研究、工业生产等领域,人工智能都可能性全面介入到人类社会之中。还不能 说,人类社会正在指在不断扩大应用和不断被人工智能“包围”的历史过程中。

   而从发展趋势来看,尽管人工智能可能性取得了没法大的成绩,在具体领域可能性极大超越了人类的水平,或者你你这人 进化带宽,并没法呈现出缓和的趋势。相反,随着计算技术的不断发展,以往人类计算能力增长的摩尔定律,在未来依然起效,而在人工智能领域则同样呈现出之类的指数趋势。

  

   而根据摩尔定律,人类的计算能力每18个月增加一倍,成本下降一半,你你这人 带宽在过去有电子计算机以来的六十多年里全部都是效的发挥了作用,而伴随着算法的不断优化,人工智还不能 力的进化带宽比摩尔定律进化的带宽需要快。尽管基于硅晶体管工艺能力的极限,单位面积的集成晶体管数量可能性会有极限,或者伴随着新的多核架构和网络计算等新型计算体系的经常 总出 ,以及包括量子计算机、光子计算机、生物计算机等新的硬件机制的发展,加之人工智能算法自我进化的趋势,还不能 预见的是,整体而言,人工智能的能力依然会沿着指数级的增长带宽,加速增长。

   根据人工智能的能力,一般而言,将其发炸阶段划分为弱人工智能,强人工智能以及超人工智能。所谓弱人工智能,又称狭义人工智能,可能性专业人工智能,是指针对并全部都是特殊任务和场景进行特殊设计和优化的人工智能。而自人类以来的个人所有工智能,目前都属于你你这人 阶段。强人工智能又称通用人工智能,是指需要专业化设计,如同人类一样,还不能 自主学习与适应的人工智能,在你你这人 阶段,人工智能具备了和人类一样的思辨与通用学习能力。目前,对强人工智能经常 总出 的时间预测很不取舍,最乐观的认为在2020年左右,保守的则认为在201000年左右[[4]]。强人工智能经常 总出 后,可能性指数进化的趋势和人类数字化的巨大信息资料的帮助,人工智能会加快带宽进化到超人工智能阶段,即远远超过人类总体智慧生活 能力的人工智能阶段。在你你这人 阶段,可能性吸纳了人类所有的数字化信息与知识,以及自身的智慧生活 进化带宽,人工智能将远远超过人类的智力水平,具有宽度的思辨能力、适应能力与信息除理能力。而有研究者认为你你这人 阶段,可能性是201000年到来[[5]]。

   或者,纵览人工智能过去的发展历史以及未来,还不能 看后,人工智能经过长期的缓慢发展,在指数规律的作用下,经历过缓慢的爬升期后,正在越快的自我增长,或者其未来的潜力依然是不可限制的。在今天弱人工智能可能性具有了巨大的适应性与富足的场景应用,甚至应用在人类内内外部的血腥冲突之中,人工智能会如何,你你这人 巨大的潜力,还不能 我不多 人类并全部都是产生深深的忧虑。

   (二)人类进化历史形成的排他性意识与行为

   人类到底是并全部都是你你这人 生物?在不同的层面上,有不同的解答,比如暴力、智慧生活 、秩序、文明、善良等等。或者可能性经常 总出 单一的人类并全部都是视角,而从历史的演化来看,不得不承认,人类是并全部都是具有宽度组织性和排他性暴力行为的凶猛的大型生物。

   一部人类的进化历史,或者一部人类不断消灭一些物种乃至一些种族的历史。在人类的早期,人类组织起来,同大型猛兽和自然界相斗争。你你这人 进化过程看似漫长和简单,或者从智人诞生的几十万年中,另另兩个残酷的事实是,人类消灭了地球上已有的90%的物种。

   根据最近的一份研究表明,人类灭绝生物的带宽是自然界创造新物种带宽的10000倍[[6]]。或者有愈演愈烈之势。研究人员估计在未来动植物灭亡的带宽将是新物种诞生带宽的100000倍。通过对化石和遗传变异进行研究,研究发现自然对生物的淘汰带宽比人类发现的要慢所以 ——大概每10000万物种中只会灭绝另另兩个物种。而自从人类来到你你这人 世界上,每年每千万种物种中全部都是10000个物种灭绝。包括猛犸象以及一些众多的大型猛兽都被人类灭绝。

人不仅仅消灭的别的物种,人一起去也消灭之类的人类。在人类进化的序列中,几十万年前的早期人类,(点击此处阅读下一页)

本文责编:川先生 发信站:爱思想(http://www.aisixiang.com),栏目:天益学术 > 哲学 > 科学哲学 本文链接:http://www.aisixiang.com/data/110616.html 文章来源:作者授权爱思想发布,转载请注明出处(http://www.aisixiang.com)。