xml地图|网站地图|网站标签 [设为首页] [加入收藏]
来自 科技中心 2019-09-25 05:22 的文章
当前位置: 7276.com > 科技中心 > 正文

伦理嵌入:人工智能奇点后人类自保之途?

“智能化的过程令社会发生了变化,从社会生态视角来看,人工智能发展带来了人机关系的核心问题。”李真真说。

尽管专家对探讨人工智能发展的伦理框架态度积极,但也对其发展可以对人类社会带来的益处予以了肯定。

据查红彬介绍,人工智能的技术奇点是指人工智能超过人类智力极限的时间点,“此后世界的发展将会超出人类的理解范畴”。

事实上,当下人工智能的发展已经带来了诸多伦理挑战。如是否会导致大规模失业、是否会带来个人隐私与社会安全的隐患等。

据浙江大学预言与认知研究中心教授廖备水介绍,他们正在考虑将伦理嵌入到人工智能系统中。在他看来,当下人工主体的探讨并没有涉及社会层面的内容,而规范主体应当是人工主体与社会规范和伦理的结合。

著名英国物理学家霍金曾表示,人工智能“是好是坏我们仍不能确定,但我们应该竭尽所能,确保其未来发展对我们和我们的环境有利”。

然而,在查红彬看来,AlphaGo事实上还是在环境已知、规则化的封闭环境中取得的研究成果,而未来关于人工智能的研究对象应该是未知、非规则化环境中的机器人。

这无疑会增加人类的紧迫感,但科学家也表示,对此并非无计可施。

会上,中科院院士裴钢特别提醒,现在的伦理体系多是西方主导的伦理,这应当引起中国科学家的注意。他建议,中国科学家应加快探讨相应伦理规则的步伐,在国际社会上发出自己的声音。

虽然,人工智能的发展目前仍处于模拟人的思维、感知、行为的弱人工智能阶段,但对于能够模拟人类意识的强人工智能,人类还是应当通过伦理先于技术发展的探讨,为人工智能与人类自身的和平相处打好基础。

上海交通大学计算机科学与工程系教授吕宝粮表示,无创的可穿戴脑机交互系统可实现对人、动物在自然场景下的情绪识别和调控。“如特殊岗位的极端情绪和情感监控以及抑郁症的检测量化等都可以实现。”

依据库兹韦尔的“加速循环规则”,技术的力量正以指数级的速度迅速增长,技术奇点将于2045年到来。

依据库兹韦尔的“加速循环规则”,技术的力量正以指数级的速度迅速增长,技术奇点将于2045年到来。这无疑会增加人类的紧迫感,但科学家也表示,对此并非无计可施。

上海交通大学计算机科学与工程系教授吕宝粮表示,通过无创的可穿戴脑机交互系统,可以实现对人、动物在自然场景下的情绪识别和调控。“如特殊岗位的极端情绪和情感监控以及抑郁症的检测量化等都可以实现”。

中科院科技战略咨询研究院研究员李真真表示,应从两个维度看待人工智能的发展,即人工智能应用带来社会智能化的过程、人工智能系统自身的发展及其引发的问题。

据浙江大学预言与认知研究中心教授廖备水介绍,他们正在考虑将伦理嵌入到人工智能系统中。在他看来,当下人工主体的探讨并没有讨论社会层面的内容,而规范主体应当是人工主体与社会规范和伦理的结合。

廖备水表示,他们通过数学模型处理各种不一致情境中的推理,同时可实现不同利益攸关方的求同存异。这样便可“为解释自主智能系统的决策提供一种自然而形象的途径”。

“如果伦理没有做好准备,将来我们创造出来的就可能是怪物。”近日,在由中科院学部科学道德建设委员会主办,学部科学规范与伦理研究支撑中心、福建省科协共同承办,《科学与社会》编辑部协办的以“人工智能:在效率和安全中寻求统一”为主题的2017’科技伦理研讨会上,北京大学信息科学技术学院教授査红彬说。

事实上,当下人工智能的发展已经带来了诸多伦理挑战,比如是否会导致大规模失业、是否会带来个人隐私与社会安全的隐患等。

2016年达沃斯全球经济论坛用以机器智能为象征的第四次工业革命即将到来为主题,阐释了机器智能将对人类社会产生的影响。在机器智能的影响下,信息社会将向人和及其共存共创的智能社会发生转变。

本文由7276.com发布于科技中心,转载请注明出处:伦理嵌入:人工智能奇点后人类自保之途?

关键词: