请选择 进入手机版 | 继续访问电脑版
查看: 114|回复: 0

关注丨人工智能发展要遵循这个原则

[复制链接]

83

主题

407

帖子

907

积分

高级会员

Rank: 4

积分
907
发表于 2019-8-13 23:55:52 | 显示全部楼层 |阅读模式
关注丨人工智能发展要遵循这个原则-1.jpg

疑问

如果无人驾驶出现事故,系统会做出保护行人还是保护司机的决策?

机器人更加个性化,是否能够做好安全监管?

AI“换脸术”“变声术”在娱乐大众的同时,如何避免被滥用甚至侵害他人权益的风险?

人工智能是否享有著作权?

......

关注丨人工智能发展要遵循这个原则-2.jpg

在人工智能飞速发展的同时

相关法律、伦理、社会问题的研究

也成为行业发展不可回避的问题

近日,国家新一代人工智能治理专业委员会发布了《新一代人工智能治理原则——发展负责任的人工智能》,提出人工智能治理的框架和行动指南。该治理原则突出了发展负责任的人工智能这一主题,强调了和谐友好、公平公正、包容共享、尊重隐私、安全可控、共担责任、开放协作、敏捷治理等八条原则。

关注丨人工智能发展要遵循这个原则-3.jpg

随着近年来一系列顶层设计出炉,一大批企业投身人工智能领域,我国人工智能发展已在部分方面具有优势。与此同时,由此带来的安全风险、隐私、算法歧视、行业冲击、失业、收入分配差异扩大、责任分担等监管难题也让人工智能的发展在争议中踽踽前行。

Q:如何让机器符合人类道德规范?

A:对此,学界大体有3种设想:

一是自上而下,即在智能体中预设一套伦理规范,如自动驾驶汽车应将撞车对他人造成的伤害降到最低;

二是自下而上,即机器通过数据驱动,学习人类的伦理德道规范;

三是人机交互,即让智能体用自然语言解释其决策,使人类能把握其复杂的逻辑并及时纠正可能存在的问题。

解惑

在《治理原则》中,“发展负责任的人工智能”成为贯穿人工智能发展的一条主线,协调人工智能发展与治理的关系,确保人工智能安全可控可靠,推动经济、社会及生态可持续发展,共建人类命运共同体,构成了《治理原则》的4个主要亮点。

清华大学苏世民书院院长、

国家新一代人工智能治理专业委员会主任薛澜:

比如我们提出的“和谐友好”等原则,强调无论是人工智能提供的产品还是服务,都应该是负责任的、全面的,应以增进人类共同福祉为目标,应该符合人类的价值观和伦理道德,避免误用,禁止滥用、恶用。

上海大学教授、

国家新一代人工智能治理专业委员会委员李仁涵:

人工智能是一个新生事物,发展还是第一位的。推动我国人工智能的发展,也要在发展中解决问题。

中国科学院自动化研究所研究员、

国家新一代人工智能治理专业委员会委员曾毅:

现在一些技术开发者没有经过这方面的专业训练,通过创新为社会带来正面效应的同时,对相关的风险不重视或无意识,给社会带来了较大的隐患,希望《治理原则》的发布,能够推动“自适应”的治理,确保人工智能朝着对全人类、全社会及自然生态有益的方向发展。

来源:中高新传媒
回复

使用道具 举报

发表回复

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

联系客服 关注微信 下载APP 返回顶部 返回列表