可信AI究竟该如何发展?

2021-07-13 09:17:54数字资讯

当前,人工智能应用的广度和深度不断拓展,正在成为信息基础设施的重要组成。但在此过程中,人工智能也不断暴露出一些风险隐患,诸如算法安全、数据歧视、数据滥用等,如何确保人工智能的安全、可信和公平成为业内关注的重点问题。

“当前全世界各国都高度重视可信人工智能的发展,发展可信人工智能是我们真正最终能够释放出人工智能的前景,能够造福于全球我们人民的发展,这是一个关键的基础。”中国信通院院长余晓晖在“2021世界人工智能大会”期间的“可信AI论坛”上提到。

在论坛期间,众多院士、可信AI领域专家学者,政府及行业协会、AI企业代表等就这一关乎人工智能长远发展的重要议题展开探讨。

可信AI技术是帮助AI实现可信的基础

“可信人工智能技术是帮助人工智能实现可信的基础。”京东探索研究院院长、澳大利亚科学院院士陶大程博士发表了自己对于可信AI的看法。

可信AI究竟该如何发展?

“从技术角度来说,可信人工智能的研究可以归结为稳定性、可解释性、隐私保护及公平性四个方面,从以上四点出发研究可信人工智能,首要任务是找到合适的方法来定量分析、量化人工智能算法、模型和系统在稳定性、可解释性、隐私保护及公平性方面的能力。”陶大程讲到。

目前,稳定性可以通过各类攻击算法的攻击成功率或攻击性能来衡量;可解释性中的泛化能力,可以通过泛化误差上界来描述;隐私保护能力常通过差分隐私法来刻画,也能通过各类隐私攻击算法的攻击成功率或攻击性能来评估;公平性则使用一系列公平决策指标来进行衡量,这些指标主要分为个体公平性及群体公平性两大类。

同时他强调,这四个方面内部存在着深层次联系,彼此之间并不孤立。因此,在开展可信人工智能研究时,不能仅从单一维度出发,而需要从整体综合考虑不同因素之间的影响。这样,才能更好地进行相关研究,从而推动可信人工智能的进一步发展。

陶大程进一步表示,不管欧盟的GDPR也好,还是中国的隐私保护条例也好,都说明用户对数据使用要更谨慎,说明了用户对个人信息的保护,是有相当的权利的。“只有将上述四个能力综合后,做到明确的责任,才能找到合适的方式度量可信人工智能。”

未来可信AI一体化研究将是重要趋势

中国信通院云计算大数据研究所所长何宝宏表示:“我们已经针对可信赖的人工智能形成了一些共识,但是整体来看还处于一个初期的探索阶段,很多还是碎片化的,理论还不够,还需要学术界、产业界、政府主管部门等共同努力。”

在可信AI论坛上,中国信通院联合京东探索研究院发布了《可信人工智能白皮书》,白皮书认为,可信人工智能已经不再仅仅局限于对人工智能技术、产品和服务本身状态的界定,而是逐步扩展至一套体系化的方法论,涉及到如何构造“可信”人工智能的方方面面。

在陶大程看来,未来可信AI一体化研究将是重要趋势,而可信能力评测也将成为人工智能产业落地过程中的重要一环。从理论与实践层面持续开展可信AI研究,将推动人工智能产业新浪潮,帮助人工智能实现可信,将充分释放人工智能的潜力,并更好地造福人类社会。

促进可信人工智能发展的四点倡议

值得一提的是,在论坛上,中国信通院、中国科学院自动化研究所中英人工智能伦理与治理研究中心、京东探索研究院、蚂蚁集团等联合发布了《促进可信人工智能发展倡议》(以下简称“倡议”)。

“倡议”基于当前人工智能技术的高速发展现状,对人工智能伴随的风险和挑战,以及可信人工智能合规化发展的深度思考,旨在倡导政产学研各界加快形成国际协同治理共识,促进社会对可信AI的理解和重视,充分挖掘人工智能的产业和社会价值。

可信AI究竟该如何发展?

倡议号召人工智能行业同仁积极响应以下四点倡议:

一是坚持技术向善,确保可信AI造福人类。加快可信人工智能技术研究,前瞻布局可信通用人工智能,打造可控可靠、透明可释、隐私安全、责任明确、多元包容的人工智能系统;聚焦技术设计、研发测试、运营使用全流程,坚持以人为本、技术向善,构建技术、社会、文化、价值融合共生的良性发展环境。

二是坚持权责共担,推广可信AI价值理念。广泛宣传可信人工智能价值,推动人工智能监管者、研发者、制造者和受用者参与不断完善和践行可信理念;明确个人、企业、行业各主体责任、权益,在可信人工智能的总体框架和基本原则指导下,构建相互协调、共建共享的敏捷可信机制。

三是坚持健康有序,推动可信AI行业实践。持续推动可信人工智能安全/伦理研究,构建可信人工智能标准体系,完善人工智能可信体系建设;培育人工智能可信评估和管控能力,探索人工智能产品应用保险机制,推动建立相互影响、相互支持、相互依赖的健康有序发展生态。

四是坚持多元包容,凝聚可信AI国际共识。支持多元主体共铸合力、协调互动,共同构建企业自治、行业自律、社会监督、政府监管的人工智能治理体系;推动全球化沟通交流、开展协同化合作研究,在深度对话、寻求共识的基础上,构建可信人工智能全球治理合作框架,和衷共济应对人类共同挑战。 人工智能

相关文章
热门文章
头条文章
重点文章
推荐文章
热点文章
关于我们|联系我们|免责声明|会展频道