上海、深圳都在推动这一领域的立法 这份报告梳理出干货建议
9月1日,2022世界人工智能大会分论坛活动之一“可信AI论坛”在徐汇西岸分会场举行。全球20余位人工智能专家和行业代表围绕“可信AI,共建共治”这一主题展开探讨,展望共建安全、可靠、可控、公平的未来智能世界。
人工智能技术不断加快演进,正深刻改变人们的生产生活方式,随之而来的数据隐私、算法歧视、安全风险等人工智能治理问题,也引发了社会各方的关注。为此,中国信通院华东分院、中国信通院云计算与大数据研究所、京东探索研究院等共同牵头编写了《可信人工智能产业生态发展报告(2022)》于论坛发布,对人工智能产业融合的“可信要素”进行分析研判,并提出建议。
根据报告,2021年以来,随着人工智能领域第一份综合性法案《欧盟人工智能法案》(EU Artificial Intelligence Act)发布,美国推出了《2022算法问责法案》,国内的深圳、上海等城市也相继推动了人工智能立法,世界各地对人工智能算法监测、应用审查的关注日益加强,人工智能治理已进入“建章立制”阶段。人们对人工智能“可信品质”的关注也到了前所未有的高度。
记者在报告中发现,目前可信AI技术研究的主流领域涵盖提升人工智能系统稳定性、提升隐私保护技术等。具体来看,当前以对抗训练、梯度屏蔽为代表的人工智能系统稳定性技术正稳步发展;以同态加密、多方安全计算、差分隐私等为代表的隐私安全技术也发展迅速;可解释性增强技术研究当前仍处于初期阶段,部分科技巨头已推出多个AI可解释性工具及服务。
在可信AI的标准制定方面,国际标准化组织和国际电工委员会ISO/IEC布局最早,涉及AI系统偏差、风险管理、AI系统质量模型、神经网络鲁棒性等;电气和电子工程师协会(IEEE)主要以隐私、可解释为突破点制定行业标准;中国人工智能产业发展联盟牵头制定了《可信AI操作指引》和《可信AI示范区管理办法》,开展了可信AI测试工具征集和可信AI试评估等落地实践。
在产业生态上,可信AI的相关产品与设备目前已涉及机器人、汽车、医疗器械、智能终端、AR/VR设备等领域;应用场景方面已涌现出面向隐私安全保护、风险识别与控制、数据传输与共享等领域的诸多案例,在金融、医药、教育、制造等环节深入开展了商业化应用,加速AI全产业链的可信生态形成。
论坛现场,中国信通院华东分院和京东探索研究院共同创建的“可信AI联合实验室”正式揭牌。实验室将构建人工智能算法与平台安全测试评估的方法、技术、规范和工具集,围绕AI应用管理、AI算法模型、平台系统与硬件产品等建立体系化的评估规范,开展算法模型检测与标准研究,构建可信AI应用生态。
(文章来源:上观新闻)
本文来源于网友自行发布,不代表本站立场,转载联系作者并注明出处