2023世界人工智能大会可信赖人工智能论坛成功举办

      世界人工智能大会（WAIC）是经国务院批准，由国家发展和改革委员会、工业和信息化部、科学技术部、国家互联网信息办公室、中国科学院、中国工程院、中国科学技术协会和上海市人民政府共同主办的全球人工智能领域最具影响力的行业盛会。2023世界人工智能大会于7月6日至7月8日在上海世博中心举办。

      7月8日，2023世界人工智能大会可信赖人工智能论坛成功举办。论坛由中国科学院软件研究所主办，重庆中科汽车软件创新中心承办，国科础石（重庆）软件有限公司、中科南京软件技术研究院等单位协办。

      论坛以“可信赖贯穿人工智能系统研发的全生命周期”主题，聚焦可信赖人工智能中的技术研究、工具研发、标准制定以及应用落地，邀请中科院软件所、上海交通大学、华东师范大学、复旦大学、浙江大学的专家学者做主旨分享和交流，并举办圆桌研讨，以期促进可信赖人工智能相关领域的发展。

      主题报告环节，软件所薛云志研究员做题为“迈向可信赖的自动驾驶”的报告，详述如何从数据层、算法层、场景层、测试层、评估层、平台层、政策层等迈向可信赖的自动驾驶；上海交通大学金耀辉教授以“可信赖大语言模型：训练、推理及评测”主题，阐述了如何通过开源开放提高大模型的可靠性和安全性；华东师范大学李钦副教授以“智能系统内生安全构造与验证技术”为主题，回答了如何实现人工智能系统可信验证与评测技术，如何实现人工智能系统模块化设计与开发方法等问题；复旦大学马兴军研究员做主题报告“大模型的可信性研究”，分析了大模型的起始、现状，以及可能存在的风险及应对措施；浙江大学况琨副教授授做题为“基于工具变量的因果推断和因果可泛化学习”的分享，提出了将因果推理机制引入到机器学习，实现人工智能的知其然并知其所以然，解决人工智能可解释性或稳定性的问题。

      圆桌论坛环节，软件所孟令中副研究员、上海市人工智能行业协会研究陈曦高级工程师等5位专家学者，围绕“生成式AI的安全与风险”主题进行研讨并达成共识：大模型或者生成式AI一定是机遇大于风险，但是要对风险有可控的意识，要对人工智能建立可信赖管理的制度。

中国科学院软件研究所研究员 薛云志

圆桌论坛