为深入贯彻习近平总书记《全球人工智能治理倡议》，积极落实《人工智能全球治理上海宣言》，加快推动上海人工智能发展高地建设取得新的更大突破，在相关委办局的共同指导和支持下，上海人工智能实验室治理研究中心与上海市信息安全测评认证中心合作成立“上海人工智能安全治理实验室”，积极探索人工智能治理“上海实践”。7月6日，在2024世界人工智能大会暨人工智能全球治理高级别会议闭幕式上，市经济信息化委副主任张宏韬、市委网信办总工程师杨海军共同为“上海人工智能安全治理实验室”揭牌。

“上海人工智能安全治理实验室”在统筹发展和安全的指导原则下，将聚焦研究人工智能安全治理标准和伦理规则、研发体系化技术工具支撑提升治理水平、促进构建“政-产-学-研-用”多方协同的治理模式、服务人工智能产业发展和生态建设四大方向，开展人工智能安全治理的基础理论研究和共性技术研发，推动技术标准、指引的深入实践与应用，加强安全治理国际、国内交流与合作，促进上海人工智能安全治理水平提升，服务国家人工智能安全治理工作。