2024年7月4日，2024世界人工智能大会暨人工智能全球治理高级别会议发表《人工智能全球治理上海宣言》（以下简称《上海宣言》）。
“世界人工智能大会”自2018年创办以来，本届第一次更名为“世界人工智能大会暨人工智能全球治理高级别会议”，展现了中国在引领人工智能治理规则方面的雄心。
中国率先构建强制性的科技伦理审查制度
中国国家新一代人工智能治理专业委员会在2019年3月召开第一次会议，很快在当年9月发布《新一代人工智能伦理规范》，提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。随后在2021年12月修订的《中华人民共和国科学技术进步法》，提出设立国家科技伦理委员会，建立健全科技伦理审查机制。2022年 3 月，中共中央办公厅、国务院办公厅发布《关于加强科技伦理治理的意见》，提出科技伦理（审查）委员会制度。2023年 9 月，科技部、教育部、工业和信息化部等十部门联合印发《科技伦理审查办法（试行）》，正式规定从事人工智能等科技活动的单位，研究内容涉及科技伦理敏感领域的，应设立科技伦理审查制度。
中国率先颁布针对生成式人工智能的专门立法
国家网信办分别于2021年12月颁布《互联网信息服务算法推荐管理规定》、2022年11月颁布《互联网信息服务深度合成管理规定》，对算法推荐服务和互联网信息服务深度合成技术的应用进行了规范。随着生成式人工智能应用在全球的爆火，国家网信办等七部门很快在2023年7月份推出《生成式人工智能服务管理暂行办法》，成为全球生成式人工智能的首部专门立法。
《上海宣言》，展现中国AI治理思路
上海宣言提出，人工智能将对世界产生深远影响和巨大潜力，人工智能正在引领一场科技革命。中国将积极推进研发，释放人工智能在医疗、教育、交通、农业、工业、文化、生态等各领域的应用潜力；大力推进人工智能赋能各行各业，率先在制造、物流、采矿等领域加速智能化；致力于培养更多的人工智能专业人才。
与此同时，上海宣言提出，人工智能给人类带来前所未有的挑战，特别是在安全和伦理方面。上海宣言呼吁共同关注和缓解人工智能对就业的影响；反对歧视性、排他性的数据训练；呼吁各国秉持以人为本、智能向善原则；认识到加强监管，打造可审核、可监督、可追溯和可信赖的人工智能技术的必要性；以人工智能技术防范人工智能风险，提高人工智能治理的技术能力；制定相应的法律和规范，建立风险等级测试评估体系和科技伦理审查制度，在此基础上，鼓励行业制定更为及时和敏捷的自律规范；加强人工智能相关的网络安全，增强系统与应用的安全性与可靠性，防止黑客攻击与恶意软件应用；加强人工智能的监管与问责机制，确保人工智能技术的合规使用与责任追究。
上海宣言倡导AI发展中体现民主、民生、民本。上海宣言提出建立多元化的参与机制，包括公开征求意见、社会调查等方式，让公众参与到人工智能决策过程；积极推动人工智能在可持续发展领域的应用，包括工业创新、环境保护、资源利用、能源管理、促进生物多样性等；致力于利用人工智能提升社会福祉，特别是在医疗、教育、养老等领域。
《上海宣言》，推进AI全球治理
上海宣言认为，只有在全球范围内的合作与努力下，我们才能充分发挥人工智能的潜力，为人类带来更大的福祉。上海宣言倡导开放与共享的精神，推动全球人工智能研究资源的交流与合作；合作打造高质量数据集，为人工智能发展注入更多养料；建立合作机制，同步推进相关技术、标准的共用共享；加强教育培训与人才交流合作，提高全球范围内人工智能素养与技能水平；确保各国在开发和利用人工智能技术方面权利平等、机会平等、规则平等，不受任何形式的歧视；呼吁在人工智能技术、产品和应用的国际合作中，遵守产品与服务对象国的法律法规，遵守适用的国际法，尊重其经济社会制度、宗教文化传统和价值理念；推动制定数据保护规则，加强各国数据与信息保护政策的互操作性，确保个人信息的保护与合法使用；在尊重运用国际国内法律框架前提下，共同打击操纵舆论、编造与传播虚假信息的行为；合作防范恐怖主义、极端势力和跨国有组织犯罪集团利用人工智能技术从事非法活动；推动制定和采纳具有广泛国际共识的人工智能的伦理指南与规范；倡导建立全球范围内的人工智能治理机制，支持联合国发挥主渠道作用，欢迎加强南北合作和南南合作，提升发展中国家的代表性和发言权。
2023年10月，中国领导人宣布提出《全球人工智能治理倡议》。2024年7月1日，第七十八届联合国大会协商一致通过中国主提的加强人工智能能力建设国际合作决议，140多国参加决议联署。本次上海宣言，再次显示了中国在大力推进人工智能全球合作治理的努力。
