5月25日，北京智源人工智能研究院联合北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所、新一代人工智能产业技术创新战略联盟等高校、科研院所和产业联盟，共同发布《人工智能北京共识》。同时，北京智源人工智能研究院人工智能伦理与安全研究中心揭牌成立。
人工智能伦理与规范是未来智能社会的发展基石，已经引起了各国政府和学术界、企业界等的广泛关注。欧盟、英国、日本等国际组织和国家，均发布了人工智能的伦理准则。《人工智能北京共识》关注“服务于人”，将“和谐与优化共生”这一中国哲学和文化中的特色理念，作为寻求跨行业、跨部门、跨地区全球协作的指导思想，并强调促进人工智能相关准则的“落地”，为未来打造“负责任的、有益的”人工智能。这一共识的发布，为规范和引领人工智能健康发展提供了“北京方案”，对于实现人工智能“自律”“善治”“有序”具有重要意义。

另外，为降低人工智能发展过程中可能存在的技术风险和伦理隐患，北京智源人工智能研究院专门成立人工智能伦理与安全研究中心，中国科学院自动化研究所曾毅研究员任研究中心主任。

就人工智能伦理与安全研究中心的主要研究内容，据曾毅介绍，该研究中心将围绕人工智能伦理与安全的理论探索、算法模型、系统平台、行业应用等开展一系列研究，目前主要包括四大方面：一是低风险机器学习模型与平台的构建，建立机器学习模型安全性的评估体系，并结合具体领域进行验证。二是开展符合人类伦理道德的智能自主学习模型研究，实现人工智能行为与人类价值观的校准，并在模拟环境与真实场景中进行验证。三是建设数据安全示范应用系统，建立数据基础设施、数据分级、权限控制、数据审计，最大限度防止数据泄密，降低风险，探索允许用户撤销个人数据授权的机制及计算平台。四是构建人工智能风险与安全综合沙盒平台，建设自动检测平台，针对数据与算法的安全性、公平性、可追溯性、风险类型、影响程度与影响范围等方面，对人工智能产品及应用进行风险与安全综合检测与评估，引导行业健康发展。

会议认为，人工智能涉及范围极广，应对人工智能带来的挑战，不是一个领域、一个城市、一个部门、一个机构能够独立完成的，需要充分汇聚科学家、企业家、产业联盟和社会各界的力量，多方参与、共同努力，持续推动人工智能伦理、规范方面的学术研究与成果转化应用，并不断强化行业自律。会议倡导北京人工智能领域广大创新主体，积极践行并不断完善共识的内涵，共同营造良好生态，加快人工智能领域基础研究、核心技术创新和高精尖产业发展，让人工智能更好支撑北京高质量发展和创新驱动发展战略实施，并更好造福全人类。

今后，人工智能伦理与安全研究中心将着力在算法安全评估、安全模型构建、AI综合沙盒建设等方面尽快取得一系列创新性成果，为降低人工智能的风险和伦理隐患提供技术服务，促进人工智能行业的良性健康发展。

来源 | 中国科技网 
作者 | 华凌