聚焦安全与伦理 AI产业发展有了“北京共识”

本篇文章854字，读完约2分钟

《今日北京商报》(记者冯涛肖永刚)“假设你从A点到B点跑，中间突然冒出一个小孩，人们会躲开它，但机器可能会直接撞上它，以便更快地达到目的。”如何规避这些风险是人工智能伦理学研究的重要课题之一。”5月25日，在北京致远人工智能研究所人工智能伦理与安全研究中心揭牌仪式的新闻发布会上，该中心主任曾毅说:“如何让机器学习人类的伦理和价值观是人工智能领域的圣杯。”

同一天，北京致远人工智能研究所与北京大学、清华大学、中国科学院自动化研究所、中国科学院计算技术研究所等大学、研究所和产业联盟联合发布了《人工智能北京共识》。

艾行业发展方兴未艾，如何实现行业自律已经提上日程。《今日北京商报》记者在新闻发布会上了解到，《人工智能北京共识》提出了所有参与者都应该遵循的15条原则，这些原则有利于人类命运共同体的建设和社会发展。

关于建立这些原则的意义，曾毅告诉《今日北京商报》记者:“例如，在使用阶段，我们建立了一个人工智能平台，但实际上我们不知道用户最终会如何使用它。在用户被滥用的情况下，平台能否快速自动检测和规避，是所有开发者和企业都应该关注的问题。”

据了解，欧盟、英国、日本等国际组织和国家都发布了人工智能的伦理准则。《人工智能北京共识》注重“为人民服务”，将中国哲学文化中的特色概念“和谐优化共生”作为寻求全球跨行业、跨部门、跨地区合作的指导思想，强调推动人工智能相关标准的“落地”，为未来创造“负责任、互利共赢”的人工智能。

同时，曾毅表示，未来我们将开展符合人类伦理道德的智能自主学习模式的研究，实现人工智能行为和人类价值观的校准；构建数据安全示范应用系统，最大限度防止数据泄露，探索允许用户撤销个人数据授权的机制和计算平台。

数据显示，截至去年5月，中国有4040家人工智能企业，北京有1070家人工智能企业，占26%，涉及智能医疗、智能家居、智能城市、智能零售和无人驾驶。

北京市科委主任徐强近日表示，今年北京将积极承担国家重大科技任务，力争在北京布局智能制造、机器人、深空探测等重点任务和项目。