在最近的 TEDxBeijing Live 活动中，微软亚洲研究院高级研究员矣晓沅阐明了人工智能的价值观与其行为间的关系，并深入探讨了实现人工智能与人类价值观有效且稳定的对齐方法。同时，他还介绍了微软亚洲研究院为解决对人工智能价值观的定义、评测和对齐问题，所进行的“价值观罗盘”（Value Compass）项目的最新研究进展。该项目致力于用人类的价值观传承引导技术创新的社会责任，通过对二者价值观进行对齐，从而构建人机和谐发展的未来社会。

随着人工智能技术的快速发展和能力的不断增强，大模型已经逐步应用于人们的日常生活。但这同时也带来了很多新的潜在风险，进一步凸显了大模型与人类价值观对齐问题的紧迫性。然而，人工智能应该与哪些价值观进行对齐？又该如何对齐？这些问题至今还没有明确的答案。

为了解决这些挑战，微软亚洲研究院提出了价值观罗盘（Value Compass）项目，从交叉学科的角度切入，充分借鉴伦理学和社会学中的理论，以解决对价值观的定义、评测和对齐问题。本文将深度解析大模型价值观的对齐现状，并介绍微软亚洲研究院在这一领域取得的最新研究成果——基于施瓦茨人类基本价值理论的 BaseAlign 对齐算法。

日前，全球计算机领域影响力最大的专业学术组织国际计算机学会（Association for Computing Machinery，简称 ACM）公布了2023年度 ACM Fellow 名单。微软亚洲研究院资深首席研究员谢幸博士因其在空间数据挖掘和推荐系统方面的卓越贡献获选其中。

人工智能快速发展，对人类社会的影响与日俱增。为确保人工智能成为对社会负责任的技术，我们以“社会责任人工智能（Societal AI）”为研究方向，与心理学、社会学、法学等社会科学进行跨学科合作，探索如何让人工智能理解和遵从人类社会的主流价值观，做出符合人类预期的决策，并通过更合理的评估模型让人类准确掌握人工智能的真实价值观倾向和智能水平。

——谢幸
微软亚洲研究院资深首席研究员

谢幸是微软亚洲研究院的资深首席研究员、空间数据挖掘领域的先驱之一。为确保以负责任和符合人类价值观的方式使用人工智能，其团队致力于“社会责任人工智能（Societal AI）”的研究方向，以保证技术和大模型应用的公平性、可靠和安全、隐私和保障、包容性、透明度和责任。

他们通过设计有效的隐私保护方法，来保护用于大模型训练或微调的隐私数据，以及通俗易懂的模型解释方法，来帮助用户理解大模型的工作原理。并且，着力消除或减轻用于训练大模型的数据中固有的社会偏见和仇恨，从而让大模型在不断变化的环境中更加安全和鲁棒。