编者按：在 AI 技术不断突破与快速落地的今天，如何确保其发展方向与人类价值观协调一致，正成为科技界与社会各界亟需回答的关键问题。近日，微软亚洲研究院发布了《社会责任人工智能：研究的挑战与机遇》白皮书，系统梳理了 AI 在社会实践中的复杂挑战，并提出了包括技术、伦理、治理等多维度的十大关键研究问题。通过跨越计算机科学与社会科学的深度对话，该白皮书深入探讨了如何设计“负责任的人工智能”，推动实现技术与社会的共生共进。
2022年10月，微软亚洲研究院举办了一场“负责任的人工智能”主题研讨会 (opens in new tab)，汇聚了来自计算机科学、心理学、社会学和法律领域的专家一同交流、探讨。这场跨学科的对话不仅促成了持续的合作，也推动了包括价值观罗盘（Value Compass） (opens in new tab)等项目在内的针对人工智能的社会影响这一研究方向的探索。
随着研究的不断深入，微软亚洲研究院开始关注如何设计 AI 系统，以满足医疗、教育和公共服务等领域中人们和机构的实际需求。这些探索最终汇集成一份白皮书：《社会责任人工智能：研究的挑战与机遇》，系统性地探讨了 AI 如何更好地满足社会需求。
“Societal AI: Research Challenges and Opportunities” Whitepaper
《社会责任人工智能：研究的挑战与机遇》白皮书
作者：微软亚洲研究院社会责任人工智能研究团队
什么是“社会责任人工智能”？
社会责任人工智能（Societal AI）是一个新兴的跨学科研究领域，聚焦于 AI 与全球社会系统和公共生活的复杂交互关系。它主要关注两个方面：1）AI 对教育、就业和治理等领域带来的影响；2）在 AI 能力不断演进的过程中，AI 系统所面临的新兴的内在挑战，例如评估机制、责任归属、人类价值观对齐问题。其目标是引导 AI 发展与社会系统相协调，能够更好地融入现实世界。
这份白皮书就这些问题进行了深入讨论，提供了理解 AI 动态变化的研究框架，并针对如何以负责任的方式将 AI 融入社会提出了建议。
社会责任人工智能的发展历程
社会责任人工智能的概念最早可追溯至近十年前。在个性化推荐系统的研究中，微软亚洲研究院关注到了“信息茧房”和“社会极化”等潜在风险，这些问题也在学术界引发了持续而广泛的讨论。这些发现促使研究员们进一步探索模型的可解释性、公平性以及隐私等问题，为后续更全面的负责任的人工智能研究奠定了基础。
近年来，大模型的迅速崛起使得这些议题变得更加紧迫，也让研究员们重新思考、评估现有的研究方法。如今，来自多个学科的科研人员正携手明确关键的研究问题，并通过发表这份白皮书分享给更广泛的社区，从而推动 AI 沿着更符合社会价值的路径发展。
白皮书的关键见解
《社会责任人工智能：研究的挑战与机遇》白皮书概述了几个对该领域具有重要意义的考虑因素：
跨学科研究框架：将 AI 技术研究与社会科学、人文学科、政策研究和伦理学相结合，这种多学科融合的研究方法对于应对 AI 发展面临的复杂的社会挑战至关重要。
可执行的研究蓝图：明确提出十大研究问题，为研究者、政策制定者及行业领袖指明了方向，共同聚焦最紧迫的议题。
全球视角：强调国际合作和多元文化视角在负责任的人工智能发展中的重要作用，呼吁包容性对话。
实践洞见：立足于真实世界的合作实践，兼顾理论深度与实际应用。
微软亚洲研究院院长周礼栋表示：“AI 的影响早已超越了算法和计算本身，它促使我们重新思考信任、创造力、自主性以及价值体系等基本概念。仅开发更强大的 AI 模型是远远不够的，我们还应该深入研究 AI 要如何与人类的价值观、社会制度和多元文化背景互动。”
三大指导原则
白皮书中还提出了社会责任人工智能的研究蓝图，旨在支持 AI 以负责任的方式融入社会，最大限度地减少负面影响。该蓝图强调多学科协作，并应以三个关键原则为指导：
- 和谐（Harmony）：AI 应减少冲突并建立信任，从而获得公众的接受，避免因自主性带来的反弹。人类应理解如何让AI服务于自身目标。
- 协同（Synergy）：AI 应增强人类能力，实现人类与机器单独无法达成的成果，推动生产力、创造力及问题解决能力的革新。
- 韧性（Resilience）：面对社会和技术环境的不断演变，AI 系统必须具备适应性和稳健性。这种韧性将有助于人类和 AI 应对不确定性的挑战，如经济变化、伦理困境或新兴风险。
十大关键研究问题
《社会责任人工智能：研究的挑战与机遇》白皮书的另一大亮点是提出了十个关键的研究问题，涵盖了 AI 发展中必须考虑的技术与社会问题：
- 如何让 AI 与多样化的人类价值观和伦理原则对齐？
- 如何设计 AI 系统以确保不同文化、地区和人群的公平性与包容性？
- 如何在 AI 系统更加自主时确保它们安全、可靠、可控？
- 如何优化人机协作以增强人类能力？
- 如何有效评估 AI 在新的、不可预见的任务和环境中的能力和表现？
- 如何增强 AI 的可解释性，以确保其决策过程透明？
- AI 将如何重塑人类的认知、学习和创造力，并可能解锁哪些新能力？
- AI 将如何重新定义工作方式、协作模式和未来的全球商业模式？
- AI 将如何改变社会科学的研究方法，并带来哪些新见解？
- 监管框架应如何演变，以负责任地引导 AI 发展并促进全球合作？
这些问题将随着 AI 对社会影响的持续演变而不断更新，确保研究议题与时俱进。在此基础上，白皮书特别强调了跨学科合作的重要性，希望能够以满足社会需求和公众利益的方式指导人工智能发展。
芝加哥大学社会学教授 James A. Evans 评价：»微软亚洲研究院发布的这份白皮书是深思熟虑且全面的。在预见并应对人工智能，尤其是在大语言模型广泛落地及多元化应用所带来的社会影响方面，这是早期迈出的十分重要的一步。”
展望未来
随着 AI 在各行业影响力的不断扩大，微软亚洲研究院将继续聚焦如何负责任地使用 AI 造福人类社会。
微软亚洲研究院希望《社会责任人工智能：研究的挑战与机遇》白皮书既能为 AI 发展起到指导作用，也能促进研究者、政策制定者、行业领袖和公众共同努力，携手构建负责任的人工智能。对此，微软也将继续推动跨领域合作，诚邀更多伙伴加入，共同参与治理体系的开发，确保 AI 发展始终与社会目标一致。
最后，衷心感谢所有为本白皮书撰写提供支持的研究人员、合作伙伴及相关同事。
Artificial intelligence