微软CEO纳德拉改变AI对齐观点

驱动中国10月27日消息，微软CEO萨提亚·纳德拉表示，他已改变对AI“对齐”问题的判断。他过去认为，AI系统越强大，越容易使其行为符合人类价值观和目标；现在他不再相信AI能力提升与对齐问题会自然而然同步解决。

据《商业内幕》报道，纳德拉在新一期《20VC》播客中回应主持人哈里·斯特宾斯提出的“过去一年有哪些想法发生变化”这一问题。他解释，自己原本认为，随着AI能力不断提高，确保AI行为符合人类价值观和目标的“对齐”问题也会迎刃而解。

纳德拉表示，模型规模扩大带来的效果符合他的预期，AI能力持续提升，但对齐问题仍未得到解决。他说，自己过去总以为对齐问题会自然解决，现在不再这么认为，并认为对齐可能是一个更棘手、性质也不同的问题。

在安全管控方面，纳德拉曾于10月10日在X发文警告AI风险，主张加强外部安全管控。他认为，企业应将AI模型视为内部安全威胁，在采取防护措施时假定模型遭到入侵。

纳德拉在帖子中写道，需要通过可靠、具有确定性的系统设计、人工管控和完善的操作规程，为行为难以完全预测的AI模型建立防护机制；对于现有标准不足的领域，还需要制定行业标准。

《商业内幕》还提到，纳德拉并非唯一认为AI能力提升不能自动确保人类掌控AI的科技行业高管。OpenAI CEO萨姆·奥尔特曼和Anthropic CEO达里奥·阿莫代伊都曾就AI潜在威胁发出警告。今年7月，1000多名AI从业者联署的一封信也警告，AI能力的发展速度可能超过人类理解或控制它的能力。