蚂蚁集团研究院院长李振华：让AI模型对齐人类价值伦理

　　【财新网】“在谈人工智能治理问题时，根本问题是价值取向，以及如何与人类价值对齐的问题。”在近日举办的2026世界人工智能大会（WAIC）人工智能规则全球对话与协同发展论坛上，蚂蚁集团研究院院长李振华如是表示。

　　在诸多AI产品中，目前医疗健康产品与人类的生命和身心健康关系最近。李振华以AI医疗健康产品为例，分析AI应用实践中的挑战和治理路径。

　　他认为，医疗健康AI产品面临三重风险。从技术安全风险来说，模型的幻觉、算法的“黑箱”特性带来医学专业性和可解释性的挑战。法律合规风险上，AI模型需接触用户的健康数据，用户隐私安全受到挑战。医学伦理风险上，用户是否能充分理解AI模型诊疗建议的科学依据、风险和获益；医务人员会否过度依赖AI模型导致专业能力削弱；训练数据的结构性偏差或样本不均衡，会否导致AI模型在特定人群或罕见病上的识别准确率偏低等均需加以重视。