AI对齐

前沿概念

AI Alignment

简明定义

AI对齐是确保AI系统的目标和行为与人类价值观一致的研究领域。主要技术包括RLHF、DPO、宪法AI（Constitutional AI）、可解释性研究等。Anthropic等公司将AI对齐作为核心研究目标。随着AI能力增强，对齐研究的重要性日益凸显。