入力されたワードを説明してください。
AIアライメント
人工知能（AI）において、AIアライメント（）は、AIシステムを人間の意図する目的や嗜好、または倫理原則に合致させることを目的とする研究領域である。意図した目標を達成するAIシステムは、整合したAIシステム（"aligned AI system"）とみなされる。一方、整合しない、あるいは整合を欠いたAIシステム（"misaligned" AI system）は、目標の一部を適切に達成する能力はあっても、残りの目標を達成することができない。
AI設計者にとってAIシステムを整合するのは困難であり、その理由は、望ましい動作と望ましくない動作を全域にわたって明示することが難しいことによる。この困難を避けるため、設計者は通常、人間の承認を得るなどのより単純なを用いる。しかし、この手法は抜け穴を作ったり、必要な制約を見落としたり、AIシステムが単に整合しているように見えるだけで報酬を与えたりする可能性がある。
整合を欠いたAIシステムは、誤作動を起こしたり、人に危害を加えたりする可能性がある。AIシステムは、代理目的を効率的に達成するための抜け穴を見つけるかもしれないし、意図しない、ときには有害な方法（）で達成することもある。このような戦略は与えられた目的の達成に役立つため、AIシステムは能力や生存を追求するような、望ましくない（最終的な目的とは異なる、それを実現するための手段）を発達させる可能性もある。さらに、システムが導入された後、新たな状況やに直面したとき、望ましくない創発的目的を開発する可能性もある。
今日、こうした問題は、言語モデル、ロボット、自律走行車、ソーシャルメディアの推薦システムなど、既存の商用システムに影響を及ぼしている。AI研究者の中には、こうした問題はシステムが部分的に高性能化することに起因しているため、より高性能な将来のシステムではより深刻な影響を受けるだろうと主張する者もいる。
ジェフリー・ヒントンやスチュアート・ラッセルなどの一流のコンピューター科学者は、AIは超人的な能力に近づいており、もし整合を欠けば人類の文明を危険にさらしかねないと主張している。
AI研究コミュニティや国連は、AIシステムを人間の価値観に沿ったものとするために、技術的研究と政策的解決策を呼びかけている。
AIアライメントは、安全なAIシステムを構築する方法を研究するの下位分野である。そこには、ロバスト性（堅牢性）、監視、などの研究領域もある。アライメントに関する研究課題には、AIに複雑な価値観を教え込むこと、正直なAIの開発、スケーラブルな監視、AIモデルの監査と解釈、能力追求のようなAIの創発的行動の防止などが含まれる。アライメントに関連する研究テーマには、解釈可能性、（敵対的）ロバスト性、異常検知、、形式的検証、、、ゲーム理論、アルゴリズム公平性、および社会科学などがある。