読み：あらいめんと ／ 分野：AI・生成AI
AIが人間の意図や価値観に沿って動くよう調整する取り組みや技術のことです。
アライメントとは、AI（人工知能）が人間の意図や社会的な価値観に沿った出力・行動をするように調整する技術や取り組みを指します。生成AIの判断や発言が、利用者の期待や倫理的な基準から外れないようにする目的があります。
意味
AIモデル、特に大規模言語モデル（LLM）は、大量の文章データから学習することで、様々な質問に答えられるようになります。しかし学習データには偏った情報や不適切な表現も含まれるため、そのままでは差別的な発言、誤った情報、危険な指示への応答などをしてしまう可能性があります。
アライメントは、こうした好ましくない出力を抑え、人間にとって有用で安全、かつ正直な応答をするようAIを調整する工程です。具体的には、人間が出力の良し悪しを評価してモデルに反映させる手法や、望ましい行動のルールをあらかじめ組み込む手法などが使われます。AIの性能を高める作業とは別に、AIの「振る舞い方」を整える作業という位置づけです。
使われる場面と具体例
- AI開発企業が、チャットボットが暴力的・差別的な発言をしないように、事前に応答のルールを調整する場面で使われます。
- 自社の問い合わせ対応にAIチャットボットを導入する企業が、業界のルールや社内方針に反する回答をしないか確認する際に関係します。
- 生成AIを使った文章作成ツールを選ぶ担当者が、不適切な出力を防ぐ仕組みが備わっているかを比較検討する場面で判断材料になります。
中小企業が押さえたい点
- 利用するAIサービスがどの程度アライメントの対応をしているかは、提供企業の説明やガイドラインで確認できる場合があります。
- アライメントが施されていても誤った回答（ハルシネーション）が完全になくなるわけではなく、重要な判断には人の確認が必要です。
- 社内でAIチャットボットを使う際は、自社の方針や業界ルールに沿った回答になるよう、利用範囲や質問の仕方を決めておくと安心です。
よくある誤解
- アライメントを「AIの性能向上」と同じ意味だと誤解されがちですが、性能ではなく振る舞いの適正化を目的とした取り組みです。
- アライメントが施されたAIは完全に安全だと思われがちですが、想定外の質問や使い方では不適切な回答が出る可能性が残ります。
よくある質問
Q. アライメントはAIの導入企業が自分で行う作業ですか。
A. 多くの場合、AIモデルを開発する企業側が行う工程です。導入企業が意識するのは、その対応状況を確認することです。
Q. アライメントが不十分なAIを使うとどうなりますか。
A. 不適切な発言や誤った情報を出力するリスクが高まり、顧客対応などで信頼を損なう可能性があります。
Q. アライメントとハルシネーション対策は同じですか。
A. 目的が重なる部分もありますが、別の課題です。アライメントは振る舞いの適正化、ハルシネーション対策は事実性の向上に重点があります。
関連する用語
関連記事
ほかの用語を探す
