読み：すいろん ／ 分野：AI・生成AI
推論とは、学習済みのAIモデルが新しい入力データに対して答えを導き出す処理のことです。
推論とは、学習を終えたAIモデルが、未知の入力データを受け取って結果を出力する処理のことです。文章の生成や画像の判定など、AIが実際に「使われる」場面で行われる計算を指します。
意味
AIモデルは、大量のデータから規則性やパターンを学ぶ「学習」という段階と、学んだ内容をもとに実際の判断や出力を行う「推論」という段階の2つを経て動きます。学習は時間と計算資源を大きく使う作業で、一度行えば繰り返す必要はありません。一方、推論はユーザーが質問を送るたびや、システムがデータを処理するたびに毎回実行されます。そのため、サービスを提供し続ける限り発生し続ける処理であり、応答の速さやコストに直結します。推論を行う専用の仕組みは「推論エンジン」と呼ばれ、入力されたデータをモデルに通して結果を返す役割を担います。
使われる場面と具体例
- 総務担当者が社内向けチャットAIに質問を送ると、裏側でモデルが推論を行い、回答文を生成して画面に表示します。
- EC運営者が商品画像をシステムに読み込ませると、画像生成AIや画像認識の仕組みが推論によってカテゴリや特徴を判定します。
- コールセンターの音声応答システムが、利用者の発話内容を推論によって解釈し、適切な案内文を自動で選びます。
中小企業が押さえたい点
- 推論は利用のたびに発生するため、利用量が増えるほど処理費用や応答時間に影響する点を確認しておく必要があります。
- クラウド上のサービスを使う場合は、推論にかかる料金体系が従量課金か定額かを契約前に確認すると、予算管理がしやすくなります。
- 自社でAIモデルを動かす場合は、推論に必要な計算資源（GPUなどの処理装置）の有無や性能が、導入の可否を左右します。
よくある誤解
- 「推論」と「学習」を同じ作業だと捉える誤解があります。学習はモデルを作る準備段階、推論はできたモデルを使う段階で、必要な計算量や頻度が異なります。
- 推論は人間のような論理的思考を行っているという誤解がありますが、実際は学習したパターンに基づいて確率的に出力を計算する処理です。そのため誤った回答（ハルシネーション）が生じることもあります。
よくある質問
Q. 推論にはどのくらいの時間がかかりますか。
A. モデルの規模や利用する装置の性能、入力データの量によって異なり、数秒で終わる場合もあれば時間がかかる場合もあります。
Q. 推論の費用はどのように決まりますか。
A. 多くのクラウドサービスでは、処理したデータ量や呼び出し回数に応じた従量課金が一般的です。
Q. 自社サーバーで推論を行うメリットはありますか。
A. 外部に送信したくない情報を扱う場合に、社内環境で処理を完結できる点が利点として挙げられます。
関連する用語
関連記事
ほかの用語を探す
