もう少し詳しく
推論（インファレンス）とは、あらかじめ大量のデータで学習を終えたAIモデルが、利用者からの質問や指示に対して、実際に回答や結果を生成する処理のことです。AIモデルを作る過程は大きく分けて、モデルにデータを学ばせる「学習（トレーニング）」と、学習済みのモデルを使って実際に回答を出す「推論」の2段階に分かれます。学習には一度だけ大きな計算コストがかかるのに対し、推論は利用者がAIを使うたびに毎回発生するため、利用者数が増えるほど積み重なっていく処理です。
どこで使われるか
ChatGPTやClaude、Geminiのような対話型AIサービスに質問を入力し、回答が返ってくるまでの処理はすべて推論にあたります。画像認識や音声認識など、学習済みのAIモデルを使う場面全般で、推論という処理が行われています。
身近な例
AIチャットサービスに質問を送ってから回答が表示されるまでの間、サービスを提供する会社のコンピューター上では、大量の推論処理が行われています。AI開発企業が「回答速度を上げた」「利用コストを下げた」と発表する際、その多くは、この推論にかかる処理を効率化する取り組みを指しています。
注意点
AIサービスの多くは、利用者が増えるほど推論にかかるコンピューターの利用料や電力コストが積み重なっていく仕組みになっています。AI企業が独自のコンピューター部品（チップ）の開発に乗り出す動きの背景には、この推論コストをいかに抑えるかという課題があります。推論の仕組みそのものは、AIが新しく学習しているわけではなく、あくまで学習済みの知識をもとに答えを組み立てている処理である点も、利用する上で押さえておきたいポイントです。
