MIT、AIに「わからない」と言わせる訓練法を開発 - 幻覚現象の解決へ

MITの研究者たちは2026年4月22日、AIモデルが自信の度合いをより正確に表現できるようになる新しい訓練方法を発表しました。この手法は、AIが「わからない」と認識した際に、それを適切に表明する能力を向上させるものです。

この進歩は、特に推論を行うAIモデルにおいて、その信頼性を高める上で重要です。AIが事実と異なる情報を生成する「幻覚（ハルシネーション）」現象は、AIの応用における大きな課題の一つですが、この新しい訓練法は、その根本原因の一つに対処するものと期待されています。

性能を犠牲にすることなく信頼性を向上させるこの技術は、AIシステムの安全で効果的な利用を推進する上で、画期的な一歩となるでしょう。