#ハルシネーション

ハルシネーション（幻覚）─ LLMが「嘘をつく」メカニズムと対策

ハルシネーションとはLLMがもっともらしく聞こえるが事実と異なる情報を生成してしまう現象。モデルは「正しいことを言う」ためではなく「次トークンを予測する」よう学習されているため、大きなモデルでも嘘をつく。RAG・出典要求・自己検証の多層防御がエージェントの信頼性を守る鍵とされる。