ハルシネーション

はるしねーしょん

LLMがもっともらしい誤情報を生成する現象。

#llm
#risk

事実に反する内容を、自然な言葉づかいで自信ありげに生成してしまう現象。RAG・引用必須化・出力検証・ヒューマンインザループなどで影響を抑える設計が必要。