ハルシネーションとは、人工知能(AI)が事実に基づかない情報を生成する現象のことです。
AIが幻覚(ハルシネーション)を見ているかのように、もっともらしい嘘をつくことから、このように呼ばれています。
ChatGPTのような生成AIサービスでは、回答がどのようなデータに基づいてされているのか分からない場合、その信ぴょう性をユーザーが判断することは困難です。このハルシネーションは生成AIサービスの信頼性に関わる問題であり、この問題を解消するために様々な研究が進められています。
ハルシネーション

« Back to Glossary Index