それは AI 特有のハルシネーションと呼ばれる現象(致命的欠陥)で、AI 利用者の多くの人々(6割)がよく知らないでいます。
情報の断片(言葉)を確率をもとにしてつなぎ合わせるのが AI の基本技術なので、確率が外れると間違ったことを言います。
対策としては、
・AI は参考程度に使う
・別途、検索エンジンや情報サイトで確認を行う
(図書館の蔵書データで検索、もそうですね)
・AI が間違えないよう、質問をもっと具体的に、明解にする
などが主なところです。
参考記事:
https://forbesjapan.com/articles/detail/82249/page2