文章生成AI(chat GPT、Grok、Gemini、)は
自分で考えてたり人間のように知識を蓄えて回答してるのではなく
ネット上で確認できる情報群から質問の答えとして提示してるにすぎません
なので大概は検索すれば出てくる物ですし
検索して出てこない物は回答されませんし
間違った内容が多ければ間違った内容のまま回答されます
また物によっては検索すれば出てくる物でも
曲解や内容を無視して回答されたりもします
そのためこう言った文章生成系では
大して信用しない話半分で見るのがいいです
知識系でない物や
ガンダムとドラえもんが戦ったら〜みたいな
知恵袋によく見えた○○VS○○シリーズとかを聞いて楽しむくらいが妥当でしょう