自分は可能性高いと思います。
あなたのことを嫌いな誰かによってAIで作られた画像や動画、仮にあなたが罪を犯している様子を映していたとします。自分はしていないとどう証明しますか?証明できてもあらぬ嫌疑をかけられ時間を費やされる。もっと酷いとSNSで拡散されるかもしれない。
犯罪ではなくその人の名誉を傷つけるものとか。これは高市総理が映った酷いものがXにて見られましたね。
クマのディープフェイク動画も話題です。
それに、これからはドラレコや監視カメラもすべて信用できなくなります。
問題なのは、「あたかも本当にその人がやったと誤認させるものを作れてしまう」ということ。
こういったものが問題になり、AIとそうでないものを区別する必要が出てきます。