フルスクリーンでゲームをしている場合は、モニターやキーボード、マウス等も専用に使われていますので、一旦ゲームを抜ける必要があります。
ご存知だと思いますが、「Alt + Tab」 でゲームを一時停止すれば Windows に抜けることができます。それで通知を確認した後、再び 「Alt + Tab」 でゲームに復帰するか、タスクバーにあるゲームのアイコンをクリックします。ただ、これは一旦ゲームを抜けないと確認できませんから、質問の回答にはなりませんね。
それ以外ですと、下記のように沢山ありますので、一つ一つ確認してみて下さい。どれか当たると良いのですが。
Discordのオーバーレイが表示されない場合の解決策13つ
https://www.ubackup.com/jp/articles/discord-overlay-not-working-fhhbj.html