博物館ではないけれどJAXAの研究施設はどうでしょうか。
https://fanfun.jaxa.jp/visit/
つくばをはじめ調布、相模原などは都内から比較的楽に訪れる事が可能です。相模原の施設などは隣接する相模原市立博物館も併せて見るのに意味があると思います。
平日ならばJAXA相模原の施設職員用の食堂も一般に利用が可能です。
https://tabelog.com/kanagawa/A1407/A140701/14045486/
あとはかつて毛利衛さんが館長をされていたお台場の日本科学未来館は最初に立ち寄るべき施設でしょうね。
https://www.miraikan.jst.go.jp/
あとは上野の国立科学博物館にも宇宙に関する展示物は有ります。