CPU クーラーの可能性もありますが、それを確認するなら、CPU クーラーのファンコネクタを一時的に抜いて止めてしまえば直ぐに判るでしょう。それでも煩かったらグラフィックボードのファンの騒音です。なお、CPU クーラーのファンを止めても短時間なら問題ありません。原因がわかったらすぐに電源を OFF にして、ファンのコネクタを挿して下さい。
パソコンによっては、電源投入から BiOS が起動し、ファンの回転制御が始まる間に無制御になると全速で回転し煩くなります。これが起きないマザーボードもあるので、たまたまそうなるのは制御の問題です。もしかすると、BiOS の設定で電源投入時は、ファンの回転を抑えることができるかも知れませんので、調べてみたらどうでしょう。
グラフィックボードの 2 連ファンと 3 連ファンでは、2 連の方がファンの回転数が高いと思われます。3 連ファンは、ヒートシンクの面積も大きいですし、冷却フィンの数も多いですから、ファンの回転数を下げても十分冷却はできます、従って、3 連ファンの方が騒音は低くなるでしょう。ただし、使用しているファンによっても騒音レベルはかなり異なりますので、一概には言えないと思います。
※MSI の昔のグラフィックボードは、2 連ファンでもかなり静かな印象があります。