核兵器の持つ抑止力という言葉を聞いたことがあると思いますが、これには大きく分けて2種類有ります。
「最小限抑止」と「相互確証破壊」です。
最小限抑止というのは質問者さんの言う考え方に近いもので、例え敵から先制核攻撃を受けてしまっても何発かの核兵器が残っていれば報復攻撃によって敵国に被害を与えることができます。そのために必要な最小限の核戦力を持つことでコストを抑えつつ、核抑止の効力も維持するという考え方です。この考え方に基づいて核戦力を整備しているのがイギリスとフランスです。この二国は破壊されやすい陸地には核戦力を置いておらず、少数の核ミサイルを潜水艦に積んで海中に隠しています。
一方の相互確証破壊というのは、大量の核兵器を様々な形で保有することで、仮に敵国から先制核攻撃を受けたとしても、大量の核兵器が生き残る事で、残された核兵器による反撃で、例え敵国がロシアやアメリカの様な広大な国土を持つとしても国家機能が完全破壊されるほどの被害を与えるだけの能力を持つようにします。
そうするとお互いに核をどれだけ撃ち込んでも反撃によって自分の国も完全に滅ぼされてしまうという確信を持つことになります。
この過剰な核戦力の保持によって相手国が核を使えないようにするのが相互確証破壊という抑止戦略です。これはアメリカとロシアが採用している核戦略です。
中国はもともと最小限抑止戦略をとっていましたが、米ロに肩を並べる立場を求めて相互確証破壊レベルの核戦力保持を目指しています。
ですから、大量保有にも少量保有にもそれぞれに考えがあってそうしているのです。