言葉についての質問です。「矢継ぎ早に」や「始めるやいなや」や「棚に上げて」などは慣用句というやつですか？こういう感じの言葉をまとめて何というのですか？

慣用句（慣用表現）に入ります。

どれも、決まった言い回しがひとかたまりで使われ、全体として特定の意味になる表現だからです。「棚に上げて」は比喩が強いので慣用句として扱われやすいです。「矢継ぎ早に」「始めるやいなや」は文法的には副詞句や接続の型ですが、日常では慣用的に定着した言い回しとしてまとめて慣用表現と呼ぶのが一番無難です。なお、比喩がはっきりしたものは「ことわざ」ではなく「慣用句」、四字で決まっているものは「四字熟語」と分けることもあります。