はい、その理解でほぼ合っていますが、「専用線そのもの」ではなく「インターネット上に専用線と同じような通り道を仮想的につくる仕組み」と考えるとよいです。
補足します。
トンネリングは、AからBに送るデータを「別の通信の中に包んで」運ぶ技術です。これをカプセル化と呼びます。さらに多くのVPNでは、その包んだデータ自体に暗号をかけるので、途中の人には中身が読めません。
見た目としては
AとBのあいだだけが直接つながっているかのように振る舞う
ほかの人は中身が見えない
という意味で専用線と似た使い勝手になりますが、実際にはインターネットなどの共用回線を通っており、あくまで「仮想的な専用経路」をソフトウェアで実現している、というイメージが正確です。
