ご質問の構成は技術的に成立しており、Radmin VPNの仮想IPを用いて、LAN公開ではない通常のJava版MODサーバーにフレンドが接続すること自体は可能です。
したがって、考え方そのものが誤っているわけではありません。
今回のエラー内容と状況から判断すると、接続経路上の設定不備またはサーバー側の待受設定に問題がある可能性が高いです。
まず重要な点として、サーバーを立てているPC本人が接続できるが、Radmin VPN経由の他者が接続できない場合、サーバープログラムが外部インタフェースではなくローカルホストにのみバインドされているケースが頻繁にあります。
server.properties内のserver-ipの設定を確認してください。
この項目に127.0.0.1やローカルIPが記載されている場合、Radmin VPN経由の接続は拒否されます。
通常はserver-ipを空欄にすることで、全ネットワークインタフェースで待ち受ける状態になります。
次に、Radmin VPN自体の状態確認が必要です。
サーバー側とフレンド側の双方が、同一のRadminネットワークに参加しており、表示されている仮想IPが一致していることを確認してください。
また、サーバー側PCからフレンドのRadmin仮想IPに対してpingが通るか、逆方向も通るかを確認すると切り分けができます。
pingが通らない場合、Radmin VPNの通信自体が成立していません。
Windowsファイアウォールまたはセキュリティソフトによる遮断も非常に多い原因です。
Java、Javaw.exe、もしくは使用しているforgeサーバーの実行ファイルが、プライベートネットワークでの通信を許可されていないと、外部からの25565番ポートへの接続はタイムアウトになります。
Radmin VPNは仮想LANですが、Windowsからは別ネットワークとして扱われることがあるため、受信規則でTCP 25565を明示的に許可するか、一時的にファイアウォールを無効化して検証することが有効です。
また、フレンド側の接続先指定については「Radminの仮想IP:25565」で問題ありませんが、サーバー起動時のログにおいて、どのアドレスで待受しているかを必ず確認してください。
0.0.0.0:25565でLISTEN状態になっていれば、Radmin経由接続は理論上可能です。
MOD環境について補足すると、MODやForgeのバージョン差異によるエラーの場合は、通常はタイムアウトではなくMOD不一致やFML関連のエラーが表示されます。
今回の「Connection timed out」は、MOD以前の通信段階で遮断されていることを意味しますので、MOD構成そのものが原因である可能性は低いです。
結論として、Radmin VPNを用いた非LAN公開のMODサーバー接続は可能であり、今回の症状はserver.propertiesのserver-ip設定、Windowsファイアウォールの受信設定、Radmin VPNの通信成立可否のいずれかに起因している可能性が高いです。
特にserver-ipを空欄にすることと、25565番ポートの受信許可設定は最優先で確認すべき点です。
