おかしくないです。むしろ、長年連れ添った相手に向ける言葉として自然です。
「よきにつけあしきにつけ」は良い時も悪い時も、「ほかはいかでも」は他のことはどうでも、という強い言い方で、「きみの顔を思えば君のことが心から気にかかる、恋しく思う」という気持ちを述べています。若い恋の歌に限らず、苦楽を共にした伴侶への「結局いつも君を思っていた」という総まとめの一首としても通ります。
ただ、場面によっては少し古風で、気恥ずかしい感じが出るかもしれません。意味が伝わるか不安なら、「良い時も悪い時も、結局いつも君のことを思ってきた」という気持ちだと一言添えると誤解されにくいです。