世帯主と誰かが二人暮らし、なら、世帯主が死亡すれば自動的に残った人が世帯主になります。
世帯主以外に複数名が一緒にいたのであれば、世帯主変更が必須となります。手続きせずに放置していれば保険が使えなくなったりするでしょうね。また、そのまま放置、だといろいろな相続関係、還付関係の手続きができない可能性もでてきます。
住民税、は世帯主不在だろうが関係はありません。亡くなった方の住民税は代理人を定めてその人が手続きする必要があります。とりあえずはその亡くなった方の住所に住民税のお知らせ(相続代表を定めてください、といった)が届くかと思います。
死亡した方が払うべきだった税金(住民税、固定資産税など)は相続財産(負債)の一部です。相続人が相続放棄するなら支払う必要はないですがそうでないなら相続人が支払う必要があります。放置すれば相続手続きに滞りが出るでしょう