「水入らず」は元々は「水と油」の関係から「油に水が入っていない状態」=「混ざり物がない状態」から来ているようです。
そしてこのような意味合いの言葉は英語にはないので、意味を汲み取るとしたら only with family members(家族のみ) や by themselves(自分達だけ)などでしょうか。文章にもよって変わってくるかなと思います。
家族水入らずで旅行に行ったらどうだ。
How about going on a trip only with family members?
夫婦水入らずでこの家に住むことに決めた。
The couples decided to live in this house by themselves.
1)by ourselves/ by themselves
「我々自身で/彼ら自身で」
2)all by ourselves/ all by themselves
「我々自身だけで/彼ら自身だけで」
「水入らず」という日本語のように一言で表現できる単語が英語ではないため、このように「〜だけで」と表現するのがもっとも近い意味になります。
2)のように"all"をつけることで意味が強調されます。