旅行するときくらいは、予算を気にしたくない って英語でなんて言うの？

英語で "at least" と言えます。

At least when I travel,
旅行するときくらいは、

そして、大したことではありませんが、「気にしたくない」とは英語で "I don't want to care" より "I don't want to worry" の方が自然です。

At least when I travel, I don't want to worry about how much money I spend.
旅行するときくらいは、予算を気にしたくない

1) I want to forget about money when travelling
2)I want to forget to save money while travelling

お金のことは忘れたい、ということで普段は気を付けている様子が伝わると思います。
when travellingはwhen(I am) travelling, while travelling はwhile (I am) travelling の同じ省略形で同じような意味です。

3) I don't want to care about money BECAUSE I'm on a trip!

becauseを強調することで、「普段と違う」というニュアンスが出せるかと思います。

tripではなく、BECAUSE I'm on holidayと表現しても（仕事をしている）普段と違ってホリデーだから、という意味になり、質問者さんの伝えたい部分が伝わると思います。

少しでも参考になれば幸いです。