こんにちは。
この経験が私もたまにありますね。いい質問だと思います。
「懐かしく~する」は英語に翻訳するとFeeling nostalgic, I....になります。さらに、「つい」は英語でWithout thinkingと言えますが、On a whimもよく言われています。On a whimは「気の向くままに」という意味です。例えば、I decided to go to America on a whimは日本語で言いたいなら、「気の向くままにアメリカに行くことにしました」と言えます。
この答えをお役に立てば幸いです。