自分から言う時は、「I like to look out of the window when the train slows down」が良いと思います。
他人に、窓から外に顔を出すなと指摘するときは、「Don't stick your head out of the window」と言います。
Stick は丁寧な言葉では無いので、子供に指摘する時に使えばいいです。
"I popped my head out of the window when the train slowed down."
という表現を使うと、日本語のニュアンスをうまく伝えることができます。
ここで使う "popped" は、「急に現れる」「突然出る」という意味を持つとても使いやすい動詞です。"head out"は「向かう、外に出る」の意味を含んでいます。したがって、「窓から顔を出す」を直訳した場合よりも自然な英文になります。
"I popped my head out of the window when the train slowed down."
（列車の速度が落ちた時、私は窓から顔を出した。）
参考までに、「窓から顔を出さないでください」と言いたい時は "Don't pop your head out the window" と言えます。
使い方を覚えて自然に会話に取り入れてみてください。
イギリス 
アメリカ合衆国 
