起こさないであげてって英語でなんて言うの？

Don't wake him up. は自然な言い方ですよ。その他にも次のような言い方ができます。

ーPlease don't disturb him.
「彼を起こさないであげて」
to disturb で「睡眠を妨げる」という意味があります。

ーYou should just let him sleep.
「彼を寝させておいてあげて」
to let someone sleep で「人を寝させておく」

ご参考まで！