この場合、次のような言い方ができますよ。
ーlate afternoon / early evening
「遅い午後/早い夜」という意味で「夕方」のことを言えます。
ーevening / night
「宵/晩」という意味で「夜」のことを言えます。
ーlate at night / midnight
「晩遅く/午前0時」という意味で「深夜」のことを言えます。
ーmiddle of the night
「夜の真ん中」=「夜中」
ーthe dead of night
「夜のさかり」=「真夜中」
ーthe wee hours of the morning
「真夜中過ぎ」=「未明・夜明け前」
ご参考まで!