I'm going there on Thursday the 5th of May at 5 pm.
ばず「5月5日木曜日5時にそこに行きます」は予定っぽいので will ではなく be going to を使います。決まっている予定 + ing 。
5月5日木曜日5時にそこに行きます - I'm going there on Thursday the 5th of May at 5 pm になります。
I'll be going there on Thursday the 5th of May at 5pm も大丈夫です。未来進行形 - 未来のある時点で進行している動作を予想する時に使います。また、未来にある時点ですることになっている予定を表す時に使います。
決まっている予定じゃなくて、話の流れで決めたこと、つまりその場で決めたことなら I'll be there on Thursday the 5th of May at 5 pm になります。
"I'll be there at 5 p.m. on Thursday, May 5th."
「5月5日(木)5時にそこに行きます(そこに着きます)。」
ここで be there は「そこに着く/行く」の定番で、会話でとても自然です。
go there でもOKですが、「到着」のニュアンスなら be there が強いです。
"on Thursday, May 5th" のように、曜日→日付の順が一般的です。
(逆の "on May 5th, Thursday" も間違いではないですが、やや説明っぽいです。)