何か遠くにある目印になるようなもののに直接行くわけではなく、そのあたりの方向に向かって歩くような場合に使いたい表現です。
この場合、次のような言い方ができますよ。
ーLet's walk towards that building!
「あの建物に向かって歩こう」
to walk towards ... で「…に向かって歩く」と言えます。
ーLet's walk in the direction of that building!
「あの建物の方向に歩こう」
to walk in the direction of ... で「…の方向に歩く」と言えます。
ご参考まで!