Ota City (Ota Ward) is located in the southern part of Tokyo.
Kanagawa prefecture is south of Tokyo.
神奈川県は東京の南にあります。
→東京よりも南にあるという意味。
Ota City (Ota Ward) is located in the southern part of Tokyo.
大田区は東京の南（の地域）にあります。
→東京の中で南の地域にあるという意味。
「大田区」の例について、in を使うと「〜の中にある」ニュアンスを表現することができます。
たとえば located in southern Tokyo など、ほかにもいろいろな言い方ができると思います。
お役に立てればうれしいです。
ご質問ありがとうございます。
「XXの南」はsouth of XXと言います。例えば、Okinawa is south of Kyushu （沖縄県は九州の南にあります。）です。
「大田区は東京都の南にあります。」はOta City is in the south of Tokyoになります。というのは、in the south ofの文法になります。例えば、Otsu is in the south of Shiga Prefecture.です。
ご参考いただければ幸いです。
アメリカ合衆国 
