奈良県は日本の歴史が始まった場所で非常に奥深いですって英語でなんて言うの？

「県」は英語で「prefecture」となります。
「奈良市」と「奈良県」をはっきり区別したいとき、それぞれ「Nara City」と「Nara Prefecture」にすると良いと思います。
ただ、「Nara」というと、殆どの人は「奈良市」と解釈すると思います。

「奥深い」は「profound」という英語がありますが、日常会話ではあまり使わない言葉です。
「Interesting（面白い）」と、どれぐらい面白いかを見せる副詞をつけると良いと思います。
「Incredibly interesting （非常に面白い）」、「especially interesting（特に面白い）」などが良いと思います。

Nara Prefecture is where the history of Japan began, and is incredibly interesting.
奈良県は日本の歴史が始まった場所で、非常に面白いです。

The history of Japan began in Nara Prefecture, which makes it an especially interesting place.
日本の歴史は奈良県で始まったので、奈良県は特に面白い場所です。

"Nara is the birthplace of Japan's history and has a profound depth."
"Nara is where Japan's history began, and it is incredibly rich in culture and heritage."
"Nara, the starting point of Japan's history, offers deep cultural and historical significance."

　
"Nara is the birthplace of Japan's history and has a profound depth."

• "birthplace of Japan's history" →「日本の歴史の発祥地」
• "profound depth" → 「非常に奥深い」という表現
• シンプルで伝わりやすい言い方です。