遺跡=Historic remains/ruins
Remainは「残っている」と言う意味でRuinは「壊す」と言う意味で、それを名詞として使う事から遺跡などを表します。Historicを付けるとより時代を感じますが、なしで言っても大丈夫です。
大自然=Mother nature/ Vast landscape
「大自然」と言うとまず頭をよぎるのがMother natureですが、質問者さんの言いたい事を表現する場合は使いません。Mother natureと言うのは世界中にあるもの、全人類が共有するものであるので、わざわざ違う国にそれを見に行く、って言うと少し違和感を覚えます。「広大な景色」などと言いたい時はVast landscapeと言いましょう。
The true purpose of my overseas travel is to witness historic ruins and vast landscapes that cannot be found in Japan=海外旅行に行く醍醐味は、日本では見られない遺跡や大自然を堪能できることです。
遺跡は 他の皆さんがかかれていらっしゃるように、
(historic) relics/remains/ruins
のどれかを使いますが、
大自然は
pristine nature ではいかがでしょうか。
(pristine は「手付かずの」「元のままの姿の」「そこなわれていない」ですので、この場合最適かと思います)
「海外旅行に行く醍醐味は、日本では見られない遺跡や大自然を堪能できることです」は
The best part of traveling abroad is you can enjoy historic remains and pristine nature that cannot be seen in Japan to your heart's content.
(enjoy ~ to one's heart's content ~を心ゆくまで楽しむ)
遺跡はremainsの他、ruinsやsiteなど。siteの場合にはいわゆる場所、用地などとして用いられることが多いのでhistoricやarchaeologicなどの形容詞をつけた方がよくわかると思います。お書きになっている日本語の訳例としては以下のような感じでしょうか。The true joy traveling abroad is to visit and enjoy historic remains and great nature that can’t be seen in Japan.