「all that long ago」＝そんなにながくない
I didn't start college all that long ago.
大学に入学するのはそんなに前じゃないの。
「you're new to this」って「始まったばかりですね」という意味で、「relatively」は「比べたら」という意味ですね。
(Compared to a veteran,) you're relatively new at this.
（ベテランと）比べると、新人ですね。
It's not that long since you started. / Okay, so it's not that long since you started.
So you've only been doing it for a short while. / Oh, so it's only been a few years.
I see. So it's not that long. / Oh, so, not that long.
「始めて以来それほど長くない」は、It's not that long since you started.というシンプルな文でもOK。「それほど」は、副詞のthatを使うと自然な言い回しになります。not that long「それほど長くない」や、not that much「それほど多くない」、not that easy「それほど簡単でない」などは、会話ではよく使う表現です。It'sをつけなくても通じます。
また、「長くない」ということは、「短い」ですから、「短い間やっている」という意味で、You've been doing it for a short while.や、具体的に「数年しかたっていない」It's only been a few years.もいいでしょう。このように、継続を表す現在完了進行形を使うと時間の流れがよくわかるニュアンスになります。
さらに、相手の言ったことを受けて頭に、Okay, soやSoをつけたり、I see.でつなげるのも自然です。
アメリカ合衆国 
