When I was young I gave up making any more progress.
「もう今後これ以上は上達しないだろうと判断した」は、これ以上の上達を「あきらめた」ということなので、
give up making any more progress
と言えば簡単です。
give up 〜ing の形は、「〜することをあきらめる」で使い道が広いのでぜひ覚えてください。
I gave up trying to persuade him to continue with his studies.
彼に研究を続けるようにと説得するのをあきらめた。
なお、give up の目的語は 〜ing(動名詞)に限らず名詞であれば良いので、回答の文は
When I was young I gave up any more progress.
でも同じ意味になります。