英英辞典を使うとさらに知らない単語に出会って終わらないって英語でなんて言うの？

直訳になりますが、
It's never ending to look words up in a dictionary because it keeps using words that I don't understand that I have to look up again.

it's never ending
終わりがない

look up words in a dictionary
辞書で言葉を調べる

look up は上を見るという意味の他に、～を調べるという意味もあります。

it keeps using words that I don't understand
わからない単語が使われているから

と少し長くなってしまいますが、こういう言い方があるかと思います。

辞書で調べるとしばらく理解できるまで何度も調べ続ける必要があるときがありますよね(;^_^A　進まないし、嫌気がさしますが、終わりが必ずあるのでがんばってください！

お役に立てれば幸いです！

おっしゃられている内容は、以下のようにも表現できると思いました(^_^)
When I look up a word in an English-English dictionary, I come across another word I don't know, so I have to look it up again. It's endless.
「英英辞書で単語を調べた時、知らない別の単語に遭遇するので、またそれを調べないといけない。終わらない」

以上です。
少しでも参考になれば幸いです(^_^)

出会う = to come across; to encounter; to meet
調べる = look up; check; research
終わらない = does not end
終わりがない = there is no end; never-ending
知らない単語 = words that I do not know; unfamiliar words

Whenever I use a dictionary, I find many new words. Then, I have to look up those words so it feels endless. → 辞書を使うと、新しい単語に沢山出会う。それから、その単語もさらに調べなければならないので、永遠に続く。
上の二つの言い方も良いですが、文章を二つに分けたら、よりナチュラルな感じがあると思います。そして look up はとても自然な言い回しでよく使われます。

"If I use an English to English dictionary, I end up having to constantly look up new words that I don't know."

"End up" - 「行き着く」、「結局」「羽目になる」
"constantly" - 「どしどし」、「頻りに」という意味です。

"When I use an English - English dictionary, I keep encountering words that I don't know."

"English - English" - "English to English"と一緒です。
"encountering/ to encounter" - 「出会う」という意味です。
"encountering"の代わりに　"finding"　と　"coming across"を使えます。
"I keep finding words~"
"I keep coming across words ~"