単純過去で
I forgot.
と言うと、文法的には今の状況は関係なく、過去のある時点で忘れたことを表すとされます。
ですから、I forgot.と言えば、今は思い出している可能性があります。ただし、可能性の話なので、今思い出していなくても使えます。
現在完了形の
I have forgotten.
こちらは文法的には「過去のある時点から現在までその動作や状態が継続している」とされるので、こちらを使えば「今も忘れたまま」ということになります。
ただ、ネイティブスピーカー(母語話者)の日常英語での語法は、そんなに厳密でもなく、特に単純過去は上述の通り、今思い出していなくてもI forgot.とさらりと言うことが多いです。
ワンフレーズで表すというよりは、
I forgot and I still can't remember it.
(忘れた。まだ思い出せない。)
などと言ったり、
His name is on the tip of my tongue.
(彼の名前が出かかっている。)
のように言ったりしますよ。
on the tip of one's tongue
は「答えなどが出かかっている」という意味の慣用フレーズです。
参考になれば幸いです。