I had been singing all the while working at restaurants.
「飲食店で働きながらずっと歌をやってきました」はこのようにいいます:
I had been singing all the while working at restaurants.
「ながら」は基本的にwhileといいますが、この場合は「ずっと」というニュアンスを表すためall the whileを使うことができます。
all the whileは「その間ずっと」の意味です。
「(の間)歌をやってきました」というのは、過去完了進行形でI had been singingにしました。
haveを過去形のhadにするとその活動が終わりましたという意味となります。