coating (コーティング)は一番いいかもしれませんね。
クーキーやケーキだったら the crust といい、貝なら the shell と言いますが、てんぷらの場合はただ tempura と言います。その衣自体は tempura と呼ぶから "I always peel off the tempura" とも言えますよ。crust は有りですが、なんか違和感感じます。coating は一番使いそうな言い方だと思います。
★ポイント:「天ぷら」は衣と中身がセットでそう呼ぶので、「天ぷらの外側」といってもよいかもしれませんね。
はがすしても、残しても、結果的には「食べない」ので、I don't eat としてみました。
(※衣をはがして、中身と別々に食べるの?という誤解はこれで生まれなくなりますね(^^;)
I don't eat outside of tempura.
I don't eat the coating of tempura.
英語職人☺