I've tried everything I could, but the smell just doesn't go away.
I can't get rid of the smell no matter what I do.
「どうやっても」は、何をしてもという意味の「no matter what I do」または「出来ることは全て試したのに」という意味の「I've tried everything I could, but~」と言うのがいいと思います。
「臭いが取れない」は 「the smell doesn't go away」(臭いが消えない)または「I can't get rid of the smell 」(臭いを消し去れない)と表現できます。
「the smell just doesn't go away」のjust は臭いが消えないことを強調するために使います。
「シミはうっすらある」は "there's a faint stain" と言うことができます。