midoriさん、こんにちは。
「背徳感」を文字通りに翻訳しますと確かに "a sense of immorality" にはなるんですが、この場面で使える英語にはなりません。
人によって、こういう「普段は行けないからこそ楽しい!」感じを表すには使う表現が変わるかも知れませんが、"naughty" や "mischievous" (どちらも「わんぱく」・「やんちゃ」というニュアンスで)又は "wicked" (大げさにいうような「悪い」・「極道」を意味する表現)は全て使えます。
"It felt so naughty, it was great!" =>
「あまりに背徳感で最高でした!」
ご参考になれば幸いです。
It felt so wrong, but at the same time it felt so right!
I felt a little guilty, but still it was so much fun!
It felt good being so bad!
「It felt so wrong, but it felt so right」と言う表現はどういう意味かと言うと、「~するなんて悪いと分ったのに、もっとやればやるほどいい感じになったから、やりたくてたまらなかった」と言う意味です。「It felt good being so bad」の意味は同じです。