I didn't mean it that way.
mean は「〜を意味する」の他に「〜のつもりで言う、(本気で)〜するつもりである」という意味もあり、that way を加えることで「そのようなつもりではなかった」という表現になります。
I didn't mean to (do that). は「そんなことするつもりはなかった」という意味です。
【補足】
I didn't mean it. という表現もありますが 、こちらは「本気で言った訳じゃない」という意味で、I didn't mean it that way. 「そういう意味じゃない」とは微妙に違うニュアンスがあります。
例えば誰かとケンカして「I hate you!!!」と言った後に「Sorry, I didn't mean it.」と言えば「ごめんね、本当に嫌いな訳じゃなくてついカッとなって言っちゃったんだ(そんなこと言わなければよかった)」という意味になりますが、この状況で「I didn't mean it that way.」と言ったら、「嫌いなのは本当だけどあなたの思うような意味ではない」というちぐはぐな表現になってしまいます。
「そういうつもりじゃなかった」は、
"I didn't mean to upset you."
"I didn't mean to hurt you."
という表現を使うことが出来ます。
心配させるつもりや傷つけるつもりはなかったけど、その行為をしてしまったという時に使います。
"upset"は、「(人を)心配させる・動転させる」
"hurt"は、「(人の感情を)傷つける」
という意味です。
ご参考になれば幸いです。