Maybe you’re holding back, but I think it’s not the right way to do it.
Maybe you’re trying to be nice, but that’s not a good way to do it.
Maybe you are trying to respect her, but you better find an another way.
日本語の「遠慮」と状況次第で意味がずれることもあると思いますが、近いイメージで行くと以下のような表現が思いつきます。
holding (yourself) back＝(あなた自身を)抑止する、引き止める
trying to respect (him) ＝ (彼を)尊重しようとしている（つまり相手のことを考えて自分より優先させようとしているという意味にできる）
trying to be nice (to her) = （彼女にとって）良い人であろうとしている
後半２つはtrying to（やろうとしている）を入れている時点で、やってるけど失敗している感じが暗に伝わります。
Maybe you’re holding back, but I think it’s not the right way to do it.
【訳】もしかして遠慮しているのかもしれないけど、私はそれを正しいやり方ではないと思う。
Maybe you’re trying to be nice, but that’s not a good way to do it.
【訳】良かれと思ってやっているんだろうけど、それは良いやり方ではない。
Maybe you are trying to respect her, but you better find an another way.
【訳】彼女のことを考えてのことだろうけど、別の方法を探したほうがいいよ。
あえて３つ別々の表現にしてみたので、ニュアンスはお好みかなと思います。
日本 
