こんにちは。
様々な言い方ができると思いますが、例えば下記のような表現はいかがでしょうか：
・You're not exactly wrong, but...
間違っているわけではないけれど…
・You're not mistaken but...
間違ってはいないけれど…
not exactly wrong で「完全に間違っているわけではない」ようなニュアンスを伝えることができます。
例：
You're not exactly wrong, but Tokyo offers a lot of interesting traditional buildings as well.
間違っているわけではないけれど、東京も興味深い伝統的な建物がたくさんありますよ。
ぜひ参考にしてください。
"それもある意味間違ってはいないけど…"
- You're not exactly wrong about that...
- You're not wrong but...
- You are right in a way...
「それもある意味間違ってはいないけれど、東京でも、昔の貴族の館など、たくさんの古い建物を楽しむことができます」
You're not exactly wrong but you are able to see lots of old buildings in Tokyo such as the houses of past noble families.
アメリカ合衆国 
