「不謹慎かもしれませんが」は次のように表現できると思います。
ーThis might not be proper to say, but ...
「言うのにはふさわしくない・適切でないかもしれなませんが…」
ーThis could be inappropriate, but ...
「不適切かもしれませんが…」
例:
This could be inappropriate, but I'm glad he got fired because he wasn't a good boss.
「不謹慎かもしれませんが、彼は良い上司ではなかったので、彼がクビになって良かったです」
ご参考まで!