I wasn't sure if I could ask you this question or not.
I debated whether or not it was okay to ask you this question.
この場合、次のような言い方ができます。
ーI wasn't sure if I could ask you this question or not.
「この質問をして良いかわからなかった」
ーI debated whether or not it was okay to ask you this question.
「この質問をして良いか迷った」
I debated whether or not ... で「迷った」と言えます。
ご参考まで!
I was undecided whether to ask you a question like this.
ご質問ありがとうございます。
この場合、「聞いて良い[質問](https://eikaiwa.dmm.com/uknow/questions/32811/)なのか」と言いたいなら英語で「I was undecided whether to ask you a question like this.」と言えます。
もちろん、質問した後に使っても問題ないです。
ご参考になれば幸いです。