Are you in a bad mood? で合ってますよ!
その他にも次のような言い方ができます。
ーIs something bothering you?
「何かあなたを不快にさせているの?」=「機嫌悪いの?」
to bother で「不快にさせる・悩ます」
ーIs something wrong?
「どうかしたの?」
ご参考まで!
はい、お友達が不機嫌そうに見えるときに "Are you in a bad mood?" と尋ねることができます。これは「機嫌悪いの?」という意味になります。
また、"Are you okay?"(大丈夫?)とも言うことができます。
あとは、"You seem upset, is everything alright?"(怒っているように見えますが、何か問題ありますか?)という表現もあります。