What do you mean you don't know?で「わからないってどういう意味?」つまり「どういうこと?」という意味になります。
Did you take your medicine?(薬飲んだ?)
I don't know.(わからない)
What do you mean you don't know?(わからないってどういう意味?)
2つ目の例文のYOUは強調するという意味で大文字にしています。
I'm talking about you.で「あなたの話をしているんだけど」という意味です。