ーI haven't done much cooking before but I've been trying to cook for my family recently.
「あんまり料理をしたことないんだけど、最近家族のために料理に挑戦しています。」
「料理に挑戦する」は challenge を使うより try to を使ったほうが自然で良いです。
recently は「最近」という意味です。
ーI've been trying my hand at cooking lately even though I don't have much experience in the kitchen.
「料理の経験はあまりないけど、最近料理に挑戦しています。」
don't have much experience in kitchen で「キッチンでの経験があまりない」=「料理の経験があまりない」と言えます。
try one's hand at ... で「…を試してみる・…に挑戦する」
ご参考まで!