I put my house key on it and carry it with me everywhere I go.
この場合、次のような言い方ができますよ。
ーI put my house key on it and carry it with me everywhere I go.
「家の鍵をつけて、いつも持ち歩いています」
ここの「いつも持ち歩く」は to carry ... with me everywhere I go「私が行くところどこにでも…を持っていく」=「いつも持ち歩く」と言えます。
ご参考まで!