to take one's water bottle/thermos everywhere you go
to bring one's water bottle with you everywhere you go
to always keep one's water bottle handy
「マイボトルを持ち歩く」は次のように表現すると自然で良いと思います。
ーto take one's water bottle/thermos everywhere you go
「水筒を行くところどこにでも持って行く」
ーto bring one's water bottle with you everywhere you go
「水筒を行くところどこにでも持って行く」
ーto always keep one's water bottle handy
「いつも水筒を身近に置いておく」
例：
I always keep my water bottle handy, especially on hot summer days.
「特に夏の暑い日はマイボトルを持ち歩く」
ご参考まで！
カナダ 
