I used to follow my dad around wherever he went when I was little.
I used to go to my older brother's baseball practices all the time when I was a little boy.
「付いて行った」とあるので、自分の意思で（自分も行きたくて）付いて行ったと言うことですよね？
だとしたら、follow someone around を使って言えるかと思います。
ーI used to follow my dad around wherever he went when I was little.
「小さい頃、父が行くところにはどこにでも付いて行ったものだ。」
go along with someone を使っても「誰かに付いていく」と言えますが、この場合、私なら簡単に go to を使って言うと思います。
ーI used to go to my older brother's baseball practices all the time when I was a little boy.
「子供の頃、しょっちゅう兄の野球の練習に付いて行ったものだ。」
ご参考まで！
When I was little my father used to take me with him to a barber.
ご質問ありがとうございます。
まず、「よく〜した」は、used toを使ってあらわします。
次に「誰かと一緒に、誰かについて」などのニュアンスは、take me withを使ってあらわすことができます。
例)
When I was little my father used to take me with him to a barber.
小さい頃よく、父について、理髪店に行っていました。
ご参考になりましたら幸いです。
カナダ 
日本 
