I have been doing this activity (action) in Japan.
I have been doing this activity (action) for a long time since I was in Japan.
1) I have been doingで(現在も含め)~していました。という表現になります。
2)「長い間」という文言を入れて、「日本にいる頃から長い間」という表現にしました。
活動は”activity” や ”action”としましたが、仕事などであれば”job" や”project"としても良いと思います。