I bumped into a person in Japan who I met when I went on a business trip to Taiwan
この場合の日本で会ったの 会ったはばったり会ったって意味で
bump into って表現を使うのが良いと思います。
ばったりというかぶつかると言った感じです。
現在日本にいるなら 日本で で in Japan も特に使わなくても
良いでしょう。
そのような状況になった場合は何て偶然なんだって意味の 偶然だね で
what a coincidence と言うのがおすすめです。