現在もその仕事を継続しているなら現在完了形を使います。(1番目の例文)
ただし、現在はもうその仕事をしていない場合は、2番目の例文、または
How long did you work for the job
のように過去形を使います。
have you been working
の部分は
have you worked
に置き換えても問題ありません。
初対面の人に聞くときにも無礼な聞き方ではないので、どのような人を相手にしても使える表現です。
「どのくらいの期間その仕事をしていましたか?」ということは、もうその仕事をしていないと思うので、この場合は次のような言い方ができます。
ーHow long did you do that job?
「どのくらいの期間その仕事をしていましたか?」
ーHow long were you with that company?
「どのくらいの期間その会社で働いていましたか?」
ーHow long were you employed by Sony?
「どのくらいの期間ソニーで雇われていましたか?」
ご参考まで!