こんにちは！
ご質問ありがとうございます。
ご質問にある表現でも言いたいことは伝わります。例えば、
Sorry for not getting back to you sooner.
とか、
Apologies for the delayed response.
Apologies for the late reply.
というのをメールでよく見かけます。
役に立ちそうな単語とフレーズ
delayed 遅れた
response 返答、回答、返報
get back to 人に返事をする
apology わびること、弁明、謝罪
reply 返事、回答
参考になれば幸いです。
この場合、次のような言い方ができますよ。
ーSorry for the late reply.
「返信が遅くなりすみません」
ーSorry it took me a while to get back to you.
「返事に時間がかかってしまいすみません」
ーMy apologies for the late response.
「返信が遅くなり申し訳ありません」
ご参考まで！
日本 
カナダ 
