言われてみれば、あの時チェックするのを怠ったかもしれないって英語でなんて言うの？

「言われてみれば」の英語は「Now that you mention it」になります。 ニュアンスとしては、「確かに」に近いです。 さらに、怠ることは「neglect」動詞を使います。 従って、「Now that you mention it, maybe I did neglect to check it that time」を提案しました。 「あの時」は「that time」で簡単に処理できます。