There would be another problem.
元の文が日本語的発想に基づいた言い方です。ここでは英語らしい発想を身に着けましょう。
「それはそれで」をそのまま訳すのは難しいです。
助動詞の過去形であるwouldを使って、遠回しに意見を伝えます。「相手の言い分はわかるけれども、それでも」という、「それはそれで」のニュアンスです。
「大変なことがある」は「問題が出てくる」という訳にしました。
There would be another problem.「他の問題が出てくるかもしれない。」
さて、ここからがさらに重要です。英語ではあくまで具体的・説明的な言い方が要求されます。
質問者様のエピソードをこの後に付け加えることで、「他の問題が出てくるかもしれない(抽象)」→「こういう問題が起こり得る(具体)」の流れを作ると、まとまりのある話し方になるでしょう。
上記英訳例は、良いことばかりではない、という意味のイディオムです。
Fun and gamesは、楽しいこと・ゲームのような楽しい遊び、という意味です。
表面的にはプラスに見えることでも、実際はそうでもないよ、というニュアンスです。
例文↓
◎I started learning English when I was little, but it wasn't all fun and games for me.
→小さい時に英語を習い始めたが、(私にとって)楽しいことばかりではなかった。
◎Some people think that it's good to start early, but it's not all fun and games.
→早く始めた方が良いと思っている人もいるが、良いことばかりではない。
少しでもご参考になれば幸いです。