こんな場合はどう言ったらいい？って英語でなんて言うの？

How should I say it in this case? =こんな場合なんて言ったらいい？

この場合の”it”は「何を言うか」を指します。
質問者さんの例文を使って説明します:

「彼が全部パーティの用意をしてくれたから礼を言いたいの。こんな時、どう言ったらいいかなぁ？」

英訳すると:

I want to thank him for preparing the party all by himself. How should I say it?

この最後の”it”は最初のセンテンスを指します。How should I say?だけですと「何」をどう言いたいのが分かりません。

How should I say that I'm thankful?

How should I thank him?

と言う言い方の方がこの場合はストレートで伝わりやすいかもしれません。

こういう場合、it は必要ありません。ただし、確かにsay はたいてい目的語を後ろにとるので、何もなにのは不自然です。
ですので、単純にHow do you say の後に「言いたいこと」を続けるのはどうでしょうか。
英語の言い方がわからないなら、
How do you say, この間はありがとう?
などと言えます。

英訳②は、「パーティのことで彼らにお礼を言うのに一番いい言い方はなんでしょうか？」という意味です。

英訳③は、「パーティのことで彼らにお礼を言いたいんです。どう言ったらいいか、教えてくれますか？」という意味です。

とても良い質問ですね。
英語では目的格をとらない文章が不自然というのはまさにその通りです。
素晴らしい！

じゃあ、どうするか？
これは、相手（彼）がいる文章ですので、
思い切って、say は忘れて、tell を使っちゃいましょう。

say は口から音を出すことです。
tell は相手に何かを言葉で伝える事です。

say だと目的語は、”何をいうか” ですので、質問者さんの言う it でいいのか、でもそれだとその it が何をさすか分からない、という疑問が出てきてしまいますよね。その疑問も素晴らしい！

1) 冒頭の疑問詞にHowを使ってしまうと確かにsayの目的語がないので違和感があるかもしれません。How の代わりにWhatを使い、What should I say in English in this case?とすれば、sayをwhatで受けるので違和感がなくなります。

2) How を使う場合は、目的語をit にしてしまっても恐らく「こういう気持ち」ということで分かってもらえると思いますが、"express my appreciation" （感謝の気持ちを表現する）という言い方で
「こういう場合はどのように感謝の気持ちを伝えればよいでしょうか」とするのも良いと思います。

「場合」はsituationですが、circumstancesでも使えます。
Circumstancesの方が「状況下」の意味合いに近いです。
他の使い方としては：
What is most appropriate to say in those circumstances?
(この状況で最適な言い方はなんですか？）
Which words should I avoid to say in this situation?
(この場合[状況]でどんな言葉を使わない方がいいですか？）