臨機応変って英語でなんて言うの？

ad hocは、「個々の目的に応じた」、
「その場に応じた」という意味で、
ラテン語からの借用語です。

「臨機応変に」はon an ad hoc basisと言います。

例文
He is capable of handling such problems
on an ad hoc basis.
彼は臨機応変にその種の問題を処理できる

もっと簡単な語で表現するのであれば
flexblyです。

flexibleは「柔軟な」という意味の形容詞です。
flexblyは、flexibleの副詞なので、
「柔軟に」という意味になり、
「臨機応変に」という意味に近くなります。

例文
He is capable of handling such problems
flexibly.
彼は臨機応変にその種の問題を処理できる

参考になれば幸いです。

flexibly, pliablyはいずれも「柔軟に」という意味の単語です。
as the case may [might] beは「事情に応じて、ケースバイケースで」というニュアンスです。また英語で、case by caseは「一件一件慎重に」と日本語の「ケースバイケースで」とは違う意味になります。