例えば、アラブ連合共和国は United Arab Republic、タンザニア連合共和国は United Republic of Tanzania というなど、どちらの場合もあります。国の英語名はそれぞれのこだわりがあって決めていると思いますので、存在している国名の場合にはしっかり調べる必要があるでしょう。
連合会も同様で、federation(連合、同盟、連合会)ということもできれば、association (協会)と訳しているところもあるようです。
ちなみに世界大戦などに登場する連合軍は the Allied Forces ですし、日本の連合艦隊はcombined fleet と言いますし、文脈によっても訳は変わってきます。