solemnは厳粛、重々しいとか言った意味で、教会や寺院などの厳かな雰囲気を表すのに使える単語です。
atmosphereは雰囲気、空気、大気等の意味があります。
例文をあげておきますので、実際に使われる際の参考にしてください。
The temples that I visited in Kyoto were filled with a solemn atmosphere.
私が京都を旅行した際に訪れたお寺は、荘厳な雰囲気で満ちていた。
This place has a really solemn atmosphere.
ここはとても荘厳な雰囲気があります。
日本 
