"Following the rules only to keep up appearances."
- "Following the rules on the surface."
"following the rules" 「従っている」"abiding by the rules" なども言えます。
"on the surface" 「表面的に」
- "Following the rules only to keep up appearances."
"only to keep up appearances" 「表面的に」
両方もルールをちゃんと従っていないと言うニュアンスがあります。