interesting experiment, interesting trial, とか単純に interesting, festinating などと言ってもいいです。
Their music style is an interesting experiment.
彼らの音楽スタイルは面白い試みです。
Their music is festinating.
彼らの音楽は面白いです。
音楽の場合は「今までにない面白いスタイル」ということは an interesting style that hasn't been explored up until now で言えます。
こういう意味で project も使えばいいと思います。
面白い interesting/fascinating (とても面白い)
試み experiment/project
参考になれば幸いです。