はい、especiallyやspecially、particularlyも、ライティングでは文頭に使いません。 前にあるものや事象を受けて使いますので、文中で使用するのが自然です。 You have to be quite, especially in the library. (特に図書館では静かにしましょう。) In particularも文中のほうが自然な感じがします。
文頭のEspecially, は十数年前くらいまでは論文で使われているのをよく見かけましたが、今はほとんど使われていませんし、使ったとしても、しかるべき英語ネイティブなら In particular, に直します。 ちなみに、文頭の副詞句、たとえば In particular, In general, 等は文全体を修飾しますが、文中にでは基本的に動詞を修飾します。その場合、in particular よりは particularly、in general よりは generally を使います。