When I first started 〜
〜を始めた[最初]()の頃は
When I started だけでも伝わりますが、first も一緒に使われることが多いですね。「初めて」とか「最初」が強調されます。
例：When I first started studying English, I couldn't express my thoughts at all.
初めて英語を勉強し始めた時は、全然自分の言いたいことが言えなかった。
When I first started playing tennis, I couldn't even hit the ball.
テニスを[始めた最初の頃は](https://eikaiwa.dmm.com/uknow/questions/16774/)、ラケットをボールにあてることすらできなかった。
まず最初の例は “In the beginning”（最初に、[まず、初めに](https://eikaiwa.dmm.com/uknow/questions/72314/)）という表現がありますが、これは英語圏ならでは文化、歴史や全ての言葉の土台となっているキリスト教、主に聖書からとられた表現として“Cliché’”（定番表現、誰もが口にするポピュラーな言葉）にもなっており、何でも“最初は”という時の定番です。
この表現を採用すると次のような文が作れますね：
“In the beginning when I started learning English I couldn’t express my thoughts at all.”
【私が英語を学び始めた最初は自分の考えを全く表現することができなかった。】
※備考
“when..”（関係代名詞 －“○○の時”
“couldn’t express”（ “表現することが[できなかった](https://eikaiwa.dmm.com/uknow/questions/75996/)” → “言うことができなかった” ）
“at all”（熟語 － “[全く](https://eikaiwa.dmm.com/uknow/questions/64318/)”）
また別の言い方、二番目も“at the start”、これもまた “初めは”、“初めに”、という表現になります。この表現だけを細かく分析すると“at”という特定の場所や物、時などを“ピンポイント”で表現する意味合いを持った前置詞を使っていますので、厳密に違いを挙げるとするならば、あくまでも“初めは”、つまり“最初だけ”という違いがニュアンスに含まれる“かも”しれません。
最後は“at first”、これは“start”の代わりに“first”という表現を使っているだけの違いとなりますので、意味的には二個目の例とあまり変わりません。どれも、最初の例文のように“when”以降をそのままつけて使えます♪
ちなみに、「動詞」の“started”の前に “just” を付けると、“始めた“ばかりの”時は“というニュアンスを持ち、これもまた“始めてまだ間もない頃は”、“始めた直後の時だけ”という意味合いを持たせることができますね。
アメリカ合衆国 
日本 
