I've been trying it several times but I can't do it.
I've tried it several times but I couldn't do it.
どちらの形もありますが、今回のような場合にcan never, could neverを使うと「(これまで)一度もできない」というよりも「(これからも)絶対にできない」という部分が強調されるように思います。
I can never do it. 絶対できないよ。
I could never do it. こんなのできっこないよ。
couldは過去形として使われているのではなく、更に可能性が低いことを示しています。
過去にやって一度もできない、できなかったことを言いたい場合は、
I've been trying it several times but I can't do it.
何度かそれを挑戦していますが、できません。
I've tried it several times but I couldn't do it.
何度かそれを挑戦してきたが、できなかった。
などはいかがでしょうか。
「一度もできなかった。」の直接の翻訳は"I couldn't do it even once."となっています。"once"は「一度」という意味を持ていますので、"even once"は「一度も」に相当します。
"could"は"can"の過去形なので、"couldn't"は「できなかった」という意味です。
「一度もできなかった。」は"I didn't succeed even once."のようにも表せます。この場合は"succeed"つまり「成功する」という動詞を使っています。
あと、「できない。」の直接の翻訳は"I can't do it."となっています。しかし、絶望など、強い感じを伝えたい時は"I just can't"を使ったほうがいい子もしれません。
参考になれば幸いです。