That sounds like fun! But I would've liked to go alone with you too
最初の例は「二人だけで行くのも楽しいだろうね」の訳になります。「二人だけ」は「just the two of us」で表現し「楽しいだろうね」は「it would be fun」で。
次の例は「楽しそうだね!でも出来れば君と二人っきりで行きたかったな」になります。こちらでは「sounds like fun」で「楽しそう」、「alone with you」で「二人っきり」と表現してます。