「expensive」「pricey」は値段が高いことを意味する表現で、ほぼ同じだと考えても問題ないと思います。ややpriceyのほうがカジュアルな感じがするといった程度の差があります。
「costly」は値段が高いよりも「自分が失うものが大きい」といった意味の単語であり、金銭的なもの以外での「高くつく」のような表現ができます。
ここでは値段が高いことによく用いられる「expensive」「pricey」「costly」の使い方の違いを整理しています。
priceyの意味と使い方
priceyは明確に「値段・価格（price）が高い」といった表現です。expensiveと同じですがややpriceyのほうがカジュアルかなといった程度の差です。
That sofa is too pricey for me.
あのソファは私には値段が高すぎだ。
There are a lot of pricey homes in this neighborhood.
この近所には多くの高価な家がある。
That’s too pricey for me.
あれは私には値段が高すぎる。
That car is a little pricey. Can you throw in a navigation system?
あの車はちょっと高いね。ナビをつけてくれない？
本題とは関係ありませんが、少なくともカナダ、アメリカでは「値引き（価格を下げてくれ）」は少し失礼な要求にはなるので、傾向として値段そのままでいいから何かつけくわえてほしいといった交渉がより行われているそうです。
expensiveの意味と使い方
expensiveも「値段が高い、価格が高い」といった意味で使われます。expensiveがフォーマルだというわけではなく、priceyのほうがちょっとカジュアルな口語表現だという程度です。
比較級は「more expensive」となったり、中学校で習う基本単語ですが、なんだか難しい感じのする単語です。読み方は【ikspénsiv / ekspénsiv】なのでエクスペンシヴぐらいです。
He likes to eat expensive meals.
彼は高価な食事が好きだ。
That is the most expensive cake I have ever seen.
あれは私が今まで見た中で最も高いケーキだ。
A doctor’s charge is expensive.
医者の料金は高い。
That shirt is really expensive. Why don’t you buy this one instead?
あのシャツは本当に高いよ。代わりにこっちを買ったらどう？
Organic oranges are more expensive, but I think they taste better.
無農薬のオレンジはより高価だが、より良い味だと思う。
This hotel was so expensive, I was hoping it would be more luxurious.
このホテルはあまりに高価なので、もっと豪華だろうと期待していた。
以下の記事でluxuriousとの比較を紹介していますが、expensiveは明確に値段について高いといっています。
costlyの意味と使い方
同じくcostlyも「高い」の意味です。しかしpriceyやexpensiveが明確に「価格が高い、値段が高い」と金銭的なものにフォーカスしているのに対して、costlyは視点が「失うものが大きい」という意味がベースになります。
priceyやexpensiveがほぼ値段の高さにしか使われないのに対して、costlyは金銭以外の「失うものが大きい」の意味でも使えます。
His DIY project became costly.
彼の自作計画は高くついた。
DIYの例文はおそらく値段について言っているように読めますが、「多くの時間を使った」「労力が多くかかった」のような概念も含むことができます。
He made a costly mistake in the game.
彼は試合で高くつくミスをした。
試合の例文はたぶん金銭・値段の話ではないです。
After several costly delays, the project was finally completed.
何度かの高くつく遅延の後で、そのプロジェクトはついに完了した。
この場合も追加で費用がかかったりといった「金銭」を失う意味合いが強いですが、その遅延に値札がついて価格が決められている感じでもないので、言葉選びとしてはcostlyがベターです。
expensive / pricey / costlyの違い
以下は同じ例文で「expensive」「pricey」「costly」を置き換えてみました。違いを比べてみます。
〇 They sell lots of expensive toys.
〇 They sell lots of pricey toys.
彼らは多くの高価なおもちゃを売っている。
△ They sell lots of costly toys.
（意味がはっきりしない）
上の例文でcostlyを使うなら、もうちょっと文脈が必要になります。
〇 His DIY project became expensive.
〇 His DIY project became pricey.
◎ His DIY project became costly.
彼の自作計画は高くついた。
この場合はcostlyは「時間がかかった」といった金銭以外の概念も含めることができます。
また主語が「DIY project（手作り計画）」であって、これそのものが価格・値段を持っているわけではありません。
ホームセンターで買い集めた個々のペンキや木材などは価格付きで売られているので、これに対して「expensive」「pricey」を使うのはまだ自然な流れです。
しかし「DIY project（手作り計画）」そのものに価格の概念の「expensive」「pricey」を使うよりは、「costly」を使ったほうが言葉のチョイスとしてはいいといった見解です。
ただし「expensive」「pricey」を使う人も世の中にいっぱいると思うし間違いではありません。
He made a costly mistake.
（何かを失った）
He made an expensive mistake.
He made a pricey mistake.
（お金を失った）
最後の例文も「彼は間違えた、失敗した」の意味ですが「expensive」「pricey」で書くとお金・金銭を指しているのがわかります。この間違いによって多くのお金を失ってしまった間違いをした、ということです。
costlyで書くと何かを失ったことを意味します。言葉としては「高くつく間違い」といった感じで、金銭を含む何かです。
例えば恋人を失ったなどは「costly」ではあるけれど、「expensive」「pricey」だとは言い難いです。
以下、近い概念・考え方をまとめた記事があるのであわせてご覧ください。
