Podle legendy objevil horké prameny císař Karel IV. při lovu kolem roku 1350.
Když viděl, jak se jeho zraněný pes uzdravil v termální vodě, rozhodl se zde založit město.
Historicky je první písemná zmínka o Karlových Varech z roku 1370, kdy jim Karel IV. udělil městská práva.
Ve středověku se Karlovy Vary staly oblíbeným místem pro léčebné pobyty šlechty a bohatých měšťanů.
Rozvoj lázeňství však narušila třicetiletá válka (1618–1648), během níž město utrpělo značné škody.
V 18. a 19. století Karlovy Vary zažily obrovský rozkvět. Vznikly zde honosné lázeňské budovy, kolonády a hotely,
a město se stalo centrem evropské aristokracie a kulturní elity. Mezi slavné návštěvníky patřili Johann Wolfgang Goethe,
Ludwig van Beethoven,
František Josef I., Nikolaj Gogol a mnozí další.
Po druhé světové válce byly Karlovy Vary zestátněny a lázeňská péče se zaměřila především na občany východního bloku.
Po roce 1989 prošlo město velkou modernizací a opět se otevřelo mezinárodní klientele.
Dnes jsou Karlovy Vary nejen lázeňským centrem, ale i dějištěm slavného Mezinárodního filmového festivalu Karlovy Vary a místem pro luxusní turistiku.