Cermin yang dibuat paling awal adalah kepingan batu mengkilap seperti obsidian, sebuah kaca volkanik yang terbentuk secara alami. Cermin obsidian yang ditemukan di Anatolia (kini Turki), berumur sekitar 6000 SM. Cermin batu mengkilap dari Amerika tengah dan selatan berumur sekitar 2000 SM. Cermin dari tembaga yang mengkilap telah dibuat di Mesopotamia pada 4000 SM dan di Mesir purba pada 3000 SM. Di China, cermin dari perunggu dibuat pada 2000 SM.
Cermin kaca berlapis logam diciptakan di Sidon (kini Lebanon) pada abad pertama M, dan cermin kaca dengan sandaran dari daun emas disebutkan oleh seorang pengarang dari Romawi bernama Pliny dalam buku Natural History miliknya, yang dikarang sekitar tahun 77 M. Orang Romawi juga mengembangkan teknik menciptakan cermin yang kasar dari kaca hembus yang dilapisi dengan timah yang dilelehkan.
Cermin parabola pantul pertama kali dideskripsikan oleh fisikawan dari Arab bernama Ibn Sahl pada abad 10. Ibn al-Haytham mendiskusikan cermin cembung dan cekung dalam geometri bola dan tabung, melakukan beberapa percobaan dengan cermin, dan menyelesaikan permasalahan menemukan titik di sebuah cermin cembung dimana sinar yang datang dari satu titik dipantulkan ke titik yang lain pada abad 11, cermin kaca yang jernih diproduksi di Al-Andalus.
Pada awal Abad Renaisans, orang Eropa menyempurnakan metode melapisi kaca dengan amalgam timah-raksa. Baik tanggal serta lokasi penemuan itu masih belum diketahui, tapi pada abad ke-16, Venesia, sebuah kota yang terkenal dengan keahilan membuat kaca, menjadi pusat produksi cermin dengan mempergunakan teknik ini. Cermin kaca dari periode itu dulunya merupakan barang mewah yang amat mahal.
Justus Liebig menemukan cermin kaca pantul di tahun 1835. Prosesnya melibatkan pengendapan lapisan perak metalik ke kaca melalui reduksi kimia perak nitrat. Proses melapisi kaca dengan substansi bersifat reflektif (silvering) ini diadaptasi untuk memproduksi cermin secara massal. Saat ini, cermin sering diproduksi dengan pengendapan vakumnya aluminium (atau kadang-kadang perak) langsung ke substrat kaca.