최초의 거울은 고대인들이 자신의 모습을 비춰보던 연못이나 시냇물이었다. 그리스 신화에 나스시소스라는 아름다운 젊은이가 연못에 비친 자신의 모습에 반해 그 형상을 안으려고 몸을 굽히다가 물에 빠져 목숨을 잃은 이야기가 전해진다.
1960년대에 고고학자들은 터키 중부 카탈 후유크의 여인 열 명이 묻혀 있는 무덤에서 세계에서 가장 오래된 거울을 발견했다. 이 거울은 단단한 화산암인 흑요석 조각을 갈아 윤을 낸 것이었다. 기원전 2,900년 무렵 이집트인은 청동이나 구리에 윤을 내 거울로 사용했으며 기원전 2,800년 인도와 파키스탄에서도 그와 비슷한 거울을 만들었다. 중국의 한왕조에서는 더 아름다운 청동거울을 만들었다.
최초의 콤팩트(휴대용 분갑)는 기원전 5세기 그리스에서 만들어졌는데 작은 상자를 열면 그 안에서 윤을 낸 금속거울이 나타났다. 금속은 쉽게 변색되기 때문에 거울을 깨끗하고 선명하게 유지하기 위해 일부 콤팩트에는 부석 가루를 묻힌 스펀지도 들어 있었다.
로마의 도미팅아누스 황제는 정적들이 자신을 암살할 음모를 꾸미고 있다고 확신했다. 그래서 암살자가 어떤 방향에서 오든 볼 수 있도록 운동하는 곳의 사방에 거울을 달았다. 도미티아누스 황제의 이런 생각은 피해망상만은 아니었다. 실제로 황제는 암살당했기 때문이다. 하지만 황제는 개인 체육관이 아니라 침실에서 암살당하고 말았다.
3세기경 로마인은 투명한 유리판의 한 명에 은이나 금, 구리를 얇게 입혀 투박한 유리거울을 만들었다. 상이 선명하게 보이지는 않았지만 이렇게 해서 유리거울이 만들어졌다. 유리거울은 13세기가 되어서야 다시 등장했다.
현대에는 은도금 작업으로 거울을 만든다. 유리 한 장을 진공실에 넣고 알루미늄 원자를 유리 위에 뿌리면 알루미늄 원자가 바로 식으면서 유리에 붙어 물체를 완벽하게 반사하는 표면이 만들어진다.