おそらく有史以前より人類には (もしかすると他の動物も) 朝-昼-夕程度の時間の概念はあり、それは太陽の位置によって知ることができた。太陽の位置は、固定された適当な物の影を使って知ることができるため、この原理を使って紀元前2000年頃には、日時計が発明された。
しかし、日時計は晴天の日中しか利用することができない欠点がある。そのため、太陽に頼らず、別の物理現象を使って時間の流れを測定する時計が考えられた。例えば、特定の大きさで作った蝋燭や線香、火縄が燃える距離を使うとか (燃焼時計)、水や砂が小さな穴から落ちる体積を使うとかであり (水時計、砂時計)、紀元前1400年〜紀元前700年頃の間に、エジプト、イタリア、中国などで考案された。
14世紀に入ると、駆動軸の動きを制限する脱進機が発明され、これを使った機械時計が開発された。この時計は定期的に重錘を引き上げ、それが下がる速度を棒テンプと脱進機で調節するものであった。また、1500年頃、ピータ・ヘンラインがゼンマイを発明し携帯できるようになった。
1583年ガリレオ・ガリレイは、振り子の周期が振幅によらず一定であること(正確には、振幅がごく小さい場合に限られる)を発見し、振り子時計を思いついた。1657年クリスティアーン・ホイヘンスは、サイクロイド曲線を描く振り子および振り子に動力を与える方法を発明し、振り子時計を作った。
1654年ロバート・フックはひげゼンマイの研究を行い、それが振り子と同じく一定周期で振動することを発見し、1675年ホイヘンスはこの原理を利用した懐中時計を開発した。
中世ヨーロッパでの時計の意義は、主に宗教目的で、神に祈りを捧げる時を知るためのものであった。しかし大航海時代に入り、天測によって現在位置の経度を知るためには、揺れる船内に長時間放置してもくるわない正確な時計(クロノメータ)が必要となった。1713年イギリス政府は、そのような時計に 2 万ポンドの賞金をかけ、1736年ジョン・ハリソンは、5ヶ月間の航海で誤差は 1 分以内という懸賞条件に見合う時計を完成させた。しかし、ハリソンは単なる機械工だったためか、イギリス議会はいろいろと難癖を付けて賞金を払わず、40 年に渡って改良を重ねさせた。
時計制作の歴史に革命を起こしたのが天才時計師として名高いアブラアン・ルイ・ブレゲ(1747年 - 1823年)である。彼によって時計の進歩は200年早まったとされる。ブレゲはフランスを中心に時計制作を行い、トゥールビヨン、永久カレンダー、ミニッツリピーターなど、現代の機械式時計にも用いられている画期的な発明を数多く行った。ブレゲの顧客にはフランス国王ルイ16世、ナポレオン・ボナパルト、イギリス国王ジョージ3世、ロシア皇帝アレクサンドル1世などがおり、当時の最高権力者たちはこぞって彼に時計制作を依頼していた。
ブレゲがその生涯に制作した時計は約3800個といわれ、数々の傑作を生み出したが、そのなかでも最高傑作として名高い逸品が、王妃マリー・アントワネットのために制作された懐中時計「マリー・アントワネット」である。永久カレンダー、ミニッツリピーター、自動巻き、独立した秒針などを懐中時計サイズで実現するためにブレゲは持てる技術のすべてをつぎ込んだが、王妃が断頭台にて非業の死を遂げたため、ついに完成品は王妃の手に渡ることはなかった。その後、「マリー・アントワネット」は数々のコレクターの手を経た後、エルサレムのL・A・メイヤー記念イスラム美術館に所蔵されていたが、1983年に盗難されて以来、その行方は杳として知れない。
その後、機械式時計は精度や携帯性を求めて様々な改良が施された。ぜんまい動力の掛かる駆動部の歯車はなるべく均一な力がかかるように歯車の歯数を互いに割り切れないようにする工夫もなされた。気温によって振り子の長さやひげゼンマイの弾性が変化することも精度に影響するため、20世紀初頭に熱膨張率の小さなインバー合金、温度によって弾性率の変化が小さなエリンバー合金が発明され、大きな貢献を与えた。
20世紀後半、動力として電動機が使われるようになり、従来の機械式時計に対し脱進機にトランジスタを使ったトランジスタ時計や、調速機に RC 発信回路を使った時計、音叉を使った音叉時計などが開発されたが、水晶振動子を使ったクォーツ時計、セシウム原子の振動を利用した原子時計等の高精度な時計の出現により、ほとんど姿を消した。
クォーツ時計は廉価で小型化が可能で、一月に 15 秒ほどと実用上十分の精度があるため一般的に使われている。一方原子時計は 2000 万年に 1 秒くらいのくるいという高精度を持つものの、21 世紀初頭の段階では廉価・小型化が難しい。そこで、適当な頻度で原子時計の時報を電波で受信し、クォーツ時計の時刻を自動修正する電波時計も利用されている。
クォーツ時計が一般化する前の電気式時計では、アナログ式では電源周波数に同期して回転するサーボモータを使ったり、デジタル式では電源周波数より1秒毎のパルスを得て駆動していた。(後者は現在でもビデオテープレコーダなどのタイマー予約用時計に使われることがある)