계산도구 중 가장 간단한 것은 주판(籌板)이며, 역사는 매우 오래되었다. 톱니바퀴[齒車]를 응용한 수동(手動)의 계산기는 17, 8세기에 와서 B.파스칼과 G.W.라이프니츠에 의하여 창안된 이래 여러 가지로 개량되고 발전하여 가감산(加減算)뿐 아니라 곱하기 ·나누기 계산도 자동적으로 처리할 수 있게 만들었으나, 복잡한 계산의 처리순서를 자동화하는 데까지는 이르지 못하였다.
오늘날 컴퓨터에서 프로그래밍(programming)에 해당하는 일련의 명령을 해독하면서 자동적으로 계산을 실행하는 기계를 19세기 초에 영국의 수학자 C.배비지가 계획하였다. 그 시작기(試作機) 중에서 차분기관(difference engine)과 해석기관(analytical engine)이라는 것이 현재에도 남아 있다. 배비지의 계산기는 모두 기계부품을 이용했기 때문에 성공하지 못하였으나 그 착상은 주목할 만한 것이었다.
자동적으로 계산을 실행하는 최초의 기계는 하버드대학의 H.H.에이컨이 지도하여 만든 릴레이(relay) 계산기 MARK-I로 1944년에 완성되었다. 전자식(電子式) 계산기, 즉 진공관(眞空管)을 사용한 계산기로 최초로 성공한 것은 1945년경에 펜실베이니아대학교의 J.W.모클레이와 J.P.에커트에 의하여 만들어진 ENIAC(electronic numerical integrator and computer)이다. ENIAC은 1만 9000개의 진공관을 사용한 규모가 큰 기계로서, 배선반(配線盤)으로 프로그램을 실행하기 때문에 융통성이 부족하였다.
현재의 컴퓨터처럼 기억장치에 컴퓨터의 명령과 수치를 함께 기억시키는 이른바 내장방식(內藏方式:stored program)을 제안한 것은 1946년 J.L.노이만으로, 오늘날 컴퓨터의 기본적인 지도원리가 되고 있다. 이 원리를 기초로 EDVAC(펜실베이니아대학교), IAS(프린스턴대학교), EDSAC(케임브리지대학교) 등의 개발이 시작되어, 49년 EDSAC이 최초로 프로그램 내장방식 컴퓨터를 완성하였고, EDVAC(electronic discrete variable automatic computer:펜실베이니아대학교)은 51년에 완성했다. EDVAC은 수은지연회로(水銀遲延回路)에 의한 전용(專用)의 기억장치 1,024어(語)의 기억용량을 가지고 있고, 저장된 자료 및 명령어에 의하여 연산을 실행할 수 있다.
최초의 상업용 컴퓨터는 스페리 랜드사의 UNIVAC-I(universal automatic computer)로 1951년에 완성되었다. UNIVAC-I은 주기억용량이 2,000어로서 수은지연회로의 기억장치를 가지고 있고, 자기테이프(磁氣 tape)를 입출력장치로 한 것이었다. 상업용 컴퓨터가 사용되기 시작한 이래로 지금까지 하드웨어(hardware) 면에서 본 컴퓨터의 발달과정을 몇개의 세대(世代)로 나누어 보면, 제1세대는 진공관을 주요 소자(素子)로 하는 컴퓨터로 1950년부터 56~7년까지, 제2세대는 트랜지스터와 다이오드 등의 반도체 소자를 사용한 컴퓨터로 57년경부터 64년경까지, 제3세대는 집적회로(IC)를 사용한 컴퓨터로 65년경부터 70년대 중반까지, 제4세대 컴퓨터는 75년부터 최근까지로 고밀도집적회로(LSI 및 VLSI)를 사용하고 있다. 제5세대는 인공지능형으로서 현재 계속 연구 중이다.