C'est pendant le développement d'une machine à calculer destinée au calcul et à l'impression de tables mathématiques (machine à différences) que Babbage eu l'idée d'y incorporer des cartes du métier Jacquard, dont la lecture séquentielle donnerait des instructions et des données à sa machine, et donc imagina, malgré des différences notables de fonctionnement (elle fonctionnait à la vapeur avec des roues et engrenages mécaniques), l'ancêtre des ordinateurs modernes.
La machine analytique devait fonctionner ainsi :La machine était commandée par des instructions sur des cartes perforées, issues des techniques du métier à tisser. C'était l'équivalent des programmes informatiques ou logiciels. La célèbre Ada Lovelace (fille de Lord Byron) a participé à leur écriture. Cela fait d'elle une des premières "programmeuses". On estime aujourd'hui que la machine complète aurait constitué un enchevêtrement de roues et d'engrenages mus par la vapeur et prenant la place d'une locomotive.
La machine analytique n'était pas le premier essai de Babbage qui avait déjà inventé une machine à différence commandée par le gouvernement britannique pour établir des tables de calcul sans erreur. Cette machine à différence fut construite partiellement de 1822 à 1833 par Joseph Clement, l'un des meilleurs outilleurs britanniques de son temps.
Babbage commença le développement de sa machine analytique en 1834, réalisant qu'il pouvait simplifier sa machine à différence grâce à cette nouvelle machine programmable. Le parlement anglais refusa ce changement de direction et arrêta officiellement son soutien financier en 1842. Babbage utilisa les principes découverts pendant le développement de la machine analytique pour créer un machine à différence no2 qui fut construite cent ans après, validant la justesse de ses vues.
Le plus jeune fils de Babbage développa une partie de la machine analytique pour prouver le bien fondé des idées de son père. Il commença en 1880 mais abandonna en 1888 après une erreur de calcul durant la démonstration du calcul et de l'impression de la table des quarante premiers multiples de Π avec vingt-neuf décimales. Il reprit le développement en 1906 et donna une démonstration réussie de ce calcul devant l’académie royale anglaise d'astronomie. Henry Babbage fit don de cette machine au Musée des Sciences de Londres en 19101.