Una delle più antiche creazioni ad ancia libera conosciute è lo sheng, uno strumento di bamboo che veniva suonato in Cina più di 5.000 anni fa. Questo strumento viene suonato ancora al giorno d'oggi in Cina e Tailandia.
Ciò nonostante si ritiene che strumenti che sfruttavano i principi dell'ancia libera giunsero in Europa solamente nel diciannovesimo secolo.
Anche se il merito per l'invenzione dell'armonica è stato attribuito ad almeno nove persone diverse, si ritiene che sia stato il berlinese Christian Friedrich Buschmann ad aver creato per primo questo strumento nel 1821. Rimane comunque il sospetto che, proprio in quegli anni, diversi costruttori di strumenti abbiamo lavorato, indipendentemente l'uno dall'altro, alla realizzazione di uno strumento simile. Al di là dell'inventore una cosa è certa: l'armonica a bocca si diffuse rapidamente e vari produttori, prima a Vienna poi nel Württemberg e in Sassonia, ne avviarono la produzione. Questi prototipi erano però ancora molto differenti da quelli che conosciamo oggi. Tra il 1845 e il 1865 si iniziò a standardizzare l'armonica tramite la produzione di tre modelli base, ancora oggi conosciuti:
Con l'avvento dell'armonica diatonica, l'armonica a bocca ha riscontrato un progresso significativo verso la metà degli anni '20 del XX secolo. Solo allora questo strumento poteva offrire al musicista la possibilità di suonare delle melodie complesse senza dover passare da uno strumento all'altro durante l'esecuzione.
Tuttavia, la vera svolta nella storia dell'armonica arrivò con l'apertura del mercato americano ai prodotti della Hohner. L'azienda, da quel momento, divenne rapidamente uno dei principali produttori mondiali di armoniche. Allo stesso tempo, l’arrivo di questo strumento negli Stati Uniti, unito all’influenza della cultura afroamericana, diede vita a nuove possibilità musicali che probabilmente nessuno dei suoi inventori avrebbe mai potuto immaginare. Nessun altro strumento si adattava meglio al nascente blues quanto l’armonica diatonica Richter, conosciuta negli Stati Uniti semplicemente come “harp”. Era economica, compatta e poteva essere “tormentata” fino a produrre suoni che, in realtà, non facevano parte della scala originale.
Questa tecnica di esecuzione, chiamata Bending, insieme all'overblow/overdraw introdotto dall'americano Howard Levy hanno contribuito a conferire all'armonica Richter il giusto riconoscimento come strumento a tutti gli effetti.