口琴源于中国，大约数千年前，被成为笙“Sheng”。这种由竹簧片发声的乐器很快风靡亚洲，在传统音乐中占据重要地位。18世纪后期，Sheng传入欧洲，很快在音乐界流行开来。
【译者注：远在3000多年前的商代，我国就已有了笙的雏型。在出土的殷（公元前1401～前1122）墟甲骨文中有“和”的记载。“和”即是后世小笙的前身。《尔雅·释乐》记载：“大笙谓之巢，小者谓之和。” 】

19世纪，欧洲乐匠们开始尝试用金属簧片来代替Sheng中的木质簧片。大约在1820年，一名叫Christian Friedrich Buschmann的年轻乐匠打造出了第一支采用金属簧片的口琴，当时称为Aura。这种Aura以它独特的魅力而受到音乐家们的广泛好评；但当时的Aura却只有吹音，而没有吸音。
 大约在1825年，欧洲人Richter发明了一种乐器，成为了现代口琴的雏形。该乐器拥有10个吹孔和两张簧板，每张簧板上由10片簧片。这样，在每个吹孔上通过吹气和吸气都可以发音，Richter所选择的这些音符也就是当代全音阶口琴的音阶排列，有时也称作标准Richter音阶。

口琴的大量生产是在1829年的Vienna，很快在其他城市也出现了口琴制造厂。在德国小镇Trossingen，钟表匠Christian Messner和他的表兄Christian Weiss利用业余时间来制造口琴，但很快他们的口琴生意便红火了起来。几年后，当地另一位钟表匠Matthias Hohner开始拜访Messner和Weiss，并学到了口琴的制作工艺，于此同时也开始了自己口琴生意。
显然，Matthias Hohner并不是一名很棒的口琴手，然而他却是一位出色的商人。在市场是，Matthias击败许多竞争者，并且开始向美国出口口琴，很快美国便成了他最大的市场。1900年，Matthias将生意移交给了5个儿子管理。
在20世纪的前半叶，口琴的流行一度继续扩展延伸；与此同时，口琴乐队也在蓬勃发展。Hohner研制了半音阶口琴(Chromatic Harmonica)，通过控制一个按钮可以演奏出所有的音符。1930年，Larry Adler成为最著名半音阶口琴手，这项荣誉一直保持到2001他的去世。

在美国，口琴作为蓝调乐器而文明于世。二十世纪30年代以及40年代前期的代表为John Lee "Sonny Boy" Williamson。二次世界大战之后，Chicago成为蓝调音乐的中心，这里聚集了许多杰出乐手，如Rice Miller (Sonny Boy Williamsom II)和Little Walter。许多人一直认为Little Walter是最著名的蓝调口琴乐手，Little Walter于1968去世。 

在口琴作为蓝调乐器而极度流行的同时，也有许多人通过Bob Dylan的民俗音乐开始熟悉口琴。进年来，许多杰出口琴手象Kym Wilson和Jerry Portnoy继续发展蓝调口琴风格，而其他像Howard Levy和Brendan Power则形成了一种新型且富有激情的口琴演奏风格。
回顾口琴的漫长历史，大部分杰出的口琴乐手都出自美国。然而目前网络为学习口琴提供了极大的便利，也许在21世纪，口琴的诞生地中国，世界级的口琴乐手也会不断涌现。