追溯中国古琴谱的出现，可能很早。明人朱权的《新刊太音大全集》，原为宋田芝翁编《太古遗音》，其中辑录了唐人论琴及指法资料多种，在谈到古琴谱的来源时说：“制谱始于雍门周。张敷因而别谱，不行于后代。”
雍门周是战国时人田文之门客，善鼓琴，但关于他制谱的记载，尚无其他文献可资佐证。张敷是六朝宋人，与戴逵同时，《宋书》卷四十六，《南史》卷三十二，均见记载，其时古琴之制谱正在开始，但有关张敷制谱的具体材料，也不见史传。
古琴谱是以记写演奏技法为基本特征的手法谱。早在西汉中期刘安的《淮南子修务训》中，就有这样一段描写：“搏琴抚弦，参弹复徽，攫援摽拂，手若蔑蒙，不失一弦。”蔡邕《琴赋》写道：“左手抑扬，右手徘徊，抵掌反覆、抑按藏摧。”嵇康《琴赋》也有“上下累应，踸踔磥硌”、“楼搀？捋，缥缭撇挒”等记载。其中，攫援、摽拂、抑扬、徘徊、抑按、上下、踸踔、磥硌、楼搀、？捋、缥缭、撇挒等，显然是当时琴家命名的指法术语。可见，在这一时期已形成一套左右手的指法体系。
北魏神龟年间，陈仲儒用文字记写有《琴用指法》一书。从文献记载来看，当时古琴已有了固定的形制、音位、琴调、指法，一首琴曲借用文字将其演奏指法、音位、琴调贯穿起来，从而形成一种谱式。
南北朝时丘明（494—590）传谱的琴曲《碣石调幽兰》，便是这样一种用文字记写的琴谱。原谱为唐初抄本，存日本京都西贺茂神光院，后杨守敬（1839—1914）将其影摹，于1884年收入黎庶昌所辑的《古逸丛书》中出版。该乐谱是通过文字对左、右手演奏技法的叙述，间接反映出乐曲的音高与时值的谱式，故名文字谱。乐谱没有具体音高标记，只有按演奏技法的记载去弹奏后才出现该音，是迄今发现最早的琴谱。
初唐时期，继续沿用着过去的谱式。当时有琴家赵耶利（563—639) , “出谱二帙，名参古今”, “所正错谬五十余弄，削俗归雅，传之谱录”。这五十多首琴曲，很可能是他当年整理的全部琴曲。《新唐书艺文志》中列有他所撰的《琴手势谱》一卷、《琴叙谱》九卷，《宋史》中又有他的《弹琴右手法》一卷）。前两种已散佚，唯《弹琴右手法》见于《乌丝栏古琴指法》中。宋朱长文《琴史》有“作谱两卷以遗之，今传焉”，似与前引文“出谱两帙”相合。北宋尚存，今也湮没。不过赵耶利整理的谱集，仍然使用了繁难的文字谱。如同我们在《碣石调幽兰》中看到的那样，“其文极繁，动越两行，未成一句”。
由文字谱到减字谱的改进一般认为是中唐时期由曹柔完成的。曹柔的生平不详，至于其弹琴、制谱、著述等方面，亦全无消息。有关其记载最早见于《太音大全集》，曰：“曹柔作减字谱，尤为易晓也。”明代嘉靖三十年（1551)，萧鸾在他编撰的《杏庄太音补遗》中列出的一批减字谱前面，标题直书“曹氏减字法”，并有萧鸾的一篇“字母源流”，对曹柔作减字谱予以很高的评价：“……后世有曹柔氏者出，乃作减字谱，字简而义尽，文约而意赅，曹氏之功于是为大。”
明人张右衮在《琴经》中所说意思也大致相同：“简字法，字简而义尽，文约而意赅。曹氏之功于是大矣！”
的确，尽管对于今天的人们来说，减字谱依然形同“天书”，但毕竟与原来繁杂的文字谱相比，已经简化了很多。比如，原先《碣石调幽兰》总共四段的琴曲，却用了四千多个文字来标记曲谱。像文字谱中“耶卧中指十上半寸许案商，食指、中指双牵宫商”这样两句话，用减字谱就只要“？”这样一个符号。由于减字谱的发明，晚唐陈康士、陈拙等整理了大量的琴谱。《新唐书》载陈康士撰《琴谱》十三卷、《琴调》四卷、《离骚谱》一卷等（10）。陈拙撰《大唐正声新社琴谱》十卷，《琴籍》九卷（《宋志》），可惜均已佚。
到南宋末期，减字谱已基本定型了。宋姜夔辑有《白石道人歌曲》谱，载有歌曲17首，属“俗字谱”。其中，刊载有他自己创作的一个琴歌《古怨》。从此谱中可见古琴曲的减字谱发展到12世纪末的情况，具有相当的学术价值。另外，在南宋陈元靓编纂的类书《事林广记》中，收录了《开指黄莺吟》及宫调、商调、角调、微调、羽调五个小品琴曲。其减字形式与明清时期已基本相同。#p#分页标题#e#
明清时期，刊印琴谱之风很盛。首先是朱元璋之子朱权，刊印了《神奇秘谱》 《新刊太音大全集》等琴谱。到明中叶以后，其他藩邸和民间也纷纷开始把各自收集和创作的琴曲，用减字谱刊印下来。其中较著名的有《杏庄太音补遗》(1557年，萧鸾编）、《文会堂琴谱》（1596年，胡文焕编）、《松弦馆琴谱》（1641年，严徵编）、《大还阁琴谱》（1673年，徐上瀛编）、《澄鉴堂琴谱》( 1686年，徐常遇编）、《五知斋琴谱》（1772年，徐祺编）、《自远堂琴谱》（1802年，吴灴编）、《蕉庵琴谱》（1868年，秦维瀚编）、《天闻阁琴谱》( 1875年，唐彝铭编），等等，总计达150余种之多。而其中所记录的琴曲之多，更是一笔令人惊叹的巨大的音乐财富！
因此，传统的古琴记谱方式，从汉魏时期的弹琴指法称号，六朝初唐时期的文字谱，中唐至宋代的早期减字谱，发展到明清时期的减字谱形式，经历了一千多年的历史。在琴曲有了记谱法之后的初级阶段，琴家只是用来备忘、交流或示范，可能还没有意识到要用谱传琴。并且，由于弹琴的人不多，并且同一师承的琴人相对集中在某一地区，互相传习时，都用抄本。故文字谱留存至今仅一个卷子本《碣石调幽兰》。唐宋时期，虽有赵耶利、陈康士、陈拙及宋代朱文济、徐宇、杨攒等编纂了大量的琴谱，但至今均已亡佚，部分琴曲则保留于明代《神奇秘谱》《西麓堂琴统》等谱集中。