琴曲艺术的普及和发展，大量传统曲目的继承和整理，这些都对记谱方法提出了进一步的要求，而记谱法的简化和改进又促成了琴谱的汇集和流传。从文字谱到减字谱这种划时代的变革，主要是在唐代完成的。
初唐时期继续沿用着过去的谱式，赵耶利整理的谱集，仍然使用了繁难的文字谱。正如我们在《碣石调幽兰》中所看到的那样：“其文极繁，动越两行，未成一句”（《太古遗音》）。总共才有四段的琴曲，却用了四千多汉字标记曲谱。试以该谱第一行为例：“耶卧中指十上半寸许案商。食指、中指双牵宫、商。”如果改用后世的减字谱，只用一个符号：“？”就可以了。文宇谱到减字谱记谱方法的改进，主要应当归功于曹柔。是他“乃作简字法，字简而义尽，文约而音该。曹氏之功于是大矣”。这是明代张右衮在《琴经》中对曹柔的赞扬。可惜关于曹柔的更多情况，目前还无从掌握。晚唐陈康士、陈拙所以能整理大量琴谱传之后世，首先应当感谢减字谱的发明。
减字谱的方法并不是一朝一夕所能完成的，它经过了历代人的不断改进，才形成今天通行的这种谱式。这从有关琴曲指法的著作中可以看得很清楚。现存这类著作有四种：见于《琴书大全》的有陈康士和陈拙的两种；见于明代《太古遗音》的有刘籍的《琴议》；再一种是日本人物部茂卿所写的《乌丝栏指法卷子》。这些著作中都对古代琴曲指法符号作有详细说明。然而有些说明彼此之间有出入，甚至同一符号在一家著作中也并存两种解释。象陈康士对“歴”和“度”的指法符号就收录有两种不同的说法。错综纷纭的解说，显然给使用这些符号带来了困难。这种情况的出现，一则是由于流派甚多，百家争鸣；一则是谱式还不成熟，还有待于进一步的改进。
这种不完善的减字谱在明代初年的《神奇秘谱》上卷中保留得最多。这是很有用处的，它不只是为谱式演变过程提供了实例，更重要的是可以帮助我们辨别琴谱产生的时代，结合琴曲的风格、结构等其它特征，从而找出同一曲目在各个历史时期的演变规律。
不完善的减字谱一般有如下几个特点：
一是记谱符号颇不规范。同一指法，往往在同一琴曲中记写为多种方式。如：下滑音的“注”有时用“氵”，，有时用“主”，有时写成“从上注下”等等。
二是精简得很不彻底。有些该用省写符号的，象：“从厂再作”等，却不曾使用。不少符号记写繁琐，还保留有文字谱的痕迹，甚至有的地方直接用文字加以说明。
三是多用套头指法符号和生僻的指法符号。前者如：“大间勾”、“叠蠲”、“搯拂歴”等。后者如：“？”、“度”、“摘”等。在后世通行的琴谱中很少使用这些符号，可是却较多地保留在古代传谱之中。
四是详于拨奏而略于按指。套头指法和生僻古指法都是右手的拨奏变化，从而形成了音乐中的多种装饰音和节奏变化；而左手按弦却极为简略，琴家称之为“声多韵少”，它保留了古代拨奏乐器的特点。
具有上述特点的谱式，一般可以看作是出于北宋以前的手笔。象《神奇秘谱》中的《小胡笳》就属于这一类。