肯普夫从小由父亲启蒙学习钢琴,9岁进入柏林高等音乐学校,分别师从巴尔托与卡恩学习钢琴和作曲。后来还在柏林大学学哲学和音乐史。1916年在个人第一场演出中同时演奏钢琴与管风琴。1917年以钢琴演奏与作曲得到柏林市颁发的门德尔松钢琴与作曲奖。
1918年首度与柏林爱乐乐团合作演出,二次大战前在世界各地演出,足迹遍及欧洲、南美与日本。
战后1951年到伦敦演出,1964年至纽约演出;在演奏生涯最后几年里,他的曲目多以德国古典与浪漫派作品为重心,被认为是当代德国钢琴家的代表人物,阐释贝多芬、舒伯特、舒曼、勃拉姆斯钢琴作品的权威;独奏之外,肯普夫也参与室内乐演出,经常与梅纽因、谢霖和罗斯特罗波维奇等人合作。
此外还从事教学与创作,1931—1941年间,曾与费舍尔(Edwin Fischer)等人在波茨坦的暑期高级班里担任教授,战后还主持过贝多芬钢琴作品讲座,许多后辈杰出钢琴家都接受过他的指导,包括出色的钢琴家是内田光子;1991年5月23日,肯普夫以96岁高龄逝世于意大利波西塔诺(Positano)。