木琴的起源甚早，相传非洲与印度尼西亚在14世纪时就有木琴。在欧洲最早提到木琴是在16世纪，但仅用于特殊效果。直到 19 世纪中叶，它主要是作为一件新奇的乐器由表演者用于音乐会上，经常被巡回演出的演奏家们当独奏乐器使用。在1830年左右，俄国演奏家古西科夫以高度的技巧演奏木琴以后，木琴渐为人们所赏识，并引起了如门德尔松、肖邦、李斯特那样的作曲家们的兴趣。 此后，经常被作曲家用于管弦乐曲中。大多数20世纪的作曲家都使用过木琴，如在G.马勒的《第六交响曲》，R.斯特劳斯的《莎乐美》和D.肖斯塔科维奇的《第五交响曲》等作品中都把木琴运用得很成功。