伯牙是春秋时期著名的琴家。荀子在《劝学篇》中说："昔者匏巴鼓瑟而流鱼出听，伯牙鼓琴而六马仰秣"。就是说匏巴弹瑟时，连水里的鱼都要越出水面倾听；伯牙弹琴时，正吃草料的马也仰首而听，高度评价了伯牙的演奏技术。
伯牙的成就来自其师成连的独特教学方法，他年轻时跟成连学琴三年，技巧已经掌握，就是达不到精妙的地步。成连称要带他去见自己的老师，就把他带到了蓬莱山，成连将伯牙留在山上，自己则乘船而归。伯牙独处山上，“近望无人，但闻海上汩没崩澌之声，山林杳冥，群鸟悲号，伯牙怆然叹曰：‘先生将移我情’，乃援琴而歌之”。他将听到的声音，看见的景物，融入自己的情怀之中，果然韵律与心神合而为一。伯牙因此悟得琴之妙趣，遂成天下妙手。
俞伯牙在蓬莱仙岛上学到高超琴艺后，被周天子拜为司乐太师之职。他奉命编修乐谱，专程去楚地采风。一天，俞伯牙带着琴僮顺汉水而下来到长江口，突然乌云盖顶，狂风大作。霎时之间，波涌浪翻，惊涛怒吼，将俞伯牙所乘的船颠得起伏摇晃。俞伯牙待风住雨停，站在船头一看，只见月儿初升，挂在崖顶，月影沉碧，波澜不惊，杜鹃啼鸣，更添幽静，不禁触动乐思，犯了琴瘾。他便回舱开囊取琴，对着明月和浩荡的江水弹拨起来。一曲尚未弹完，突然琴弦断了一根，按当时的说法，只有遇到懂得音乐并理解弹琴人心境的人，琴弦才会崩断。伯牙走出船舱，果然见到有一个身穿蓑衣，头戴斗笠的樵夫，他手里拿着一把斧头，地下放着一捆柴。伯牙就高兴地请他到船舱中听琴，换好琴弦后，伯牙先弹了一首《高山》，乐曲刚完，樵夫就赞叹说："太好了！多么巍峨的泰山啊！"伯牙随即又弹了一曲《流水》，音乐一停，樵夫就赞美说："太好了，多么浩荡的江河啊！"伯牙兴奋极了，激动地说道：“你真是我的知音啊”！这个樵夫就是钟子期。后来钟子期不幸病故，伯牙伤心至极，认为知音已去，从此无人能听懂自己的琴声，也没有什么值得自己为之弹琴，遂大哭之后，将琴摔碎，毕生不再鼓琴。
