伯牙是春秋時期著名的琴家。荀子在《勸學篇》中說："昔者匏巴鼓瑟而流魚出聽，伯牙鼓琴而六馬仰秣"。就是說匏巴彈瑟時，連水里的魚都要越出水面傾聽；伯牙彈琴時，正吃草料的馬也仰首而聽，高度評價了伯牙的演奏技術(shù)。

伯牙的成就來自其師成連的獨特教學方法，他年輕時跟成連學琴三年，技巧已經(jīng)掌握，就是達不到精妙的地步。成連稱要帶他去見自己的老師，就把他帶到了蓬萊山，成連將伯牙留在山上，自己則乘船而歸。伯牙獨處山上，“近望無人，但聞海上汩沒崩澌之聲，山林杳冥，群鳥悲號，伯牙愴然嘆曰：‘先生將移我情’，乃援琴而歌之”。他將聽到的聲音，看見的景物，融入自己的情懷之中，果然韻律與心神合而為一。伯牙因此悟得琴之妙趣，遂成天下妙手。

俞伯牙在蓬萊仙島上學到高超琴藝后，被周天子拜為司樂太師之職。他奉命編修樂譜，專程去楚地采風。

一天，俞伯牙帶著琴僮順漢水而下來到長江口，突然烏云蓋頂，狂風大作。霎時之間，波涌浪翻，驚濤怒吼，將俞伯牙所乘的船顛得起伏搖晃。俞伯牙待風住雨停，站在船頭一看，只見月兒初升，掛在崖頂，月影沉碧，波瀾不驚，杜鵑啼鳴，更添幽靜，不禁觸動樂思，犯了琴癮。他便回艙開囊取琴，對著明月和浩蕩的江水彈撥起來。一曲尚未彈完，突然琴弦斷了一根，按當時的說法，只有遇到懂得音樂并理解彈琴人心境的人，琴弦才會崩斷。

伯牙走出船艙，果然見到有一個身穿蓑衣，頭戴斗笠的樵夫，他手里拿著一把斧頭，地下放著一捆柴。伯牙就高興地請他到船艙中聽琴，換好琴弦后，伯牙先彈了一首《高山》，樂曲剛完，樵夫就贊嘆說："太好了！多么巍峨的泰山啊！"伯牙隨即又彈了一曲《流水》，音樂一停，樵夫就贊美說："太好了，多么浩蕩的江河??！"伯牙興奮極了，激動地說道：“你真是我的知音啊”！這個樵夫就是鐘子期。

后來鐘子期不幸病故，伯牙傷心至極，認為知音已去，從此無人能聽懂自己的琴聲，也沒有什么值得自己為之彈琴，遂大哭之后，將琴摔碎，畢生不再鼓琴。