学成下山后，伯牙被周天子封为司乐太师，奉命编修乐谱，为此专门到楚地采风。
然而，令伯牙苦恼的是，人们虽然喜欢听他的音乐，但很少有人能真正地懂他弹的音乐，也不懂他。
有一天，俞伯牙来到长江有一天，俞伯牙来到长江口，突然狂风大作，乌云密布，顿时惊涛骇浪，使俞伯牙所乘的船左右摇摆。俞伯牙等到风住雨停后，来到船头一看，只见月儿初升，悬挂半空，风清气爽，树叶上残留的雨滴溅落，杜鹃啼鸣，幽静非常。他看到此景，不禁触动乐思，琴兴大发，随即回到船舱，开囊取琴，对着当空的明月和浩淼的江水弹了起来……

一曲尚未弹完，突然“嘭”的一声，断了一根琴弦。按当时的说法，只有遇到知音，琴弦才会崩断。伯牙心中一阵惊喜，立即走出船舱——看到一位头戴斗笠的樵夫，他拿着一把斧头，地下放着一捆柴。

伯牙心想：这样一位其貌不扬、满身乡野山气的樵夫，难道是我的知音吗？不可能啊。他又看了樵夫一眼，只见他正沉浸在自己的琴音中，像没看到伯牙一样。伯牙心中一乐，心想：原来他真是我的知音啊。

他立即请樵夫进入自己的船舱听琴。伯牙换好琴弦后，弹了一首《高山》，琴音刚落，樵夫就大赞道：“太美妙了！泰山是如此巍峨啊！”
随后，伯牙又弹了一曲《流水》，音乐完毕，樵夫又高兴地赞叹说：“太好了，江河是如此浩荡啊！”

伯牙兴奋极了，激动地站起来，拉着樵夫的手说：“你真是我的知音啊！”他没想到，自己结交权贵无数，他们都气宇轩昂，华丽富贵，但很多却是“金玉其外，败絮其中”，而眼前这个樵夫，身着粗布，形象粗鄙，地位低下，但却是被褐怀玉，内心不俗，品位高雅，怎不令人刮目相看呢？他遂与樵夫成为知己。

这个樵夫就是钟子期。
后来，钟子期不幸患病而死，伯牙为失去这位知音而难过。他悲痛地说：
“今后还有谁能听懂我的琴音呢？”说完，心一横，将琴摔碎，发誓再不弹琴，以此来纪念钟子期这位知音。
钟子期外表看似粗陋，内里却心怀秀雅，品位不凡，他能听钟子期外表看似粗陋，内里却心怀秀雅，品位不凡，他能听懂一般人听不懂的琴音，可见其不俗的修养。当伯牙正在感叹“知我者稀”时，这位知音的出现自然令他惊喜过望。钟子期对于伯牙，就是一位“被褐怀玉”者，所以令他珍惜，甚至在他死后毁琴不弹。