在《吕氏春秋》和《列子》中，记载有伯牙与钟子期的故事，一直为后世所传诵。

据《吕氏春秋·本味篇》记载：伯牙鼓琴，钟子期听之，方鼓琴而志在泰山，钟子期曰：“善哉乎鼓琴！巍巍乎若泰山”。少时而志在流水。钟子期曰：“善哉鼓琴，洋洋乎若流水”钟子期死，伯牙摔琴绝弦，终身不复鼓琴，以为世无足复为鼓琴者。

明代小说家冯梦龙在《警世通言》这一本书中，用生动的笔触描写了这个动人的故事：

伯牙善鼓琴，钟子期善听。伯牙鼓琴，志在高山，钟子期曰：“善哉，峨峨兮若泰山！”志在流水，钟子期曰：“善哉，洋洋兮若江河！”伯牙所念，钟子期必得之。子期死，伯牙谓世再无知音，乃破琴绝弦，终身不复鼓。

在子期墓前，伯牙曾经写下了一首短歌，来悼念自己的知音钟子期：

忆昔去年春，江边曾会君。今日重来访，不见知音人。但见一?土，惨然伤我心！伤心伤心复伤心，不忍泪珠纷。来欢去何苦，江畔起愁云。此曲终兮不复弹，三尺瑶琴为君死！

《琴操》、《乐府解题》记载有伯牙学琴的故事：著名琴家成连先生是伯牙的老师，伯牙跟成连学了三年琴却没有太大的长进。成连说自已只能教弹琴技艺，而其师万子春善移情，便带伯牙去东海找万子春请教移情之法。可伯牙到了东海，并未见到万子春，只看见汹涌的波涛，杳深的山林和悲啼的群鸟，伯牙心中豁然一亮，感慨地说：“先生移我情矣！”于是创作了《水仙操》。钟子期介绍钟子期 ，春秋楚国（今湖北汉阳）人。相传钟子期是一个戴斗笠、披蓑衣、背冲担、拿板斧的樵夫。

史载有一年，俞伯牙奉晋君之命出使楚国。八月十五那天，他乘船来到了汉阳江口。遇风浪，停泊在一座小山下。晚上，风浪渐渐平息了下来，云开月出，景色十分迷人。望着空中的一轮明月，俞伯牙琴兴大发，拿出随身带来的琴，专心致志地弹了起来。他弹了一曲又一曲，正当他完全沉醉在优美的琴声之中的时候，猛然看到一个人在岸边一动不动地站着。俞伯牙吃了一惊，手下用力，“啪”的一声，琴弦被拨断了一根。俞伯牙正在猜测岸边的人为何而来，就听到那个人大声地对他说：“先生，您不要疑心，我是个打柴的，回家晚了，走到这里听到您在弹琴，觉得琴声绝妙，不由得站在这里听了起来。”

俞伯牙借着月光仔细一看，那个人身旁放着一担干柴，果然是个打柴的人。俞伯牙心想：一个打柴的樵夫，怎么会听懂我的琴呢？于是他就问：“你既然懂得琴声，那就请你说说看，我弹的是一首什么曲子？”