春秋末期，孔子的学生子游在鲁国武城县做县官。有一次，孔丘来到武城，听见弹琴唱歌的声音，他微笑了一下，对子游说：“治理武城这个小地方，根本用不着礼乐。比如杀鸡，何必用宰牛的大刀(原文是“割鸡焉用牛刀”)!”

子游引用孔丘以前讲过的话来反驳他：“以前我听老师讲过，君子学了礼乐就能相亲相爱，小人学了礼乐就易于驱使。我照你的话去做，为什么又取笑我?”孔丘听了子游的辩驳，连忙改口说：“子游这话讲得对，我刚才说的那句话，不过是开个玩笑罢了!”

后来，人们引用“杀鸡焉用牛刀”或“割鸡焉用牛刀”这个成语，来比喻办小事情，何必花费大力气，也就是不要小题大做。