这个成语的典故，最早可以追溯到《晋书·陶侃传》中的记载。东晋时期有位屯骑校尉名叫郭默，此人确实本领非凡，作战极为勇猛，曾与后赵开国皇帝石勒等强敌交锋，连石勒这般枭雄都对他忌惮三分。然而他有个致命弱点——骄横跋扈，目空一切。有一次，他因私怨竟擅自杀害了平南将军刘胤。更令人不齿的是，事后他伪造诏书，诬告刘胤谋反，并将假诏传示各州郡，企图瞒天过海。

事情败露后，宰相王导的态度颇为耐人寻味。他或许担忧朝廷兵力不济，无法制服郭默，竟未予追究，反而加官进爵。这种姑息纵容之举，无异于火上浇油。

此时，名将陶侃挺身而出。他一面奏请朝廷出兵征讨郭默，一面致信王导，措辞犀利：“郭默杀州官而朝廷授之州官；若他日杀宰相，难道亦授之宰相？”此言直击王导要害。王导读信后终于醒悟事态严峻，遂命陶侃率军讨伐。

郭默深知陶侃的威名。听闻陶侃亲征，他焦灼如热锅蚂蚁，原打算速撤江州南下，岂料陶侃出兵神速——大军转眼即至，将江州围得铁桶一般。

郭默彻底陷入绝境：守城则必败无疑，城破即身首异处；开城投降又恐秋后算账，同样难逃一死。正当他进退维谷之时，麾下一名部将审时度势，径直将他擒获，打开城门。

最终，陶侃兵不血刃，一举平定叛乱。

此成语的更深渊源，可追溯至《荀子·议兵》中的论述：“故近者亲其善，远方慕其德，兵不血刃，远迩来服。”所谓“兵不血刃”，字面指兵器未沾染血迹，实际寓意未经交锋便轻易获胜。正因如此，后人常借它来赞美以德服人、不战而屈人之兵的经典战例。