青面兽杨志因押运花石纲，途中遇风翻船，不敢回京复命，逃在江湖。后来遇到大赦，便想谋求复职，被高俅拒绝。杨志盘缠用尽，想卖了祖传宝刀，投奔他乡谋生。不料受到当地泼皮牛二百般欺凌，杨志忍无可忍，杀了牛二。当地吏民因念杨志是个好汉，又为地方除了一害，都愿意周全他，问了个斗殴误伤的罪名，充军大名府。大名府留守梁中书因爱杨志武艺，有心要抬举他做个军官，但怕众将不服，便借试艺比武为名，使杨志得以大显身手，从而提拔杨志做了提辖使。