段老虎比唐绍仪凶狠何止百倍，加上制造暴乱让日本出兵的任务已经完成，于是赶紧带着浪人撤了，剩下的东学教徒，都是一些衣衫褴褛的农民，朝鲜朝廷一说既往不咎，他们带着锄头就回家了，东学乱党很快溃散，崔海月最后带两千教民开城门投降，暴乱基本平息。
正当李经述觉得大局已定，汉城外传来一阵轰隆隆的炮响，叶志超的两万淮军和日本驻朝公使大鸟圭介带领的五千日军打起来了。
当时中日两军阵地很近，牙山地势较低，日本人积极备战，早修筑了炮台，九门重炮居高临下，占据炮火优势，一阵乱轰。叶志超根本就没想到大鸟圭介这文弱公使，就敢凭五千日军单挑他两万淮军，每日照常醉酒笙歌，炮声一响，仓促备战。
叶志超靠着李鸿章，带领的淮军经过十来年的休养生息，战斗力大大下降。面对日本人的炮轰，叶志超异想天开，竟然派两千骑兵杀出，企图闪电夺取日本人的阵地。大鸟圭介惊讶之余，命令日军集中炮火攻击，淮军的骑兵跑到半路，就被炸上了天，可怜淮军骑兵死伤一千二百多人，锐气尽失。
淮军骑兵大败，日军反而士气高昂，继续发射杀伤力比较强的榴霰弹，这种炮弹弹壁薄，内装火药及小钢珠或钢箭、钢珠，弹头装有定时引信，能在预定目标上空爆炸，杀伤敌方。
高州镇总兵左宝贵不懂这新式武器，大鸟圭介亲手发射了一发定时的榴霰弹打到他的身边，刚开始没有爆炸，他竟然毫不知情，继续指挥火炮发射，还击日军。结果，榴霰弹过了一会爆炸，弹片击中的左宝贵的右眼，他伤重殉国。
如果叶志超能带领淮军坚守阵地，李经述带着城里的淮军杀出，内外夹击，日军肯定大败。但左宝贵一死，叶志超面对日军强大的火力，心理防线竟然奔溃，带一万多名兵狂逃一百多里，退守平安府。
当时，天空下着大雨，叶志超带着残兵败将，恐日军截杀，不敢走大路，光挑荆棘密布的羊肠小路，很多士兵的军服和脸都被荆棘所破，惨不仍睹。日军一路追杀，淮军死伤六千余人，而日方只损失两百人。
李经述带五千淮军出汉城，叶志超早已逃之夭夭，王士珍一看叶志超驻防的牙山，对李经述说：“此处地势低洼，孤险无援，叶志超竟然在此驻兵，真是没用兵常识，天下第一等蠢材，难怪会大败！”
李经述默然不语，为了避免更大的伤亡，他决定立即接管叶志超的淮军，于是带兵连夜赶往平安府，叶志超竟然给李鸿章发电报，谎报军情，说牙山一仗，淮军大捷，淮军死伤二百，日军伤亡两千！
李经述收到消息，强压住内心的怒火，把叶志超和一些淮军将领请来营帐中议事，叶志超到了之后，李经述马上命袁世凯带亲兵把叶志超五花大绑，叶志超反抗，大叫：