小山，分别位于清凉门、石城门内偏西的位置，两山相隔并不远，也是清军在南京城中的两个重要的防守据点。第二军的任务就是首先攻取这两座小山，然后向南京城的纵深发展，与第三军在钟鼓楼前汇合。
这次担任突击的，是刚刚被商毅授于南京团旗帜的十八团，这时全团正是士气正旺的时候，因此在罗远斌下令了进攻命令之后，立刻都奋不顾身的山上猛冲，尽管清军也对进攻的商家军进行了猛烈的还击，什么霹雳火箭、震天雷也都一骨脑的向商家军狂扔，但这时商家军己将火炮都运到城里，向清军的阵地开炮猛轰，掩护着部队的进攻，整个小五台山几乎都被爆炸覆盖，而士兵们冲到了清军的阵地附近，又向清军投去了大量的手榴弹，所过之地，几乎全部被手榴弹炸了一遍。
经过了一个小时的激战之后，十八团攻上了小五台山，将清军压缩到阵地的西南角，而后续部队也迅速跟上，占领了小五台山的主阵地。而剩下了八百多清军全部缴械投降。
随后罗远斌也下令，将重型火炮拖上小五台山来，对着清凉山就是一阵猛轰，同时又派出一支部队，从清凉山的另一边发动进攻，在前后受敌的打击下，清军也无法继续在清凉山上坚守，一部份逃下清凉山，投入到其他阵地中去驻寺，另