在南京城里驻扎的鬼子大部分被“整肃”出城，驻扎的区域也严格划分，为防止敌军化装袭击，各师团官兵不准出自己的防区。第6师团驻扎在南京城的几个大队也撤出城外，其中一个大队驻扎在水西门外，驻扎地点离水西门约1-2公里。

郑家裕将袭击的时间定在下午四点半，这个时间段鬼子师团部还没有下班，会议应该还正在进行，袭击一个小时后天空就会暗下来，便于撤离。当天上午，第2纵队派来了两艘冲锋舟，舟里装载了五门81mm迫击炮、100发炮弹、二辆大车，随舟还来了第2纵队最好的五名主炮手。

26日中午，袭击小分队一行30人出发了，乘坐的冲锋舟在江中心遇到鬼子的巡逻艇。队员在江边早已将鬼子之间的旗语学会，舟头上的一名队员拿着红黄两面小旗绕了几下，鬼子的巡逻艇径自走开了。冲锋舟还是在南岸港汊里靠岸，队员们将大车和迫击炮、弹药抬上岸，将这些军火分装两辆大车，用油布盖着。这次，郑家裕为了能顺利撤离，还特地带了二挺MG34机枪和几颗地雷。

五名炮手穿着老百姓的服装拉着大车，其他队员端着枪押运。下午四点，离预定的架炮地点只有1公里了，一个班的鬼子巡逻队远远地看到了他们，向他们跑了过来，郑家裕没让队员们停下，直接往前走迎了上去。双方相距20米时，鬼子喊道：“你们是哪一部分的？为什么出现在这里？”

李本建回答：“我们是41联队辎重大队的，正在运送两车炮弹。”李本建从怀里掏出一本在升州路小学里搜到的证件递了上去。

那个鬼子听到李本建纯正的日语，看了他的证件，又看到这些“皇军”神情很自然，也就放松了警惕，本来十几支枪都朝前端的，现在也转过枪口横向端着。郑家裕他们并没有停下脚步，鬼子看到大车从身边经过，都侧身让开。这时，郑家裕抽出三八枪刺以迅雷不及掩耳之势划开身边一个鬼子的喉咙，鲜血一喷而出。郑家裕没有停手，大跨一步，朝着另一个鬼子颈部砍去，那个鬼子头一偏，刺刀砍在他的耳根部，半截脖子被砍断，重重地倒了下去。其他队员早已蓄势待发，纷纷将身边的鬼子刺倒。

时间已经很紧迫了，来不及处理这些鬼子的尸体。郑家裕将队员分出来13个，让他们在前面冒充巡逻的鬼子，其他人押着大车继续往预设炮兵阵地赶过去。

四点二十五分，小分队已经赶到那片凹地，大家急忙打开大车的油布，架设迫击炮。五名炮手开始调试射击诸元，李本建在凹地里埋设一个炸药包，设计了一个诡雷，其他所有人都充当弹药手，打开所有炮弹箱，拧开保险，平放在迫击炮边的油布上。巡逻的“鬼子”在路上埋设地雷。

四点三十分，郑家裕用步话机联络城内的余满仓，余满仓表示已经准备完毕。郑家裕用大手一挥，喊道：“开炮！”

第一炮手也大声喊：“放！”队员顶替的副炮手将一发炮弹丢进了炮里，“嗵”地一声，炮弹呼啸着飞向城内。大家听到炮弹在城内的爆炸声。紧接着，步话机里传来余满仓的声音：“向西偏北偏离40米！”

郑家裕重复喊着：“向西偏北偏离40米！”

第一炮手麻利地微调射击诸元，又喊：“放！”副炮手又装填一发炮弹，再一次飞向了天后宫。随着爆炸声，步话机里传来了满仓兴奋的声音：“命中！命中！”

郑家裕马上在步话机里命令：“你立即撤退！”

第一炮手喊了射击诸元，其他几个炮手立即进行校对，随即喊道：“放！”81mm迫击炮弹成群结队地飞向了天后宫。爆炸声连成一片。郑家裕看到城墙内已经升起了浓烟。

四分钟后，前面瞭望的队员喊道：“大队长，鬼子从兵营里出来了！”郑家裕看到各炮只剩两发炮弹，就喊道：“打完后，保护好炮手，立即撤退！”很快，大家都撤离了阵地，李本建将一门炮的底座搬起，将引信挂在底座上，又放好底座，飞快地向后撤离。

鬼子追击的部队受到了地雷的影响，拉开了追击的距离。小分队强健的身体素质在奔跑中得到很好地体现。天刚黑，小分队已经上了冲锋舟，冲锋舟以最快的速度向上游的对岸冲了过去。不久，冲锋舟靠岸。郑家裕跟炮手和驾驶员告别，冲锋舟继续沿着北岸向上游驶去。

这次炮击基本摧毁了天后宫，也导致战后天后宫重建时无法全部恢复，现在的天后宫只有两进。有些遗憾的是，第6师团这次在另外一处学校开会，师团部还抽走了大量的参谋等人员到会场参加会议，大大降低了炮击对第6师团部造成的直接杀伤效果。但这次炮击也极大地震慑了敌人，华中派遣军司令部为此将第6师团长谷寿夫调离回国（还有原因是谷寿夫纵容部下**），降职了南京情报部门长官，同时，加强了派遣军司令部周边的防卫。

至此大汉军对日军南京大屠杀的报复行动全部结束。