1944年春，新四军淮海军分区经过多次反攻作战，把日、伪军牢牢压缩在宿迁、淮阴、泗阳、沭阳等几座县城里，敌人在运河线上的水陆交通也完全被新四军切断。

为保障宿迁、泗阳间的水陆交通，8月29日，宿迁日军金井中队纠集伪军共200余人，强占林宫渡。此地北控运河、南通淮北，是苏北根据地的交通咽喉，日军在附近修建碉堡和炮楼，企图切断淮海、淮北两大抗日根据地的交通联络。

新四军第3师第10旅(兼淮海军分区)决定趁敌人立足未稳之际拔除林宫渡据点，粉碎敌人的阴谋。9月初，10旅旅长刘震派人进行了详细的侦察，摸清了据点内敌人的兵力部署和工事构筑等情况。为了麻痹敌人，新四军又故意将主力集结于远离运河沿线的钱集附近，造成敌人以为新四军将对运河沿线放松控制的错觉。战斗部署决定以第2支队第6团等部为主攻，第5团等部为预备队，并安排部队阻击可能来援之敌。

9月6日黄昏，新四军攻击部队自裴圩、里仁集一线实施奔袭，于7日拂晓前渡过运河，突然包围据点。同时，各部积极构筑工事，挖了数道通往敌据点前沿的交通壕。7日上午，据点内日伪军3次出击均被击退，伤亡30余人。下午宿迁日军企图增援，也被阻击部队击溃。当晚，新四军紧缩包围圈。第6团3连勇猛突破敌前沿阵地，占领3间房屋。日军反扑未果，双方形成对峙。8日晚，新四军攻击部队集中炮火，一举摧毁敌人的火力发射点，再次发起冲锋。经过激烈巷战，至9日2时将敌压缩在指挥所院内。在炮火支援下，各部协同突击，击毙日军中队长金井。余敌惊恐万状，于拂晓前放火烧屋，利用硝烟向西突围，当即被我军歼灭过半。沿着运河向西狼狈溃逃的敌人，被我军追击到郑楼一带，又遭遇打援的第4支队，激战中大部被歼灭，仅剩10余人窜回洋河镇据点。

林宫渡战斗历时三天，新四军以伤亡较小的代价取得完胜：击毙日军66人，俘5人，歼灭伪军90余人，缴获大量武器装备。此战极大鼓舞了宿泗地区军民的抗日热情。