靳辅治河，除了每年经常的水患之外，从治理的成就来看，康熙二十二年以前基本上解决了黄河、淮河复归故道的问题，而自康熙二十三年以后进入一个新阶段。这时期的目标是，一方面巩固已有的成果；另方面则寻找永久性的修筑措施了。正是由于不断遇到新的水患和如何建筑永久性的措施，又引起了更加激烈的争论。
康熙二十三年（1684）十月，三十一岁的康熙帝南巡。十七日到达山东郯城县红花铺。作为总河的靳辅与总漕邵甘及郯城知县方殿元等到康熙帝驻跸的地方朝见皇帝。然后靳辅扈从康熙帝在河、淮之间，详视黄河、淮河、运河的水势、灾情及治河工程进展情况。二十一日，康熙帝特对靳辅讲了自己的感受和对治河的意见。他说：“朕向来留心河务，每在宫中细览河防诸书及尔屡年所进河图与险工决口诸地名，时加探讨。虽知险工修筑之难，未曾身历河上，其河势之汹涌漶漫，堤岸之远近高下，不能了然。今详勘地势，相度情形，细察萧家渡、九里冈、崔家镇、徐升坝、七里沟、黄家咀、新庄一带，皆吃紧迎溜之处，甚为危险。所筑长堤与逼水坝，须时加防护。大略运道之患在黄河，御河全凭堤岸，若南北两堤修筑坚固，可免决啮，则河水不致四溃。水不四溃，则浚涤淤沙，沙去河深，堤岸益可无虞。今诸处堤防虽经整理，还宜培茫增卑，随时修筑，以防未然，不可忽也。又如宿迁、桃源、清河上下，旧设减水诸坝，盖欲分杀涨溢。一使堤岸免于冲决，可以束水归漕；一使下流少轻，可无淮弱黄强、清口喷沙之虑。近来凡有决工处所，皆效其意，不过暂济目前之急。虽受其益，亦有少损。倘遇河水泛溢，因势横流，安知今日之减水坝不为他年之决口乎？且水流浸灌，多坏民田，朕心不忍。尔当筹划精详，措置得当，使黄河之水顺轨东下。水行沙刷，永无壅决，则减水诸坝皆可不用。运道既免梗塞之患，民生亦无垫溺之忧，庶儿一劳永逸，可以告河工之成也。”
康熙帝这番讲话非常重要，一则通过他的实地考察对河患有了切身感受，增强了他对靳辅治河的理解与支持；二则由于亲眼看到靳辅治河已有的效果，给了充分的肯定；三则对以后应采取的措施，提出了原则性的意见。靳辅听了康熙帝的讲话，立刻表示了看法。他说：“黄河为患最大，为功最艰，目前急务，不得不治其大而略其小，故借减水诸坝，使决口水分势弱，人力易施。待黄河尽复故道之后，臣当更议筑塞减水诸坝。”靳辅把问题引到更实际的地方，指出他从事治河的艰难性质，说明先用减水坝解决迫切的大水患，然后再图长远，塞住减水坝。康熙帝这次南巡还看到治河民工很艰苦，指示靳辅不能让贪官污吏克扣工食，对他们应加意轸恤。十一月十四日回来的路上，康熙帝把所著《阅河堤诗》亲洒翰墨，赠给靳辅。诗说：“防河纡旰食，六御出深宫。缓辔求民隐，临流叹俗穷。何年乐稼穑？此日是疏通。已著勤劳意，安澜早奏功。”这首诗反映出，康熙帝把治河看做一件大事，当他看到沿河人民生活非常穷困的时候，认识到只有把黄河治好，人民才能安居乐业。他勉励靳辅在已有的成就基础上，朝着大功告成的目标前进。靳辅得到皇帝赠诗，受宠若惊，决心“效犬马之报”。
靳辅根据康熙帝解决防止减水淹民的指示，在宿迁、桃源、清河三县黄河北岸堤内开了一条新河，称为中河。再在清河西仲家庄建闸，引栏马河减水坝所泄的水入中河。这条河，上接张庄口及骆马湖清水，下历桃、清、山、安，入平旺河达海。漕船初出清口浮于河，至张庄运口。中河修成后，得自清口截流，迳渡北岸，度仲家庄闸，免去走黄河一百八十里的险路。这项工程于康熙二十五年动工，至康熙二十七年完成。历史上称赞靳辅开中河好处极多，建立了不朽的功绩，“中河既成，杀黄河之势，洒七邑之灾，漕艘扬帆若过枕席，说者谓中河之役，为国家百世之利，功不在宋礼开会通，陈瑄凿清江浦下。”
这时靳辅仍主张再修一些减水闸，而康熙帝认为减水闸有益河工无益百姓，命他详加考虑。康熙二十四年秋，靳辅以河南地在上游，如有失误，江南必将淤淀，又筑考城、仪封堤，封丘荆隆口大月堤，荥泽埽工等。在睢宁南岸龙虎山凿了减水闸四个。不久，一场新的治河之争就开始了。
引起争论的原因和康熙帝大有关系。他看到高邮、宝应等州县湖水泛滥，使广大民田被淹，提出要把这些地方减水坝泄出来的水引到海里。其实这也正是由于靳辅取得了治河的一定成就，使一些人，包括康熙帝，提出了更进一步的要求。康熙帝任命安徽按察使于成龙主持其事，但是仍受靳辅领导。在修治海口及下河问题上，于成龙和靳辅发生了分歧，他俩也是这场争论的主要代表人物。于成龙主张疏浚海口以泄积水，靳辅则认为，下河海口高出内地五尺，疏海口引潮内浸，害处更大。他建议自高邮东车逻镇筑堤，历兴化白驹场，束所泄水入海，堤内涸出的土地，丈量以后还给人民，剩余者招民屯垦，收取佃价，作河工费用。此议传到康熙帝那里，怕取佃价，人民负担不起，没有被立即批准。
康熙二十四年十月，靳辅连奏三本，一是挑浚高、宝等七州县下河令入海；一是帮筑高家堰堤岸；另一是修理黄河两堤。这里靳辅所持的观点，多与康熙帝及众人不同。康熙帝以事关重大，乘寒冬之季，河工有空闲时间，决定召靳辅及于成龙速到京师，会同九卿详加讨论。这次讨论持续时间很久，第一次的讨论从十一月二十日至二十二日，连续三天。第一天，内阁大学士明珠向康熙帝奏报河工事宜，着重介绍靳辅主张开大河，建长堤，高一丈五尺，束水一丈，以敌海潮。于成龙提出开浚原来的河道。二人所议不合，各持己见。提到会上与九卿会议，大家以为于成龙虽是著名清官，但对河工未经阅历，靳辅久任河务，已有成效，应采纳他的意见。但通政使参议成其范、给事中王又旦、御史钱珏等支持于成龙，认为他的意见更有道理。汉大学士王熙只评论“于成龙所议是一旧说，靳辅所议是一创建之策”。汉学士徐乾学明确表示，靳辅之议可行，韩菼则赞成实行于成龙的方案。康熙帝说两人之议似乎都可以成功，但不知哪个对人民更有好处？令询问下河高、宝、兴、盐、山、江、泰七州县现任京官的人，让他们说哪个好？第二天继续讨论，来自江南的学士徐乾学还是提出靳输久任河工，屡著成功，举朝皆以为是，应从靳辅之议。有位翰林侍读，名叫乔■，江北宝应人，他反对靳辅之议，说那样工既难成，又伤损民田、房屋、坟墓甚多，且堤高一丈六尺，束水一丈，比民间房檐还高，伏秋之时，一旦溃决，百万生灵俱为鱼鳖，如何使得？若依于成龙之议，工也易成，百姓有利无害。康熙帝倾向于成龙，说他“所请钱粮不多，又不害百姓，且著他做，做得成固好，即不成再议未迟”。第三天，九卿等就乔■所上折子进行讨论。康熙帝问，是否乔■一人之议，大学士们回答说，在京官员十一人皆同此议，而且说明他们都无房屋、田地在那个地方。康熙帝让大家各抒己见，他们表示难以定论。最后决定派工部尚书萨穆哈、学士穆成格会同总漕徐旭龄、江宁巡抚汤斌速到淮安、高邮等地详问地方，二十天内回奏。康熙二十五年二月初一日萨穆哈等返回，开始了第二次的讨论，又进行了三天，最后根据萨穆哈对调查的反映，认为挑浚海口无甚利益，应停止下河工程。康熙帝对此结论不甚满意，勉强同意暂时停止。四月，江宁巡抚汤斌升为礼部尚书，他一改初衷，大谈开浚海口的必要性，说“开一丈则有一丈之益，开一尺则有一尺之益”，还提出具体办法，“以本地民力，本地钱粮，开本地海口”。经他这么一议论，朝廷主张开海口的人多了起来。康熙重新又追究萨穆哈等调查之后没有如实反映情况，在九卿会议上令二人跪下来回答问题，嗣后又将其解职。经过反复争论，清廷决定开下海，任命礼部侍郎孙在丰主持其事。
这场争论对靳辅极为不利，即不但否定了他的意见，而且使康熙帝对他的信任发生了一定的动摇，当然也引起了更多的人向他展开猛烈攻击。如开海口的争论尚未结束，工部就提出靳辅治河已经九年，未获成功，糜费钱粮，应交部里严加议处。康熙帝说：“河工重大，因一时不能成功，即行处分，另差人修理，恐反致贻误。且俟一、二年后，看其如何？”得到皇帝的谅解，靳辅免遭革职处分，仍留原任。但康熙帝已认为他言语浮夸，说的不能完全兑现，便再寻找别的良法了。
此波未平，康熙二十五年年底又掀起堵塞减水坝争论之波。孙在丰提出他主持的下河工程，先从海口挑石■等处开始，如遇水势稍减，需将减水坝全部闭塞。康熙帝知道此议与靳辅会发生矛盾，就令两人商议。朝廷有人提议让两人来京辩论，康熙帝决定只令靳辅来京。第二年正月，靳辅至京，回答了内阁及九卿官员所问开下河塞水坝的问题。这些人把靳辅的回答写成折子，十七日交帝阅后，康熙帝问在场官员意见如何？他们反映，靳辅同意可塞减水坝五六处，而高家堰之坝断不可塞。康熙说，塞小坝无意义，关键是塞高家堰大坝。又找靳辅到会面问。会上汤斌主张可塞高家堰，伊桑阿模棱两可，靳辅反对，并讥刺汤斌不懂河工之事。第二天再议，康熙帝问靳辅：“黄河南岸毛城铺一带闸坝可否闭塞？”答： “永塞不便，一年可以。”又问：“既闭之后，可减水势几分？”答：“春夏间可减十分之四，秋冬可减二分。”康熙帝说，能减几分也好，“高家堰之坝也可闭塞”。靳辅虽然又提出几个小问题，表白自己无意与孙在丰为难，但清廷就此决定本年暂塞高邮州、高家堰诸闸，来年堵塞黄河以南诸堤坝。这也使靳辅越来越陷入被动。
靳辅按照自己的考虑，为解决下河地区的水患，在这年的七月上疏提出建重堤，这又导致一场争论。靳辅在奏疏中先从历史上论证高邮、宝应诸湖，宋元以前原是一片良田，在他堵筑清水潭时曾从河底发现过古钱及砖井石街。洪泽湖过去是清河县的洪泽村，因黄河改道使淮水壅不得下而造成的，高邮、宝应诸湖是由高家堰、翟家坝旁流东注的结果，从此良田变为汪洋，为患下河。又以实测说明，运堤比高家堰堤顶低一丈多，因此建减水坝，在堰堤泄水一千方，在运堤则可泄水一千二百方，这使过去三遭大涨而运堤安然无恙。进而指出，运堤所泄之水，以下河为壑，下河之东即大海，浚海口似可缓解水患，但在清江浦至海的南北千余里范围内，只有庙湾、天妃、石■三口为过去泄水入海之处，其余皆可以驰马之路，中间的泰州安丰、东台、盐城诸县，地势卑下，形如釜底，止就釜底挑挖，只能增加釜底的深度。如淮水盛涨，高家堰泄水汹涌而来，仍不能救被淹的民田。然后明确提出他和幕友陈潢设计的办法，即自翟家坝起，历唐埂、古沟、周桥闸、高良涧、高家堰，筑重堤一道。此工一成，好处极多，不仅使东堰堤减下之水北出清口，洪泽湖之水不再淹下河，下河十余万顷之地可变沃产，高宝诸湖皆可涸出田地数千顷，再召人屯垦，可充实府库，而且此堤还可以保护高堰，并使行于堤内河上的商民得到便利。在这篇奏疏中，靳辅专门说了些推荐陈潢的话。
靳辅的这篇奏疏一呈上，廷议同意他的意见，还给陈潢加上了佥事道衔。当时于成龙已任直隶巡抚，康熙帝令将靳辅奏疏给他看看，征求他的意见。于成龙仍坚持“下河宜挑不宜停，重堤宜停不宜筑”，彼此完全对立。一时议而不决。十月十七日，康熙帝在南苑行宫看了靳辅的题本，以挑河事关重大，命户部尚书佛伦等会同两江总督董讷、总漕慕天颜详议。结果董、慕两人对靳辅之议持反对意见，佛伦等主张用靳辅之议。十二月回奏，康熙帝命下廷议，恰值太皇太后逝世，暂时中止了讨论。