康熙时期，社会趋于安定，扫除了前代明朝的一些积弊，居官清廉者不断出现。于成龙与张伯行是这一时期最有代表性的著名清官，被人们赞为“江南第一清官”，“天下廉吏第一”。
于成龙，字北溟，别号于山，山西永宁（今离石县）人。明万历四十五年（1617）八月二十七日，出生于一个富裕的乡绅之家，从小就受良好教育。崇祯十二年（1639），二十三岁时参加科举考试，仅得个“副榜”贡生。清顺治十八年（1661），进京备选，授广西省罗城县令，始登仕宦之途，这年，他已四十五岁。
罗城位于广西北部少数民族地区，万山峻岭，沟谷纵横，虎狼昼行无忌，四时毒雾迷天，瘴疠盛行，北方人视为绝境。加之瑶、僮（壮）等民族杂处，语言不通，纠纷时起，很难治理。于成龙受命时，罗城县几经战争蹂躏，已残破不堪。显然，把这个最荒凉、最贫穷而充满了危险的地方交给了于成龙治理，亲友们都为他担心。他却不以为然，说：“君命也，独不闻义不辞险耶！”行前，他在给友人的一封信中写道：“某此行绝不以温饱为念，所自信者，‘天理良心’四字而已。”于成龙明知前途多艰，仍毅然接受任命。他辞别泪流满面的母亲和妻儿，跨上一匹驴，带了四名仆人，离家上任。他涉历重重险要，行程六千余里，终于来到了罗城，只见遍地蒿草，荒无人烟，瘴雾弥漫，群山隐现。县城仅有六户人家，城无寸墙，衙门仅是茅屋三间，门窗皆无。他一到，马上砍篱棘，插地为门，在院中积土，当作几案，旁边挖坑做饭，炊具只有一锅一盆。
于成龙到任后，就实心做事。他做的第一件事，就是每天召吏民来“从容问所苦”，宣谕朝廷慰抚之意。在当时情况下，召集流亡百姓，保护他们安居，不再受战争袭扰，特别是打击盗匪的抢劫活动，使他们安心生活，就成了首先必须解决的问题。一发现有抢劫、盗窃等事件发生，立即命随从侦破，审讯属实，迅速做出处理。经此不断打击，抢劫、盗窃以及危害百姓的不法事明显敛迹，地方渐获安宁，百姓也开始安下心来。
与罗城邻近的瑶族头人酋长，经常到罗城一带杀掠，成为当地百姓一大祸患。于成龙到任后，组织一支乡兵，将其击退，追剿残敌，欲一举捣毁其巢穴。瑶人酋长非常害怕，发誓再也不敢侵犯罗城境。于成龙这时才下令停止进兵。百姓免去年复一年的惊恐，更安心于生产，专力耕耘。他体恤当地百姓疾苦，屡次请求上司放宽徭役的规定，减轻他们的负担，还想尽办法，从内地运进当地百姓急需的食盐，解决了人们生活的一大难题。诸事稍有头绪，他便兴建一处学宫，开展文化教育，培养人才。他创设了一座“养济院”，救济衣食无着、无亲故的贫穷人和无人侍养的老人的生活。于成龙面对现实情况，什么该办，什么该废，他都一一清理落实。原先一个残破毫无生气的罗城开始变得富有生机。
于成龙在罗城七年，全县面貌有了明显的改观，他与当地百姓也结下密切关系，受到他们的爱戴，亲“如家人父子”。在每次缴纳田赋时，他们总留出数钱放到于成龙的案桌上。开始，于成龙不明白他们的意图，便问此为何意？他们说：“阿耶（同爷）不要‘火耗’，不谋衣食，宁酒亦不买耶？”于成龙十分感动，仅留下够买一壶酒的钱，余钱全部退回。他的生活十分清苦，他的四个仆人忍受不了，有的离他而去，有的受瘴疠之害而死。罗城人很同情于成龙，每天早晚都去给他请安。有时还凑些钱献给于成龙，说：“知阿耶苦，我曹供些少盐米费耳。”他笑着回答：“我一人何须如许物！可持归，易甘旨奉汝父母，一如我受也。”谢绝了他们的好意。
有一天，于成龙家人来探望他，消息很快传开，罗城人高兴得奔走相告：“阿耶人来，好将安家去。”他们以为于成龙家人来此取钱，作生活之用，而于成龙一定缺钱，于是便凑了不少钱献上去。他婉言谢绝，笑着说：“此去我家六千里，单人携资，适为累耳。”让大家都回去。罗城人跪伏地上，感动得痛哭流涕，于成龙也忍不住跟他们一起哭了。最后还是不受他们的馈赠，劝他们把钱都收回去。
于成龙在罗城的政绩受到总督卢兴祖等人的赏识，向朝廷作了报告。康熙六年（1667），朝廷下达新的任命，提升于成龙任四川合州知府。这年，于成龙已经五十二岁了。罗城人得知他将要远调四川，倾城出动，都拦在路上，失声呼号，哭着说：“耶今去，我侪无天矣！”在于成龙起程之日，罗城人追送数百里，痛哭而回。有一个瞎子不肯回去，于成龙就问他为什么不走。瞎子说：我算计您袋中公费不够一千里途中用。我学过算卦，有这么点本事可以沿途挣点钱，以备不足之用。一席话，说得于成龙心里热乎乎的，就把他留了下来。由于阴雨连绵，在路上一再耽搁，钱也花尽了，多亏瞎子挣回些钱，做了路费，才使于成龙抵达合州。
合州这个地方，生活很困难，与罗城相比，也不差上下。这里经过明末农民战争、清兵进川，当地经济遭到严重破坏，百姓背井逃亡，州城仅剩下百余户人家。一年收缴正赋仅十五两白银，而供役相当繁重。于成龙到任后，立即着手整顿经济。他把一切不合理的规定和明朝遗留下来的弊政统统废除，招集百姓开垦荒芜土地，由当地官府贷给种子和耕牛，迅速恢复生产。他上任才一个来月，百姓纷纷迁回合州，骤增至千户。
不久，于成龙又被调到湖广黄冈（今湖北黄冈）任同知，驻岐亭。这里一向多盗，甚至白天公然行抢，却没有一个人敢于制止，闹得人心惶惶，生活不得安宁。于成龙意识到，此事关系到百姓生计，决定从捕盗入手，整顿州治。他首先招抚盗首彭百龄，赦免了他的罪过，令其捕盗自赎。他还不顾危险，亲自装扮成一个乞丐，打进盗贼之中，每天给他们打扫庭院，暗中观察他们的行迹。他住了十余天，完全掌握了他们的罪证，就脱身逃走了。他回到衙门，集合健壮捕快，亲自率领他们前去捕捉，一举将他们全部逮捕，审问完毕，将有血债的人处以死刑。经此打击，残余盗贼胆战心惊，纷纷逃离岐亭，地方从此获得安宁。
于成龙于公事之余，改穿便装，打扮成普通百姓装束，深入到各村堡，访查案件，体察民情，举凡当地情况，无不了若指掌。论事决是非曲直，办案依刑律，都准确无误。于成龙在黄冈的政绩，受到湖广巡抚张朝珍的器重，把他作为良吏向朝廷推荐。
康熙十三年（1674），于成龙再调任武昌知府。这时，正值吴三桂发动叛乱，叛军已推进至湖南境内，逼临长江南岸。局势变得非常严重。朝廷全力应付叛乱，所在地方官率当地军民配合清军同叛军作战。于成龙驻地武昌处长江中游，是一战略要地。他作为武昌知府，自然负有守土之责，并参加了平叛的实际斗争。康熙帝命平叛大军攻取军事重镇岳州，成龙的任务是为大军造一座浮桥，以保证大军顺利进军。但浮桥刚造好，恰遇上一场山洪爆发，将浮桥冲垮。此事关系重大，上司追究责任，将于成龙免职。
但是，于成龙很快又得到立功的机会。吴三桂在湖北各州县散发反清檄文，引诱清地方官吏投降，凡投降叛军的都给予任命札书。如麻城、大冶、黄冈、黄安等地占山为王的武装力量都响应吴三桂，倚山结寨，树起叛军的旗号。大冶县逃犯黄金龙、大盗周铁爪、原于成龙手下捕役刘君孚等人相互勾结，推邹君升为首，接受吴三桂伪札，占据曹家河公开叛乱，威胁清军后方。湖广巡抚张朝珍知道于成龙任黄冈同知时很得民心，就令他前去招抚。于成龙侦知刘君孚虽然叛变，尚犹豫动摇，首鼠两端，便决计先招抚他。成龙兼程前往曹家河叛兵营地，离此十里，寻地投宿。他立即发布通令，凡自首者皆免罪。叛兵看到成龙的通令，纷纷投顺，日以千计，都免于处罚。与此同时，于成龙派遣当地乡官向刘君孚当面传达他的爱护之意，约定只要投降，就予以赦免。接着，他骑上一匹黑瘦的马，只带随从二人，“张盖鸣钲”，直接去刘君孚的住处，呼唤刘君孚出来见面。刘君孚一见于成龙，拜倒在地，接受招抚。当即有数千人跟随刘君孚投降。于成龙令他们分区保护地方，并挑选精壮，命他们征讨叛军。黄金龙在曹家河无法立足，逃到纸棚河，与首领邹君升企图保住山寨。于成龙督率新降的精壮兵尾追不舍，终将邹君升与黄金龙活捉，把他们斩首处死。
张朝珍得到捷报，大喜，马上向朝廷奏报：“武昌知府于成龙等，督率官兵堵截，擒杀贼首，胁从余党，俱已安插。”康熙帝令“下部议叙”。批准张朝珍恢复于成龙职务的请求，提升他任黄州知府。
继收抚刘君孚，擒斩邹君升、黄金龙之后，于成龙又以巨大的勇气和深思熟虑的谋略，一举平息“东山贼”的叛乱。永宁乡何士荣、阳逻陈鼎业、石陂刘启业、泉畈鲍世庸与漏网的周铁爪各起兵数千人反清，号“东山贼”，他们依附吴三桂叛军，其中何士荣还受封为游击，纠结这几股叛兵，同清军对抗。他们遥与湖口、宁州诸土贼配合，图谋黄州。这时，各镇清兵大部进入湖南，屯驻荆州、岳州，与吴三桂主力对峙。而湖北地方空虚，黄州又为诸贼包围，形势危险，州中官吏主张退保麻城。于成龙不同意，说：“黄州，七郡门户，我师屯荆、岳，转运取道于此。弃此不守，荆、岳且瓦解。”誓死固守。他召集乡勇二千人，派遣黄冈知县李经政进攻阳逻，擒获陈鼎业，处死。何士荣率叛军自牧马崖分两路进犯。于成龙派千总罗登云率千人当东路，他自率一部当西路。又令千总吴之兰攻击其左翼、武举张尚圣攻其右翼，他则攻其中坚。战斗非常激烈，千总吴之兰牺牲，叛军得势进逼，乡勇被迫后撤。在此危险的时刻，于成龙一马当先，冒着矢石，向叛军冲去。他一边疾驰，一边对千总李茂升说：“我死，汝归报巡抚！”茂升被于成龙敢战敢死的精神所激励，率部奋力迎战，越战越勇。这时，张尚圣自右侧出叛军之后，与于成龙、李茂升合军夹攻，叛军大败，活捉何士荣。于成龙乘胜进军，收复泉畈。前后激战二十四日，“东山贼”被全部歼灭，叛军首领何士荣被押送到巡抚张朝珍处，斩首示众。张朝珍对于成龙勇平叛乱，保卫地方极为称赞，写成详细奏文，向朝廷报捷，力陈于成龙平叛之功。这件事给康熙帝留下了深刻印象，至数年后，即康熙二十年，于成龙进京陛见时，康熙帝还特别问起他在黄州任剿抚叛军的事，深表赞赏。
康熙十六年，于成龙从黄州知府升任黄州江防道。次年，再升至福建按察使。成龙每在一处为官，必得当地百姓爱戴。当调任他去福建任按察使，广大士民一再恳请将于成龙留下。在他离去之时，蕲黄及周围邻郡人“沿岸遮送至九江”，数万人“哭声与江涛相乱”，成龙也感动得流泪，目不忍视。不久，成龙又调任布政使。康熙十九年，升任直隶巡抚，第二年，再升至江南江西总督。这时，他已经是六十五岁的老人，成为朝廷的一员封疆大吏，地位显赫。
尽管于成龙官越做越大，但他勇于任事的锐气不减，仍以重民命为宗旨，关注民间疾苦，尽自己权力所及，不断为民请命。当郑成功入据台湾后，朝廷严行海禁，封锁郑氏与沿海人民的来往。地方官吏动则以“通海”之罪，随意逮捕沿海渔民，株连数千人，皆判处死刑。于成龙此时正在福建按察使任上，而康亲王杰书率军驻福州，维持耿精忠乱后的社会治安。于成龙便去见杰书，力陈 “通海”各案所涉及的人多是平民，应予释放。但地方大吏们以案已定，不好更改，感到为难。于成龙声色俱厉地用手一指庭堂中被审的妇女儿童，说：“此曹皆何辜乃撄斧锧？皇天在上，人命至重，吾誓不能缄阿从事！”杰书久闻成龙盛名，此时听了他的慷慨陈词，“悉从其请”，使千百无辜百姓得以活命。
清军入福建，平耿精忠之乱，乘机劫掠很多良民子女为奴婢。于成龙从各方面集资，用这笔钱把他们都赎出来，各归自己的家乡。因为岁数太小而一时不能归家的，就把他们集中到衙署中养起来，达千余人，过一段时间，用船把他们送到父母或亲戚家。当于成龙一到直隶巡抚任，就训诫所属各州县不得私加火耗银，馈赠上司。私加火耗银，是当时官吏搜括民财的一个重要手段，实为清初的一大弊政。他们任意私加火耗银，除了自己贪占，还拿出一部分，进献给上司，以图保官和升官。农民大受其害，怨声载道。成龙起自基层，洞悉官场之弊，特制定法令予以严禁，并约束各级官吏相互监督，不许挟嫌告讦。他上疏请求严定处分办法，康熙帝批准执行。
于成龙在总督任上，年近七十，以很大的魄力“革加派，剔积弊”，每天办事常常是通宵达旦，而不知疲倦。他继续保持深入民间调查的习惯，常穿便服，独自一人到各处体察民间疾苦，考核属吏的表现。他为官二十余年，一向清廉任事，不改初衷，贵在始终，这在封建主义时代的官吏中颇为难得。