他由于推行廉政得罪了权臣明珠等人，而被御史弹劾“小人播弄”、“污蔑各官”，但康熙皇帝认为“居官（清廉）如（于）成龙者有几？”，并没有严厉处分，仍让他留任总督。康熙二十三年（1684年）四月，于成龙病逝于南京，据清人笔记记载：“除故衣破靴外无他物”、“清俭之节固千古所未有”。康熙皇
