后来曾国藩根据自己的办事经验，总结出“天下事当于大处着眼，小处下手”这句名言。咸丰九年(1959)十月，他在给一位朋友的信中说：
近年军中阅历有年，益知天下事当于大处着眼，小处下手。陆氏(陆九渊)但称先立乎其大者，若不辅以朱子(朱熹)铢积寸累功夫，则下梢全无把握。故国藩治军，摒去一切高深神奇之说，专就粗浅纤细处致力，虽坐是不克大有功效，然为钝拙计，则犹守约之方也。 在实践上，曾国藩凡事都从全局、大处考虑，但小处的具体步骤又有条不紊，极有章法。他一生中坚持早起，每日必读数页书，坚持亲自写家书、批文稿，以勤俭自戒，从不敢违背。正是在这些小事上能认真对待，才保证了宏大目标的实现。
在用兵治军上，曾国藩也是从小事抓起。咸丰八年(1858)，他教导刚刚从军不久的弟弟曾国荃说：“治军总须脚踏实地，克勤小物，乃可日起而有功。”所谓脚踏实地、克勤小物，正是说从小处、实处做起。曾国藩治军，不仅一切营制、规则、将领选拔任用都亲自决定，就是训练他也一手抓起。他经常亲临训练场，指挥训练，亲自进行思想工作。当时湘军的《爱民歌》、《水师得胜歌》等，都是他亲笔起草。