曾国藩将对士兵的思想教育称作“训家规”和“训营规”。每逢操练日，曾国藩亲临校场讲话， “如父母教子，有殷殷望其成立之意”，训禁扰民、禁嫖赌、禁鸦片，又向士兵发放“四书”等，把兵营当作学校，加强封建伦常教育。曾国藩还编《保守平安歌》、《爱民歌》等宣传鼓动性强的歌谣，让湘军兵勇传唱。
如此种种，儒家伦理思想潜移默化地融进将士的灵魂里，使全军在思想上达到统一。 曾国藩痛恶八旗绿营彼此”败不相救”，“彼营出队，此营张目而旁观，哆口而微笑。见其胜，则深妒之，恐其得赏银，恐其获保奏；见其败，则袖手不顾，虽全军覆没，亦无一人出而援手拯救于生死呼吸之顷者。”为此他制定的湘军建军标准是：“呼吸相顾，痛痒相关，赴火同行，蹈汤同往，胜利举杯酒以让功，败则出死力以相救……吾官兵亦当有誓不相弃之死党。”在《要齐心》歌谣中，曾国藩又再三重申：“只要齐心不可当……纵然平日有仇隙，此时也要解开结……百家合成一条心，千人合做手一双。”又写《忮求诗》教育将士消除彼此间的嫉妒之心。
由于曾国藩的种种设置和努力，湘军终成“齐心相顾，不肯轻弃伴侣”的战斗群体。 一个集体或团队齐心合力之“和”是其成功的基本。一旦结成凝固的利益关系，就会痛痒相关，荣辱与共了。攻占南京、平定太平天国前后，是曾国藩湘系集团极盛时期。四年多时间共有21个湘军集团首领先后出任督抚，成为封疆大吏，把持清政府半壁江山。他们编织成一个特殊的关系网，呼吸相从，祸福相依，成为晚清实际主政的势力。