由于曾国藩在奏折中始终提“团练”，并未提重建新军，咸丰很痛快地答应了。
咸丰的同意并未让曾国藩彻底安心，几天后他又上了一道奏疏说，我是守孝出山，心里极不安定。等长毛贼安静后，我还要回家继续守孝，希望那时请皇帝恩准。
咸丰很高兴，说：“曾国藩真是忠孝两全”，于是回曾国藩说，“你不可胡思乱想，要专心办那个什么大团，只要长毛贼消停了，我必准你回家守孝。”
曾国藩长出一口气，踌躇满志地开始下一步计划。这个计划用一个字就可表述：杀。
就地正法
编练新军是攘外，古语曰过，攘外必先安内，曾国藩的“安内”没有文化育人的成分，因为是非常时期，文化育人效果缓慢。所以他的“安内”就是屠刀。一到长沙，他就以团练大臣的身份向湖南各地发出文告，严令各州各县迅速从严剿办土匪，这个光荣的任务交给了当地的团练头子。他对这些人严肃地说：“自从长毛匪叛乱以来，各省一些刁民坐观天象，跃跃欲试，再不想做人而要做匪。对于这种人，就该像理学家祛除人欲一样，只要稍有苗头，当头一斧，绝不客气。至于苗头是什么样，你们有眼有心，眉眼不顺的人必是土匪坯子。倘若你们力量不够，那就赶紧来长沙通知我，我派兵去协助你们。”
有人提出质问：“县城还好，各个乡村没有那么多监狱，该如何关押这些土匪？”
曾国藩回答：“湖南这鸟地方多年来刑法不严，很多罪犯本该处以死刑，地方官却老虎念佛珠，假慈悲。天道循环，他们早就欠下的债现在到了还的时候，一旦捉到土匪，不必讯问不必关押，就地正法！”
湖南各地如此，长沙同样如此。曾国藩原本是让长沙各地的团练头子捉到土匪后捆送长沙第一县善化处决，可一段时间后，他发现善化县杀的土匪并不多。这让他暴跳如雷，怒中生智，他在团练大臣的公馆内设了审案局，说是“审案”，其实根本不审。对团练头子们捆绑而来的“土匪”，既不依照法律条文，也不需任何证据，只要团练头子说对方是土匪，曾国藩再看一下对方的面相，马上结案。面相过得去的立即砍头，面相不好的可就倒霉了——活活被鞭死。曾国藩设立的审案局对那些相貌不佳、贼眉鼠眼的人而言就是阎王殿。
曾国藩后来以善于相面著称，这项本领大概就是在湖南长沙审案局学来的。
审案局虽是阎王殿，可曾国藩毕竟不是真的阎王爷，百姓对他咬牙切齿，社会舆论也对他口诛笔伐，他的朋友们为他担心起来，这其中就包括他认识不到一个月的左宗棠。
左宗棠，1812年生于湖南湘阴，比曾国藩小一岁，天资卓越，少负大志，读遍经世致用书籍，但科举之路走得很不顺，直到1852年投奔张亮基时还是个秀才。但他的确才能卓越，由此成了张亮基的灵魂。
曾国藩初到长沙和张亮基见面时，左宗棠就在。那天的情景让曾国藩大跌眼镜，整个谈话过程都是左宗棠在谈，张亮基像个木偶，只是恰到时机地点头而已。张亮基后来问曾国藩：“左宗棠这人如何？”曾国藩想了想，回答：“高人，滔滔不绝，言必有中。”张亮基又背地里问左宗棠：“曾国藩这人如何？”左宗棠脱口而出：“正派而肯任事，但才具似欠火候。”
左宗棠这一评价是出于曾国藩反应缓慢、行动迟钝、谨慎内向，极为中肯。现在，左宗棠来找曾国藩，单刀直入道：“稳定内部，未必非要如此。”
曾国藩回答：“乱世用重典。”
左宗棠一笑：“外面有人说你是曾屠夫、曾剃头。”
曾国藩梗着脖子：“我不在乎，这是时势造成的，我只是顺应时势。”
左宗棠冷笑：“我知道你的深意。”
曾国藩两眼无神地望着左宗棠，左宗棠侃侃而谈：“你想制造白色恐怖，让百姓不敢接近太平军，由此孤立太平军。第二，你要杀一儆百，让那些不安定分子趁早打消闹事的想法。第三，你是为土豪撑腰，让土豪把大部分百姓压制下去，这样就减少了大部分不安定因素。”
曾国藩像是听到天外梵音一样，震骇当场，连眨眼都忘了。其实左宗棠为他总结的杀人理由，他自己从未想过。这使我们想到，有人随意写了篇小说，当他成名后，无数人就跑来研究他的这篇小说，最后得出各种各样的深奥道理。
左宗棠的话让曾国藩回想，或者说是尽力验证。他想到几天前听到太平军进入江西，无数百姓箪食瓢饮迎接太平军时，他暴跳如雷说：“要剿匪，先把这些刁民宰了！”他又想到有个乡村的团练头子和他诉苦，他们乡里刁民特多，一听到长毛匪造反，这些刁民在大街上开始横着走路。他咆哮着说：“刁民刁民，该死该死！”他最后想到有位官员的报告：“自您来后，虽然那群刁民的嘴巴不干不净，可行为却老实多了。“曾国藩抚掌一笑：“杀一儆百真是屡试不爽。”
脑海里翻江倒海了一遍，曾国藩确定左宗棠的总结真是严丝合缝。他正要站起来感谢左宗棠，左宗棠却先他而起说：“你呀，最好先给皇上写封奏疏，让皇上支持你的屠杀政策，不然……”
曾国藩急忙从枕头底下抽出事先写好的奏疏，递给左宗棠要他指教。左宗棠也不客气，展开大致一看，如同夸奖小学生答对了题一样说：“不错，可教也。”
左宗棠把信还给他，转身就走，曾国藩愣了一下，突然叫住左宗棠：“您刚才说‘不然’，什么意思？”
左宗棠压低声音：“你以为你只得罪了百姓吗？”
曾国藩迷惑地睁大眼睛，看着左宗棠，不发一言。
左宗棠以一副恨铁不成钢的口吻问道：“你得罪了更危险的人难道不知道？”
曾国藩正要沉思，左宗棠急忙拦住他：“别想了，你一想起事情来太浪费时间，我还有事，等你想好了，再来找我。”转身欲走，又停住回过头来，“不过你想明白了，就不会找我了。”
曾国藩像个愣头小子被人无缘故抽了个嘴巴，站在原地迷茫困惑，眼睛在左宗棠的背影上留了许久。
几天后，曾国藩接到了咸丰的回信：“匪徒繁杂，你要严肃认真、不计代价地消灭。你这种模式如果反响不错，就要推广南中国，好好干！”
曾国藩万分高兴，只是高兴那么一回，就又想起左宗棠的那些话。这个左宗棠，曾国藩想，实在让人厌恶，有话不直接说，害我伤了很多脑筋。
其实左宗棠要说又没说的正是曾国藩即将面临的重大难题，就在左宗棠和他谈话的几天前，郭嵩焘和他谈起审案局时说，“善化县的县长对您夺了他的审讯权很不满呢。”
曾国藩说：“非常时期就要有非常举措，善化县县长不该有这样的想法。”
“这是什么话，你把人家权力夺了，还不让人家有意见？”郭嵩焘见他没明白其中的危险，又说，“整个湖南官场都对你有意见。”
曾国藩冷笑：“他们做事愚蠢，拖拖拉拉，对我有意见又如何。不怕，有张巡抚在。”
左宗棠和他谈话的几天后，郭嵩焘气喘吁吁地跑进来，上气不接下气地说：“糟了。”
曾国藩平静如水：“何事这样惊慌？”
“张亮基要走！”
“去哪？”
“被调走当湖广总督去了。”
“哇呀呀，”曾国藩脸色大变，但立刻就恢复平静。他意志坚定，一字一顿地说，“看来，只能靠自己了。”
打脱牙和血吞
张亮基是曾国藩的贵人，没有张亮基的大力支持，曾国藩的“大团”不可能顺利建成。曾国藩是那种认准目标就不顾一切的人，本以为有张亮基这个湖南一把手当靠山，就万事大吉。所以正如左宗棠所说，他得罪的不仅是湖南百姓和匪徒，还有湖南的官场。
设立审案局，处理杀人案件就地处决，是对湖南司法机关（提刑按察使司）的公然蔑视和侵越；让“大团”和绿营军一起操练，这是对提督权力的蔑视与侵越。他在官场多年，当然懂得权力界限和运作方式，为何还要这样做，一是有张亮基的支持；二就是，认准目标不顾一切的性格。在他看来，自己的所作所为是利国利民的，所以承受任何风险都无所谓。
张亮基走后，继任巡抚的叫潘铎，潘铎和新任布政使（主管民政的副省长）徐有壬以及按察使（司法部长）陶恩培对曾国藩是一肚皮不忿。曾国藩心知肚明，但却假装不知，依旧我行我素。
四人的争吵就成了家常便饭，但每次都是曾国藩胜出。因为每当三人轮番向他攻击时，他用沉默应对，正襟危坐，闭目养神。三人喊得唇焦舌敝，四处找水喝时，他才慢悠悠地站起来说：“三位慢喝，我要去练兵了。”
就当三人对曾国藩时刻咬牙切齿时，领导班子又发生变化，张亮基之前的湖南巡抚骆秉章卷土重来，再成巡抚。骆秉章比潘铎的度量大那么一点，并不太为难曾国藩，但也不给曾国藩好脸。曾国藩也不攀附他，只用一颗平常心对待。
曾国藩并不担心三人弹劾他，因为他所做的一切都是经过咸丰批准的，这就叫胸有成竹。但事故没有发生在湖南三大员那里，而发生在湖南军界。
按常例，清帝国各省绿营兵受总督管理，巡抚以及其他文官，如果不挂提督衔，是无权干预绿营军务的。曾国藩是个四不像的团练大臣，更是没有资格。可他非要有资格，初到长沙，顺利把“大团”插进绿营军中后，他就在绿营中聘请教头操练“大团”。其中有位教头是绿营中的低级军官，满人塔齐布，此人英勇果敢，没有绿营军官的腐败习气，所以很得曾国藩赏识。
塔齐布多年来在军营始终不得志，终于盼来了曾国藩这个大贵人，自然全力以赴帮曾国藩。曾国藩也没有辜负他，一个月内，连上三道奏疏保举塔齐布。于是，塔齐布由一个默默无闻的低级军官一跃而成为参将（仅次于副总兵）。塔齐布的升职让原本是民兵部队的“大团”有了正式军官，对于后来的湘军而言，是个质的飞跃。
塔齐布对曾国藩是感恩戴德，所以训练起“大团”来使出了吃奶的力气。在他的精心训练下，“大团”频频出动剿匪，1853年5月，“大团”出了湖南奔赴江西，和太平军狠狠打了一架。虽然罗泽南的几个门生都阵亡，可曾国藩却喜出望外，因为“大团”可以独立作战了。
这场战役也让“大团”在湖南长沙的绿营军中声名鹊起，绿营军本身不能打仗，所以看不得别人能打，双方摩擦起来，火星在飞速酝酿中。
让火星迸出的是曾国藩本人。他以团练大臣的身份对湖南军界发布一道命令：驻省正规军每三、八两日要与“大团”一起会操。驻长沙的绿营兵军纪败坏透顶、四处扰民，曾国藩要这些人会操为的是对他们进行纪律教育，目的是唤醒他们的良知。每当会操时，曾国藩站在高处，喊破了嗓子呼唤他们的良知，可绿营兵的良知关起门来睡大觉。
曾国藩相信只要功夫深，铁棒能成针。精诚所至，金石都会开。他让绿营兵加班听他的教诲，真是苦口婆心、语重心长，像教育自己不成器的儿子。曾国藩不明白一点，别和猪谈哲学，你浪费时间不说，猪还不高兴。
1853年夏，长沙酷热如下了天火。最热的一天，曾国藩下令绿营兵在操场集合，他要文化育人。长沙政府军福将清德忍无可忍，站在军营前骂街。曾国藩不动声色地听着清德扯着破锣嗓子骂街，过了好一阵，悄无声息。曾国藩擦了把汗，坐到桌前写信，信写给湖广总督张亮基，内容是商讨弹劾清德。这自然而然地就得罪了巡抚骆秉章。第二天把信一送出，他又发布命令：“绿营兵在操场集合，我要文化育人。”
清德照例又站到军营门口，破口大骂。由于昨天伤了嗓子，所以今天的骂街没有持续多久。但今天和昨天不同，清德骂完后没有进军营，而是跑到了湖南提督鲍起豹那里，满脸通红、沙哑着嗓子说道：“没法活了。这么热的天，他居然还要训话，这不是把人往死路上逼吗？”
鲍起豹拍案而起：“曾国藩这厮，拿鸡毛当令箭。传我话，以后谁他妈敢去操练，就宰了谁。”鲍起豹因在之前的长沙保卫战中立下犬马之劳，所以越发刚愎自用，不可一世。而清德也是狗仗人势，得了鲍大人的“鸡毛”，胆气冲天，就在军营前大声宣传了鲍起豹的话。
曾国藩在房间里拼命地打着扇子，听完清德的破锣嗓子后，平静地坐到桌子后写信，仍是弹劾清德。这一回起了效果，清德被革职。塔齐布兴高采烈地跑来向曾国藩贺喜，曾国藩却神色凝重起来。他嘱咐塔齐布：“清德被革职，绿营兵必对咱们怀恨在心，所以万事小心，千万不可出岔子。”
塔齐布不以为然，他说：“绿营兵向来欺软怕硬，杀了清德这只鸡，他们肯定噤若寒蝉。况且咱们有支独立的军队‘大团’，怕他们做什么。”
这是实话，曾国藩现在有支属于自己的军队“大团”，他不担心在长沙会有事。但他还是有一种不好的感觉，这种感觉如游丝，看不见，却分明感觉得到。
1853年7月末，太平军围攻南昌，南昌告急、江西告急、湖南告急，巡抚骆秉章慌忙召开紧急军事会议。曾国藩说，“南昌一旦沦陷，太平军必会逼入湖南，长沙就危急了。与其坐等长毛贼来把长沙变成战场，不如把战场挪出省外，派军去南昌。”
骆秉章连连点头，曾国藩说出了自己的计划，“派绿营军出省支援南昌，“大团”协同作战。”
一听这话，提督鲍起豹把身子向后一仰，阴阳怪气地说：“曾大人真是贵人多忘事，前段时间还说我们绿营兵不能打，怎么现在又能打了？”
曾国藩板起脸来：“鲍大人，这是正事，怎可推脱？”
鲍起豹“腾”地站起来，真像一头豹子，提高了声音：“你不是有‘大团’吗？恕我直言，你的‘大团’肯定能打，绿营兵不奉陪。”