面对日军步步往南京紧逼，九月五日，蒋介石正式发表《****退出南京告全国国民书》，重申抗战到底的决心：
此次抗战，开始迄今，我前线将士伤亡总数已达三十万以上，人民生命财产之损失，更不可以数计。……就中国本身论之，则所畏不在鲸吞，而在蚕食，诚以鲸吞之祸，显而易见，蚕食之祸，缓而难察。……且中国持久抗战，其最后决胜之中心，不但不在南京，抑不在各大都市，而实寄于全国之乡村与广大强固之民心；我全国同胞诚能晓然于敌人鲸吞无可幸免，父告其子，兄勉其弟，人人敌忾，步步设防，则四千万方里国土以内到处皆可造成有形无形之坚强壁垒，以制敌之死命……
当日下午，蒋介石准备飞离南京前往武汉大本营，但是就在他要登上飞机的时候，留守南京的卫戍司令罗卓英匆匆赶来机场，请求辞去南京卫戍司令一职，起初蒋介石还以为罗卓英贪生怕死，直到听完罗卓英的解释，这才释然，原来，罗卓英上任之后，留守南京的十五万****并不服从他的调遣与安排，因为罗卓英自身的资历与威望不足，弹压不住。
蒋介石眉头一皱，本来最理想的卫戍司令官是唐生智，当初军事会议上，就是这个唐生智慷慨陈词，誓与南京共存亡，让他自己颇为意动，但中共代表不同意，这让他大为头痛，就在这时，心腹爱将张治中突然请缨愿意留下，蒋介石自然不舍，这可是自己的心腹爱将啊！于是道：“文白，你可是我身边的得力助手，我蒋某人离不开你啊！”
张治中郑重地道：“校长，国家山河破碎，治中不敢独善其身，唯有尽忠报效国家！南京虽守不住，但是治中愿意留下予敌有生力量以巨大杀伤。请校长同意治中请命！”
蒋介石还是有些犹豫，旁边的晏道刚道：“委座，张将军难得一片精忠报国之心，留下也无不可！更何况，以张将军的威望和资历，也就只有他能镇住那些骄兵悍将！而且，中共方面周恩來与张将军素来交好，也必然会同意的！”
蒋介石忍不住道：“这个道理我又何尝不知，但是日军来势汹汹，我实在是担心文白安危啊！”
张治中闻言感动地道：“谢委座关心，此次保卫南京的战略方针，国防部已经确定，是以杀伤日军有生力量为主，不计较一城一地之得失，只要完成了这个任务，治中会撤退的！”
蒋介石有点意动，旁边贺国光杨永泰等智囊也纷纷表示支持，蒋介石这才下定决心，宣布任命张治中为南京卫戍司令，罗卓英担任副手。张治中大喜，随即又提出建议：“校长，治中有个不情之请！”
“说吧！”
“我请求校长能与中共周恩來洽谈，希望他能留下教导师，协助我们****作战。从淞沪会战上看，我发现他们的军官不论是作战素质，还是战术水平，都有相当的造诣，尤其是罗店防御战，还有后来的后卫阻击战，都打得可圈可点，这一点相信校长与诸位同仁有目共睹。所以，我希望能留下他们，协助我们抵抗日军。”
蒋介石有点为难道：“我前几天就与周恩来谈妥，已经答应了让教导师撤回西北，现在又让他们留下，于情于理都说不过去啊！万一把他们教导师的老底子打光了，我担心中共方面会中止运送给我们的武器装备！”
杨永泰笑道：“委座，这点倒大可不必担心，我想张将军的意思，并非是要留下他们教导师跟敌人死拼，而是想将教导师的官兵安插到我国军内部，担任一些部队各级军事主官。淞沪一战上，我军损失惨重，不少部队建制都被打残了，团营一级以上的军事主官伤亡大半，现在留守南京的****部队肯定要面临重建，安插教导师的官兵指挥我军部队，这好处是显而易见的！”
贺国光也道：“正所谓，千军易得，一将难求！由教导师的官兵担任骨干，打上几个胜仗后，或许能扭转咱们留守南京的****士气问题！打得好，或许真的能重创日军！”
在众人纷纷劝说下，蒋介石同意，立即派人去请八路军驻南京办事处的周恩來，半个小时后，周恩來乘坐吉普车赶到，一见面，蒋介石就提出了要求，原以为周恩來会拒绝，哪知他笑道：“其实，就我个人而言，我对此是欣然赞成的，因为我相信有张将军的领导，南京保卫战必定是另一个局面。只不过，我需要向中央请示！”
蒋介石等人松了口气，表示静等佳音。周恩來表示马上返回八路军办事处，张治中罗卓英也一同随往。有张治中在此，周恩來自然不好当面拨卫星电话，而是通过发报的方式与西北中央联系，十分钟后，中央回电，同意国民党方面的要求，不过因为装甲部队损伤惨重，所以只能留下步兵方面的军官与士兵，由教导师师长桑坤（对外宣称桑坤为师长，对内则是陈昊为师长）与政委罗荣桓指挥。
张治中大喜过望，立即借用八路军办事处的电话向机场蒋介石报告，蒋介石放下了心里的石头，嘱咐张治中务必要注意个人安危，允许张治中必要时可以自己脱离部队前往重庆。张治中感激之余，也暗暗发誓要将南京成为埋葬日军的坟墓！
接下来的事情也就顺理成章了，教导师接到命令后，立即开始重组，将装甲部队的精英级PLA全部划归步兵，与原教导师的步兵部队组成一个近五千人的加强步兵旅，由以桑坤罗荣桓为首的步兵军官指挥，其余的装甲部队的军官则返回云岭，随陈昊返回西北。教导师重组之后，先协助吴福线、锡澄线、乍嘉线和海嘉线一带的未溃逃的****守军，依托修筑的国防工事进行抵抗。
只是当教导师各部进入所谓的国防工事后，个个气得要骂娘，原来这些所谓的国防工事全他妈的都是豆腐渣工程，大多国防工事的混凝土几乎可以用手捏碎，机枪射口更是大如门窗，各个碉堡间居然没有交通壕连接，修建的300多个机枪掩体竟然有一半不可用，等等问题不一而足，更令人啼笑皆非的，教导师一些连队要求去工事，看守工事的地方官员居然称找不到钥匙，也没有工事图纸，所以无法带他们去工事！
这些连队的军官们气得火冒三丈，押着那些地方官员去工事，到了这时，那些地方官员才露出马脚来，原来，什么狗屁找不到要是也没有工事图纸的理由，原来都是瞎编乱造，因为这里根本就没有修建国防工事。国民政府斥巨资修建国防工事的资金，全他妈的给这些地方官员贪墨了！
这些连队的军官们无不失望透顶，怪不得守在这里的****友军听说日军来了，争先恐后要逃跑，原来这里的国防工事全都没有，你叫他们这些****友军拿什么来抵抗日军？气愤难平下，这些****友军自然也要逃命了！
情况很快反映到了教导师师长桑坤处，桑坤立即通过卫星电话告知此时正赶往南京卫戍司令部就任临时参谋长一职的罗荣桓，希望他能尽快告诉卫戍司令张治中，尽快调整部署。罗荣桓得知后，催促司机将吉普车开快些。紧赶快赶下，终于9月6日上午八点赶到南京城。
张治中听说教导师罗荣桓到达后，马上领着一干高级将领迎接，并设宴款待，早饭之后，张治中便在司令部宣布军政部委任状，正式任命罗荣桓为南京卫戍司令部参谋长，罗荣桓正式走马上任。接下来，张治中便征询罗荣桓的意见，诚挚地道：“雅怀老弟，不知你对南京保卫战有什么看法？”罗荣桓表字雅怀。
罗荣桓沉声道：“不客气地说，不容乐观，南京是守不住的！不过，好在国防部已经确定了以杀伤日军有生力量为作战方针，我对南京保卫战的前途还是很有信心的！”
张治中点了点头，随后询问他对于南京保卫战的具体方略，罗荣桓老成持重，道：“不知文白兄的打算是……”
张治中来到地图旁，拿起教鞭，指着地图上一片区域，沉声道：“目前我参与南京作战的****各部队，不管是兵员素质还是士气，已与淞沪会战之时不能相提并论，整体的战斗力严重下滑，所以我的打算是尽快打一两个大胜仗，振奋我们的士气。”
“好！”罗荣桓欣然赞同，“我认为文白兄这个方案极好！是可以施行的！不过，我有一个建议，不知文白兄意下如何？”
“雅怀老弟请说！”张治中道。
“我刚刚听说，此次淞沪会战撤退下来的****各部严重减员，不少基层部队甚至连建制都被打残了！”
张治中点了点头：“确实如此。”
罗荣桓又道：“我还听说，第36师、第87师和第88师这三个德械师现在也各自扩编为一个军的规模，可有此事？”
张治中没有否认，道：“事实上，我本人对这三个德械师各自扩编为一个军颇有微词，部队规模虽扩大了，但是战斗力却不升反降。不过好在现在这三个师都是一个军的空架子，兵员还是这三个师的老兵，补充的也都是从各部挑选出来的一些老兵，至于那些连枪杆子都拿不稳的新兵，我全都给挡回去了。”
第36师、第87师和第88师三个师长都在旁边，纷纷表示总司令说的没错。
罗荣桓这才松了口气：“如果是这样，那我就放心了，只要这三个德械师战斗力还在，那就好办多了！”
张治中听他的口气，似乎有什么想法，便当面询问，罗荣桓解释道：“有句话说的好，兵贵精不贵多，现在我们面临的问题并不复杂，南京已经不需要死守，所以，我们大可剔除那些无用的新兵出作战部队，当然，也并不是将他们弃之不用，而是组成民兵部队，可以协助我们主力作战部队，担任袭扰、疲敌、救护等任务，减轻我们主力作战部队的压力。”
张治中心中一动，已明白了其中关键，道：“而且这么做还有一个好处，那就是可以减轻我们主力部队的后勤压力。”
“对！”罗荣桓见张治中倾向于自己的意见，非常高兴，继续道：“除了三个德械师，其他建制被打残了的部队，可以重新整编成主力部队，只要我们的主力部队战斗力尚在，兵力人数虽然减少，但是对付日军也就更为机动灵活了。”