一九四一年三月，杨帅得知通城日军迭经我军袭扰，计穷力竭。遂下令进攻，由133师以397团在大沙坪东南团山地区阻敌援军，以398团协同58军新编第十师28团，从通城东西两面夹攻日军。经一夜激烈巷战，日寇伤亡惨重。次日早晨，通城残敌在飞机及大沙坪敌炮兵掩护下，逃窜至大沙坪。398团和28团同时收复通城，后由133师398团担任守备，师部进驻通城以南石潭碑以资策应。通城的收复对后续的长沙防御有非常重要的作用，九战区司令部特意致电嘉奖。
1941年初，日寇乘英、美忙于应付欧洲战争之机，积极谋求南进，与英、美之间的矛盾日益尖锐。美国也希望利用中国抗战拖住和消耗日本，加强了对中国的援助。日寇强烈感觉到自己在远东进行的战争实际上面对的是中、苏、美、英四国，因而处理中国问题必须解决南方问题。基于这种背景，日军参谋本部制定了《大东亚长期战争指导纲要》和《对华长期作战指导计划》 。但因苏德战争爆发，日军积极准备对英美开战，无力投入更多机动兵力，被迫缩小规模，仅将目的定为予9战区我国军队一次重大打击。
1941年8月中旬，日军第11集团军集结了4个师团主力及4个旅团等12万余兵力于岳阳、临湘地区，准备再次进攻长沙。9月7日，日军向大云山、方山游击根据地进攻，第二次长沙会战打响。
这次鬼子吸取了上次的教训，不再分散兵力，将主力部队集中在狭窄的正面，准备以大规模兵力正面猛攻进行决战，避免再出现像第一次长沙会战中那样，因军力分散而遭到各种伏击的情况。
面对日军的这次进攻，薛岳仍然担任第九战区司令官。他分析认为，在国际局势的影响下，美国对我国实施了大量的军事援助，使得我军在装备和物资上有了很大的改善。因此，在这次会战中，可以采取积极防御的策略，以火力和阵地对抗日军的进攻，并寻找机会反击。
9月7日，日寇与和我军正式展开激战，这一次第9战区部队面临的正面作战压力非常大。战区司令部沉着冷静地要求各部队依据当地地形优势，对进犯鬼子展开多次阻击。
9月17日，日军第11、6、13三个师团开始向长沙北部发起猛攻。薛岳命令第9、10、27、58四个集团军在长沙北部构筑了五道防线，并利用美援物资装备了大量火炮和机枪等重武器，在防线上与日军展开激烈交火。
同时，在长沙东部山林中埋伏了第4集团军和新编第1师等部队作为预备队和反击部队。双方在长沙北部展开了惨烈的拉锯战。
由于中国火力优势明显，日本步兵在进攻时遭到了巨大的阻碍和损失。但是由于9战区下达作战命令的无线电报竟被日军窃收并破译，使我军陷入极大被动，虽多处与敌激战，但遭遇失败。又由于我军防线较为分散和薄弱，在日本坦克和飞机的配合下，防线还是被突破。
9月22日，日军第11师团在坦克的掩护下，突破了中国第一道防线，向长沙城区推进。薛岳立即命令第4集团军和新编第1师从东部山林中出击，对日军进行反包围。
同时，他又调动了第27集团军和第58集团军的部分兵力，从西部和南部对日军进行反攻。日军在四面受敌的情况下，陷入了重重包围之中。我军利用火力优势，对鬼子进行了猛烈的轰击和攻击。
值得一提的是，这一阶段长沙周边地区的道路交通仍然处于严重毁坏状态，日军无法轻松获取大量战备物资。
随着战斗的进行，鬼子连日作战，粮弹损耗很大，战线的不断拉长，使后勤保障困难。又因为日寇大本营正在积极准备发动太平洋战争，“要求作战尽快结束”。所以到10月初的时候，日军不得不选择暂时结束战斗，开始向原驻扎地后撤。
会战开始前，20军133师已收复通城，这时奉命由通城向西南急进，侧击南犯之敌。部队连夜赶到步山桥以东地区，得知日寇主力已经南下，鬼子的飞机则趁机向133师猛烈轰炸，师部亦曾中弹，师部特务连在反击中伤亡惨重。鬼子飞机是小胡子援助的“容克式”飞机，较之日寇在淞沪战场上使用的飞机要先进得多。不仅俯冲投弹与机枪扫射的命中率高，而且其凄厉的尖叫声亦真够先声夺人。此后，133师仍继续向南犯之敌衔尾急追，曾一度前进到捞刀河以北地区。
鬼子主力经福临铺南下击溃罗奇、陈沛、柏辉章等军后，越过金井、高桥继续南犯。其一部经平江至长寿街附近，杨帅总部即经搭桥退驻祖师岩山下的杨坊。
这时，战区长官部已电调驻江西上高的王耀武军火速增援浏阳阻敌南下。王耀武率本军由上高经万载进入湖南浏阳境内，连日急行军，官兵已多有疲劳。
长官部这时发现日寇骑兵先头已到黄花市。当时若令王耀武军在浏阳河构筑工事，沿河布防，尚可阻敌前进。但薛岳偏令王耀武军向黄花市跑步前进；王耀武军以廖龄奇师任前卫，奉命跑步前进，刚到浏阳前方不远，即与日寇骑兵遭遇。既不明了敌情、也不熟悉地形，部队又不及展开，士兵更喘不过气来。一遇日寇骑兵冲击，顿时次序大乱，互相践踏，全部溃败。
廖龄奇只身一人逃回零陵（廖系零陵人）既不收容部队，也不通知后面各师。因此，后续部队都与廖师一样正在跑步前进之际，即与日寇骑兵遭遇。在仓促遇敌之间，同样遭到全师溃败，无法收拾。王耀武成了光杆军长。眼见日军逼近，即与长官部派去联络的中将高参沈久成（贵州遵义人）藏匿在大路后面的森林内。幸日寇大部未搜索森林，即沿林外大道向株州前进，未作日军俘虏。（上述情况系根据沈久成亲口所谈）。
日寇进到株州后，七战区部队正由粤北乘粤汉路火车到株州增援，立即予以迎击。日寇目的已达，仍沿前进道路向湘北回窜。杨帅这时指挥二十军及第一集团军副总司令高萌愧（总司令卢汉始终未到前线）率领的新三军杨宏光、五八军孙渡（滇军部队）等部队，对日寇进行阻击、侧击与尾追，对鬼子予以重大杀伤，并缴获一批马匹枪支与弹药，一直追到新墙河南岸仍与日寇隔河对峙，恢复原态势。第二次长沙会战至此告一段落。
薛长官以杨森这次指挥二十军和滇军部队在尾追日寇战斗中打得很出色。而二十军一直追击敌人到了新墙河南岸，于是把新墙河防守任务交二十军担任，并对杨帅说：“这个任务只有第四军和二十军才能胜任”。杨帅听后也非常高兴自豪，即令二十军正式担任新墙河南岸防务。
于是，二十军军部驻水口桥，133师驻关王桥担任洞庭湖右岸由鹿角至下高桥一线防务；134师驻杨森街担任白洋田一线防务；总部由长寿街移驻平江甲山三圣庙，以便对二十军就近指挥。
廖龄奇逃回零陵后，准备组织民兵打游击，请当地县长给予援助。县长致电来阳省政府（长沙大火后薛岳兼湖南省主席，省政府移至来阳）请示。省府又转电兼主席薛岳请示。这时，王耀武因廖龄奇失踪，正电请长官部协助查询其下落。薛即电令零陵县府将廖龄奇逮捕押送南岳（因这时蒋正在南岳召开军事会议）。蒋以廖龄奇不收容部队，擅离职守，下令将其枪毙立即执行。（据杨帅会后透露，蒋当初以廖龄奇系军校毕业，恐枪毙对多数学生将领不无影响，在室内踱来踱去、迟疑不决，最后才下决心到会场正式宣布对廖处以枪毙，以肃军纪）。虽然廖龄奇失职属罪有应得，然薛的指挥失当，实是造成王耀武军团一仗未打，全军溃败的主要原因。蒋在南岳会议上固亦对薛严加斥责，而盛赞杨帅在追击日寇过程中的卓着勋绩，并予以特别嘉奖。会后并派朱家骅（浙江人，系蒋亲信，时任教育部长）到长沙，对杨帅及20军表示慰劳。
这次作战，我军由于指挥失误导致付出了相当大的代价，但是，从战略上说，则是我军的胜利，日寇并没有击溃九战区主力，自身却付出了2万多兵力的伤亡代价，阵地完全恢复到战前状态，日寇并没有达到任何战略价值。
而我第六战区却趁他处日军空虚，对宜昌之敌发动了猛攻，日寇死伤惨重，面临彻底覆灭危险。守备宜昌的13师团师团长已写下遗书准备自杀，因39师团的日军驰援才得以躲过灭顶之灾。宜昌作战也是1941年正面战场唯一一次主动发动的进攻战役，歼灭日军7000人。而这，正是第二次长沙会战造成的机会。
第二次长沙会战中，我军共计伤亡近7万人。歼灭日寇3万余人，击落飞机6架，击沉汽艇9艘?。此次战役使日寇的国际威望一落千丈，英泰晤士报称“日本抄袭华军的钳形战术，结果为华军的钳形战术所击破”。此外，这次战役还加深了日本内政外交危机，导致近卫内阁垮台，并在对美谈判中受挫。