咸丰三年（公元1853年）四月，太平天国先后派林凤祥、李开芳等率军北伐，胡以晃、赖汉英等率军西征。为配合太平军行动，福建、上海小刀会起义，湖南郴州朱九涛、宁乡征义堂起义，湖北各县义堂会亦准备适时起义。
张亮基得到消息，急调湖北提标两营并督标三营，专委左宗棠应对此事。左宗棠奉到札委连夜率军出发，将未及起义的义堂会首领逐一抓获。左宗棠因功被赏五品顶戴，以同知直隶州用。
六月，左宗棠随署湖广总督张亮基出巡鄂省下游，布防广济田家镇。在田家镇，左宗棠向张亮基建议欲战败太平军，非武装水师、控驭长江不能收全功。
张亮基表示赞许，并商定回署即上奏朝廷，力求在短期内在武昌建成一支水师营。左宗棠当夜把张亮基的话函告曾国藩、江忠源、郭嵩焘三人。巡阅回到武昌后，张亮基专委左宗棠一面筹划组建水师的事，一面谋划上奏的起稿事宜。
显然，张亮基决定把组建水师的重任交给左宗棠。左宗棠于是忙碌起来，他决定不负重望，一定要在长江水面上建起一支能战能守的水师出来。九月初四，张亮基着人把左宗棠传进签押房，阴着脸说道：“季高，水师的事你不用起稿了，也不用张罗了。本部堂刚接到圣旨，上头着本部堂补授山东巡抚。”
左宗棠登时愣住，脑海一片空白，许久说不出一句话。
张亮基接着说道：“云贵总督吴文镕调补湖广总督，本部堂被降授山东巡抚。季高，山东的局面较这里好一些，你也随我到山东去吧。”
左宗棠渐渐冷静下来，道：“大人，您要去山东，这胡润芝可怎么办？他已经从黎平起程正往这里赶来，他这不是要扑空吗？”
张亮基抚须说道：“润芝的事本部堂已经想好了策略。等吴制军到时，本部堂把事情经过向他交代一下也就是了。湖北正是用人之际，相信吴制军也不会把润芝拒之门外的。季高，本部堂一会儿就给上头递个折子，把你奏调到山东，随营差委如何？”
左宗棠长叹一口气道：“大人的美意下官谢了。何况，下官的头上虽有个五品顶戴，但尚未进京引见，不知会指派何省候补。大人把一个未明确省份的官员调来调去，上头不会同意的。”
张亮基也叹口气道：“你老弟说得也在理。不过，老哥就这样离去，你老弟怎么办呢？如今局面越来越坏，上头什么时候才能下旨让你进京去引见啊？你总不能回白水洞去候旨吧？”
左宗棠苦笑一声道：“大人所言不错，这也是下官命该如此，怨不得别人。”
张亮基低头想了想，忽然抬头说道：“季高，老哥倒想出了一个好主意。老哥明儿就给骆中丞去函一封，荐你到他的幕府去帮忙如何？”
左宗棠摆手道：“大人容禀。下官已打定主意，离开大人后，下官就到白水洞去住，引见的圣旨下来前，下官不想再出山了。大人请放心，下官在湘阴还有几十亩薄田，养家度日完全可以。大人，吴制军这一两天就能来到武昌，下官准备明儿就向大人辞行，请大人允准。”
张亮基一愣道：“怎么，你明日就要走吗？你应该等吴制军到武昌以后再做打算。说不定，吴制军能把你留下来呢！那岂不是更好吗？”
左宗棠对着张亮基深施一礼，口里说道：“大人对下官的一片恩情，下官永远铭记在心。如果天遂人愿，下官与大人还会相见的。下官明儿就不来衙门打扰了，请大人凡事保重。”左宗棠礼毕起身，转身走出签押房。
张亮基一个人摇头叹道：“这个左老三，他认准的理儿，八头牛也休想拉他回来！”
左宗棠当日回到自己的房里，连夜给曾国藩、江忠源、郭嵩焘、杨昌浚各修书一封，通报自己回白水洞的事。
张亮基当夜在总督衙门摆了一桌酒席为左宗棠饯行，左宗棠狂醉而归。第二天早饭过后，左宗棠带着随从悄悄离开武昌，登船赶往湖南。
船到长沙，左宗棠特意着便装登岸，到湘军操练营去看了看；又赶到衡州，夹杂在人群中，偷看了一回湘军水师营演操。一连十几日，左宗棠没有惊动任何人，便悄悄赶往湘阴。
到白水洞的当日，左宗棠便致书江忠源、郭嵩焘二人称：“涤生一介文官，颇会练兵。弟观湘军水、陆各营，可以料定，致长毛于死地者，必湘军也。”
咸丰四年（公元1854年）正月初一，湘阴东山白水洞左府张灯结彩，正在欢度新年。为过个团圆年，新年的头一天，左宗棠特意派人赴湘潭，将岳父、岳母接到白水洞来住，以此来化解自己与周家的宿怨。周乡绅夫妇异常高兴，连称贤婿不止。
左宗棠在与全家过年的同时，仍在密切地关注着太平军的动向。左宗棠料定，太平军在攻取江宁的同时，不可能放弃湖广。
正月十九日，太平军西征军胡以晃、赖汉英等部再次攻破汉口、汉阳，直扑武昌。经一昼夜激战，武昌也被攻破，吴文镕战殁，署湖北巡抚崇纶率军败逃。
太平军马不停蹄南下进攻岳州，拟由岳州进入湖南。湖南团练大臣曾国藩统率水、陆两路湘勇，从湖南衡州出兵北上，迎战太平军。行前，曾国藩为正师名，特向海内发布由其亲自拟就的《讨粤匪檄》一文，以昭天下。
檄文一共罗列了洪秀全、杨秀清等人五项大罪：一、肇乱五年，蹂躏州县五千余里，毁庙宇、学堂、诗书、农舍，人民深受其害。二、所掠女子不放足，则砍其双脚；男子敢藏私财，砍掉脑袋。三、从耶稣教义里断章取义，尽毁孔圣及历代先贤之书，对中华数千年之文化扫地荡尽，乱中华人伦。四、行状不如李自成、张献忠。五、中华数千年来最大之邪教，人神共愤。檄文最后号召有识之士、血性男子，共同杀敌，殄灭此人间小丑。
檄曰：
“为传檄事：逆贼洪秀全、杨秀清称乱以来，于今五年矣。荼毒生灵数百余万，蹂躏州县五千余里，所过之境，船只无论大小，人民无论贫富，一概抢掠罄尽，寸草不留。其掳入贼中者，剥取衣服，搜括银钱，银满五两而不献贼者即行斩首。男子日给米一合，驱之临阵向前，驱之筑城浚濠。妇人日给米一合，驱之登陴守夜，驱之运米挑煤。妇女而不肯解脚者，则立斩其足以示众妇。船户而阴谋逃归者，则倒抬其尸以示众船。粤匪自处于安富尊荣，而视我两湖三江被胁之人曾犬豕牛马之不若。此其残忍残酷，凡有血气者未有闻之而不痛减者也。
“自唐虞三代以来，历世圣人扶持名教，敦叙人伦，君臣、父子、上下、尊卑，秩然如冠履之不可倒置。粤匪窃外夷之绪，崇天主之教。自其伪君伪相，下逮兵卒贱役，皆以兄弟称之，谓唯天可称父，此外凡民之父皆兄弟也，凡民之母皆姊妹也。农不能自耕以纳赋，而谓田皆天王之田；商不能自买以取息，而谓货皆天王之货；士不能诵孔子之经，而别有所谓耶稣之说、《新约》之书，举中国数千年礼义、人伦、诗书、典则，一旦扫地荡尽。此岂独我大清之变，乃开辟以来名教之奇变，我孔子孟子之所痛哭于九原，凡读书识字者，又乌可袖手安坐，不思一为之所也。
“自古生有功德，没则为神，王道治明，神道治幽，虽乱臣贼子穷凶极丑亦往往敬畏神祗。李自成至曲阜不犯圣庙，张献忠至梓潼亦祭文昌。粤匪焚郴州之学官，毁宣圣之木主，十哲两庑，狼藉满地。嗣是所过郡县，先毁庙宇，即忠臣义士如关帝、岳王之凛凛，亦皆污其宫室，残其身首。以至佛寺、道院、城隍、社坛，无朝不焚，无像不灭。斯又鬼神所共愤怒，欲一雪此憾于冥冥之中者也。
“本部堂奉天子命，统师二万，水陆并进，誓将卧薪尝胆，殄此凶逆，救我被掳之船只，找出被胁之民人。不特纾君父宵旰之勤劳，而且慰孔孟人伦之隐痛；不特为百万生灵报枉杀之仇，而且为上下神祗雪被辱之憾。
“是用传檄远近，咸使闻知。倘有血性男子，号召义旅，助我征剿者，本部堂引为心腹，酌给口粮。倘有抱道君子，痛天主教之横行中原，赫然奋怒以卫吾道者，本部堂礼之幕府，待以宾师。倘有仗义仁人，捐银助饷者，千金以内，给予实收部照，千金以上，专折奏请优叙。倘有久陷贼中，自找来归，杀其头目，以城来降者，本部堂收之帐下，奏受官爵。倘有被胁经年，发长数寸，临阵弃械，徒手归诚者，一概免死，资遣回籍。在昔汉唐元明之末，群盗如毛，皆由主昏政乱，莫能削平。今天子忧勤惕厉，敬天恤民，田不加赋，户不抽丁，以列圣深厚之仁，讨暴虐无赖之贼，无论迟速，终归灭亡，不待智者而明矣。若尔披胁之人，甘心从逆，抗拒天诛，大兵一压，玉石俱焚，亦不能更为分别也。
“本部堂德薄能鲜，独仗‘忠信’二字为行军之本，上有日月，下有鬼神，明有浩浩长江之水，幽有前此殉难各忠臣烈士之魂，实鉴吾心，咸听吾言。檄到如律令，无忽！”
此文传于左宗棠手中。左宗棠连读三遍，击案赞叹道：“曾涤生不愧为三湘子弟中的头号人物，当真不是浪得虚名，吾不如也！”这是左宗棠在自己的书房里，对着满架的图书发自内心的感慨。
当时，罗泽南与附生彭玉麟均随曾国藩练勇。罗泽南统带陆勇，彭玉麟统带水勇，罗泽南的门人李续宜、李续宾、李杏春等亦为营官。左宗棠随张亮基离开湖南不久，经罗泽南举荐，巡抚衙门文案杨昌浚也加入进来，总理湘军文案。
