1861年下半年，太平軍在浙東、浙西戰(zhàn)場(chǎng)連獲大捷，直逼杭州、上海。

上海受到太平軍威脅，士紳們驚恐萬(wàn)分，一邊迅速成立“中外會(huì)防局”，以期依賴(lài)洋人武力保衛(wèi)上海；一邊又選出士紳代表、前清名臣錢(qián)寶琛(浙江巡撫)的兒子錢(qián)鼎銘，帶著募集的20萬(wàn)兩白銀，雇用了幾艘外國(guó)輪船，率人前往安慶，向曾國(guó)藩求援。

曾國(guó)藩認(rèn)識(shí)到上海對(duì)兵餉的重要性，但是眼前自己駐扎在安慶的湘軍要對(duì)付南京的太平軍老巢，無(wú)力派兵去上海。曾國(guó)藩首先派弟弟曾國(guó)荃東援上海，但此時(shí)的曾國(guó)荃正一門(mén)心思為進(jìn)攻南京、立頭等功而積極備戰(zhàn)，哪有工夫去管這種閑事，所以對(duì)曾國(guó)藩的指示一拖再拖。

叫不動(dòng)自己弟弟，曾國(guó)藩只好將東援上海的任務(wù)交給手下陳士杰，這個(gè)陳士杰倒是立刻行動(dòng)起來(lái)，在家鄉(xiāng)招募了上萬(wàn)兵勇積極訓(xùn)練，可是只擺架勢(shì)，沒(méi)有行動(dòng)。這下曾國(guó)藩急了，朝廷可是一個(gè)勁兒地下旨催他啊。找來(lái)陳士杰一問(wèn)，敢情這是個(gè)貪生怕死的主兒，真是太不靠譜了。結(jié)果曾國(guó)藩找了一圈，還是李鴻章比較可靠，老師話一出口，李鴻章立刻躍躍欲試，把活兒接了下來(lái)。

其實(shí)李鴻章心里的算盤(pán)打得好著呢。自從在老家安徽打了幾次勝仗后，他雖然晉升為四品官，但進(jìn)入曾國(guó)藩幕府后，這一官職便成了虛銜，根本沒(méi)有行使四品官實(shí)權(quán)、獨(dú)立帶兵打仗的機(jī)會(huì)。而且，曾國(guó)藩的湘軍大營(yíng)中人才濟(jì)濟(jì)，他很難等到獨(dú)當(dāng)一面的機(jī)遇。所以一直以來(lái)李鴻章都在期盼著能有一個(gè)自己做主、建功立業(yè)的機(jī)會(huì)。這一次簡(jiǎn)直就是“天上掉餡餅”，李鴻章當(dāng)然不能錯(cuò)過(guò)。

但此時(shí)的李鴻章還是“光桿司令”一個(gè)，兵還得回老家合肥現(xiàn)招。這時(shí)候當(dāng)年辦團(tuán)練的經(jīng)歷就派上用場(chǎng)了。

李鴻章和弟弟李鶴章兵分兩路，一邊去尋找當(dāng)年解散的團(tuán)勇，一邊聯(lián)絡(luò)起當(dāng)?shù)赜忻膱F(tuán)練頭子張樹(shù)聲。說(shuō)起這個(gè)山大王張樹(shù)聲，他父親和李鴻章的父親是在辦團(tuán)練時(shí)結(jié)交的好兄弟，所以李鴻章和張樹(shù)聲很容易就攀上了“世交”的關(guān)系。

張樹(shù)聲又把自己手下的大將劉銘傳等叫來(lái)一起給李鴻章干活。除此之外，李鴻章還把自己的學(xué)生劉秉璋也拉來(lái)入伙，這個(gè)人本來(lái)就對(duì)太平軍恨之入骨，加上又很崇拜李鴻章，所以李鴻章一召喚，他就欣然加入淮軍，后來(lái)不僅成為李鴻章的心腹大將，還與李結(jié)為兒女親家。

通過(guò)東拉西扯的人脈網(wǎng)，不到兩個(gè)月李鴻章就在合肥召集了兩萬(wàn)多人的鄉(xiāng)勇，速度之快真是讓曾老師都望塵莫及了。不過(guò)要求那個(gè)階段的李鴻章做到“又快又好”實(shí)在是太難為他了，所以當(dāng)時(shí)招募出來(lái)的軍隊(duì)，簡(jiǎn)直有些“四不像”。從外形來(lái)看，這些兵高矮長(zhǎng)短，參差不齊；從服裝來(lái)看，他們沒(méi)有統(tǒng)一制式的軍服，隨便身著自己的衣服，五顏六色，有的還破爛不堪；從軍人素質(zhì)來(lái)看，他們根本不會(huì)隊(duì)列，甚至連排隊(duì)都不會(huì)。如果說(shuō)這支軍隊(duì)還有那么一點(diǎn)統(tǒng)一的標(biāo)志，那就是大家頭上都扎著一條毛巾。

就在李鴻章緊鑼密鼓地招募江淮鄉(xiāng)勇的時(shí)候，朝廷方面也有了新動(dòng)向。由于遲遲等不來(lái)援軍，他們打算求洋人幫忙鎮(zhèn)壓太平軍。當(dāng)時(shí)上海有一支華爾領(lǐng)導(dǎo)的“洋槍隊(duì)”，由于經(jīng)常在和太平軍的作戰(zhàn)中取勝，又被人們稱(chēng)為“常勝軍”。曾國(guó)藩對(duì)朝廷這種“借夷助剿”的做法很不贊同，認(rèn)為只是治標(biāo)不治本，而且若是讓洋槍隊(duì)發(fā)展壯大插手中國(guó)事務(wù)過(guò)多，很可能將來(lái)“尾大不掉”。于是曾國(guó)藩催促李鴻章盡快出發(fā)去援助上海。此時(shí)李鴻章的淮軍粗略分成五個(gè)營(yíng)，也來(lái)不及進(jìn)行系統(tǒng)訓(xùn)練，基本裝備和訓(xùn)練方式完全是照搬湘軍的模式，以刀、矛、小槍為主要兵器。