10月，劇聯(lián)黨團(tuán)書(shū)記于伶在光華大學(xué)找到在那里掛名讀書(shū)的胡喬木，約他去見(jiàn)周揚(yáng)。周揚(yáng)同胡喬木談話，說(shuō)明文總發(fā)生的變故，急需重組領(lǐng)導(dǎo)班子，要胡喬木擔(dān)任文總書(shū)記，把左翼各聯(lián)盟的工作抓起來(lái)。周揚(yáng)還向胡喬木介紹了鄧潔。這樣，文總黨團(tuán)新班子建立起來(lái)，由胡喬木任書(shū)記，鄧潔、王翰為委員。這是文總黨團(tuán)的最后一屆班子，工作了將近半年。這時(shí)，錢(qián)俊瑞也從社聯(lián)編輯部調(diào)來(lái)文總工作。在此之前，1935年9月，胡喬木按周揚(yáng)的意見(jiàn)介紹錢(qián)入黨。錢(qián)俊瑞后來(lái)?yè)?dān)任在上海的全國(guó)各界救國(guó)會(huì)黨團(tuán)書(shū)記。

按胡喬木的想法，文總黨團(tuán)書(shū)記應(yīng)該由王翰擔(dān)任，一是王翰參加革命早、入黨也早，二是對(duì)上海情況熟。但周揚(yáng)用了胡喬木，他看重胡喬木的文化修養(yǎng)和才能。除了前面已經(jīng)說(shuō)過(guò)的王作民的介紹和讀到胡喬木寫(xiě)給妹妹的信留下了好印象之外，胡喬木到上海不久曾給周揚(yáng)寫(xiě)過(guò)一封信，談對(duì)曹禺的看法，認(rèn)為像這樣的作家可以吸收到左聯(lián)中來(lái)。周揚(yáng)即寫(xiě)了一篇論曹禺的文章，給予較高的評(píng)價(jià)。從這件事，周揚(yáng)覺(jué)得胡喬木有眼光。文總書(shū)記陳處泰被捕，周揚(yáng)很自然地想到用胡喬木。

胡喬木擔(dān)任文總黨團(tuán)書(shū)記期間，主要同社聯(lián)、左聯(lián)、教聯(lián)、語(yǔ)聯(lián)等發(fā)生關(guān)系。社聯(lián)人數(shù)最多，同社研（全稱(chēng)是社會(huì)科學(xué)研究會(huì)）合并后，有二三百人。胡喬木同社聯(lián)的關(guān)系最密切。波蘭人柴門(mén)霍夫創(chuàng)造的世界語(yǔ)和發(fā)動(dòng)的世界語(yǔ)運(yùn)動(dòng)是國(guó)際性的，語(yǔ)聯(lián)和國(guó)際語(yǔ)聯(lián)有通訊往來(lái)。胡喬木直接領(lǐng)導(dǎo)過(guò)語(yǔ)聯(lián)，他能夠閱讀世界語(yǔ)的出版物。語(yǔ)聯(lián)的主要領(lǐng)導(dǎo)成員葉籟士、胡繩等成為胡喬木畢生交往的朋友。胡喬木與其他左翼文化組織則沒(méi)有什么接觸，他回憶說(shuō)：“1935年下半年，我參加文總的領(lǐng)導(dǎo)工作時(shí)，從來(lái)沒(méi)有人和我談過(guò)電影、戲劇、音樂(lè)、美術(shù)方面的工作。音樂(lè)、美術(shù)方面的左翼組織情況，不但我不知道，恐怕鄧潔、王翰都不知道?！薄翱隙ㄓ羞^(guò)左翼的新聞?dòng)浾呗?lián)盟，但我參加文總工作時(shí)，沒(méi)有接觸，也沒(méi)有人向我介紹過(guò)記聯(lián)的關(guān)系?！?/p>

胡喬木擔(dān)任文總黨團(tuán)書(shū)記后，在白色恐怖籠罩的上海，堅(jiān)持開(kāi)展工作和斗爭(zhēng)，大有“在泥濘中打滾，在荊棘中潛行”的精神。

事實(shí)上，胡喬木也曾多次遇到危險(xiǎn)。在上海的生活也是十分節(jié)儉，相當(dāng)艱苦的。胡喬木后來(lái)回憶說(shuō)：

當(dāng)時(shí)我們搞文總工作的，從早到晚都忙于接頭、開(kāi)會(huì)，衣食住行的條件很差。我也覺(jué)得奇怪，當(dāng)時(shí)怎么沒(méi)被敵人抓住。我那時(shí)只有二十四五歲，沒(méi)有什么社會(huì)經(jīng)驗(yàn)；吃飯和人力車(chē)夫坐在一起。早飯就是買(mǎi)個(gè)粢飯團(tuán)，一路走，一路吃。照說(shuō)有經(jīng)驗(yàn)的偵探是很容易盯上我們的。

胡喬木在文總的工作是有成績(jī)的。當(dāng)時(shí)發(fā)表的一個(gè)文件上說(shuō)：黨團(tuán)書(shū)記的被捕雖然“暫時(shí)減弱了正常的領(lǐng)導(dǎo)和密切的聯(lián)系”，但是，“在各聯(lián)，及參加群眾斗爭(zhēng)的群眾積極擁護(hù)下，改組了新的常委會(huì)，接受了廣大群眾和全體同志的信賴(lài)?！薄巴怂I(lǐng)導(dǎo)的各聯(lián)，除少數(shù)較弱的沖破不了當(dāng)前的困難，頗有每況愈下的趨勢(shì)而外，其他大多數(shù)尚能獨(dú)立活動(dòng)，擴(kuò)大了本身的組織，并且培養(yǎng)了提供到文總方面來(lái)，用以補(bǔ)充與整理各聯(lián)的許多新干部。這種不倦的努力及其可觀的成績(jī)，是值得注意的。”

除了整理、擴(kuò)大組織，領(lǐng)導(dǎo)各聯(lián)繼續(xù)開(kāi)展獨(dú)立活動(dòng)之外，胡喬木這時(shí)做的一項(xiàng)主要工作是貫徹共產(chǎn)國(guó)際七大精神，為實(shí)行左翼文化運(yùn)動(dòng)方向的轉(zhuǎn)變，領(lǐng)導(dǎo)制定文總和各聯(lián)的新綱領(lǐng)。