戴笠對張國燾十分器重，然而蔣介石對他卻存有戒心。也正因如此，張國燾的“特種政治研究室”沒有設在羅家灣軍統局本部，“特種政治工作人員訓練班”也與軍統其他訓練班分開。而他訓練的專門對付共產黨的特務，卻沒有幾個可以派出去的，雖然經過嚴格挑選最后還是將少數人派了出去，結果不但一個人都沒有策反成功，甚至連派出去的人也有的一去不歸。

沒有利用價值，蔣介石對張國燾的態(tài)度立刻轉為冷淡，戴笠對他也很失望，如此一來，張國燾在軍統的日子也艱難起來。就在這時，同為北大校友的國民黨中組部部長朱家驊向張國燾伸出援助之手，安排他擔任了組織部“反共設計委員會”中將委員兼主任秘書，張國燾終于脫離軍統，投入中統。

但張國燾無功受封，受到特務們的嫉妒與排擠。加上他在“反共設計”方面實在拿不出什么好主意，而他掌握的共產黨的情況與資料也早已被軍統特務掏空，因此幾個月過去，他一直是“無計可設，無員可用，無公可辦”，甚感無聊。

1940年3月，在朱家驊的推薦下，張國燾當上了國民參政會第二屆參政員。張國燾對這一職位十分滿意，想趁機為國民黨出點力，改變自己的處境。戴笠希望他能利用此機會搜集國民黨外參政員對國民政府的意見，以便有的放矢。

國民參政會以國民黨籍參政員為主體，另有共產黨、青年黨、民社黨和無黨派知名人士的參政員參加。參政員的活動均代表自己的黨派，而張國燾既不屬于什么黨派，卻又非知名人士，難歸于某一派，這是張國燾始料不及的。

更令他感到尷尬的是，所有人都知道他是共產黨的叛徒，都像避瘟神一樣躲避著他。而他本人更是避免與中共參政員碰面，狹路相逢時會覺得無地自容。這樣，完成軍統交給的任務也就成了一句空話。

張國燾連任三屆參政員，每屆都是“無政可參”，處境尷尬，他不僅越來越消沉，而且脾氣越來越壞，回家后常常與楊子烈爭吵。由于楊子烈愛打扮，儼然貴婦人，張國燾在爭吵中便甩出狠話：“我不承認你跟我共過患難"楊子烈被罵后就哭哭啼啼地抱怨：“你看人家，哪個像你這樣對待太太?！?/p>

1945年5月國民黨六大召開，張國燾當選為中央委員?？箲?zhàn)勝利后，由國民黨中央設計局局長熊式輝推薦，張國燾出任行政院善后救濟總署江西分署署長，因受到江西省主席王陵基排擠，上任兩個月后被迫辭職，避居上海。

1948年6月，張國燾終于以私人名義創(chuàng)辦了擁蔣反共周刊《創(chuàng)進》，但好景不長，1948年冬，國民黨在大陸敗局已定，國民黨高級官員們紛紛攜家小逃往臺灣。在這種情況下，張國燾不得不結束《創(chuàng)進》，準備全家遷臺。