1927年4月19日，武漢國民zf在武昌舉行第二次北伐誓師大會，繼續(xù)進行北伐。謝晉元隨軍到達南京，駐守京滬路東段。
8月25日夜，北風(fēng)呼號，濃霧彌漫。孫傳芳以三個師的主力6萬余人，分三路，從望江亭、劃子口、大河口三處強渡長江，向南京邊防區(qū)烏龍山，棲霞山及龍?zhí)兑粠нM攻。第一軍所據(jù)守陣地先后失守，被逼向南京后撤。26日，孫軍占領(lǐng)龍?zhí)稏|站。在此危急之時，白崇禧電令駐京滬路東段的第一軍第十四師師長衛(wèi)立煌率部向龍?zhí)斗垂�。同時，電令杭州的第一軍第二師劉峙回師助攻龍?zhí)�。與孫傳芳血戰(zhàn)七個晝夜，終于殲滅了孫軍5萬余人。而謝晉元在此次反攻龍?zhí)兜膽?zhàn)役中，率領(lǐng)一連人，勇敢善戰(zhàn)，一馬當先沖殺搏擊，拼死戰(zhàn)斗，激戰(zhàn)七晝夜，終于取得勝利，建立奇功，升為副營長。
閘北抗日
1930年任中尉連長，在殲滅土匪劉桂堂的戰(zhàn)斗中英勇善戰(zhàn)，被調(diào)入第十九路軍蔡廷鍇部任少校營長、參謀等職。同年，在漢口和凌維誠結(jié)婚。此后，隨軍進駐上海閘北。所謂閘北，是上海水陸交通要地，是各路之總稱，即淞滬路與京滬路相接處，而形成的一個三角地帶。此乃十九路軍之戰(zhàn)區(qū)中心，謝晉元率部就駐守在此要地，保衛(wèi)上海。
東三省淪陷以后，日本帝國主義加緊調(diào)動海陸空主力進攻上海。從1932年1月21日起，日本調(diào)動航空母艦一艘，由旅順駛向上海吳淞港。接著，四艘驅(qū)逐艦滿載特別陸戰(zhàn)隊，開進黃浦江，一批批的陸戰(zhàn)隊在匯山碼頭登陸。在這上海形勢處于非常嚴峻之時，駐上海閘北的十九路軍早已作好了一切戰(zhàn)斗準備。謝晉元所率的一營人馬，亦早已嚴陣以待，時刻準備著，只等一聲令下，為保衛(wèi)上海而英勇戰(zhàn)斗。
1月28日，日本海軍司令鹽澤指揮陸戰(zhàn)隊6000余人，向吳淞、江灣、閘北三路進攻，并揚言：“四小時內(nèi)占領(lǐng)上海，并解決十九路軍。”“一·二八事變“爆發(fā)了。
十九路軍奮起抵抗，在蔡廷鍇、蔣光鼐、陳銘樞的領(lǐng)導(dǎo)下，各路守軍奮起戰(zhàn)斗，阻擊日軍前進。十九路軍全體官兵奮勇殺敵，全日巷戰(zhàn)。日軍數(shù)次沖鋒均被十九路軍擊退，使日軍不能前進一步。十九路軍士氣高漲，日軍初戰(zhàn)失敗，死傷巨大，在敗退之時，到處縱火，地方上民眾受火劫之損失，實不堪言。
1月29日，十九路軍軍長蔡廷鍇再次向全軍將領(lǐng)發(fā)出通電，號召全軍奮勇抗日。這一天，日軍出動飛機4架，在閘北上空，向十九路軍陣地狂轟濫炸，投下80多顆炸彈，但并沒有嚇倒抗日將士。謝晉元在戰(zhàn)地日記中這樣寫道：“日機轟炸，只是威嚇力比炮彈大些。飛機投彈，從空中擲下，不易瞄準目標，在戰(zhàn)壕里根本不怕。”戰(zhàn)士們便利用高射炮，在敵機投彈低飛時瞄準射擊，29日就擊落日機4架。
十九路軍堅決抗日，保衛(wèi)上海，得到了上海各界人士熱烈支援。宋慶齡、何香凝在前線發(fā)起救亡運動，號召各界民眾捐獻物資藥品支援抗日戰(zhàn)士，籌設(shè)幾十個傷兵醫(yī)院，趕制三萬套棉服送給前方官兵，大大鼓舞了將士們的斗志。
英勇抗日一個多月，連續(xù)打退敵人的進攻，打死打傷日軍1萬多人，日軍慘敗。
1934年于廬山軍官訓(xùn)練團第二期畢業(yè)。
淞滬抗戰(zhàn)
1936年初，日寇加緊侵華步伐，亡我之心，昭然若揭。當時，謝晉元在國民革.命軍第八十八師262旅任旅部中校參謀主任，為準備抗擊日本侵略，部隊從四川萬縣調(diào)無錫一帶駐防。為了專心殺敵，謝晉元多次勸說住在上海龍華鎮(zhèn)的妻子凌維誠回廣東原籍，妻子同意后，又親自護送回鄉(xiāng)。在離廣東返回部隊前，對其妻凌維誠說：“半壁河山，日遭蠶食，亡國滅種之禍發(fā)之他人，操之在我。一不留心，子孫無遺類矣。為國殺敵是革.命軍人之素志也，職責(zé)所在，為國當不能顧家”。并說：“我不是好兒子、好丈夫，但為國家存亡，奉養(yǎng)年老父母，撫育年幼子女之重擔(dān)，要由你承當。此場戰(zhàn)爭將非常激烈，我們會有很大犧牲，也會有局部失利，但我國一定能勝利。當最后勝利到來時，我將親自迎接你們母子返滬”。謝晉元返部隊后，曾擔(dān)任學(xué)生軍訓(xùn)大隊長。以后又指揮所部嚴格進行操練，以侵占上海的日海軍陸戰(zhàn)隊為假想敵，積極進行偵察、演習(xí)等備戰(zhàn)活動。“七·七”盧溝橋事變后，在滬日軍多次制造事端，不斷挑釁，并從本土調(diào)集兵艦增授，戰(zhàn)爭處于一觸即發(fā)狀態(tài)。1937年8月11日深夜，孫元良師長命令262旅524團從無錫誓師出發(fā)，開赴上海，專列到真如站，部隊立即跑步進入北站附近陣地。該旅523團隨后趕到，進駐寶山路迄八字橋一線。