抗日戰(zhàn)爭時期，李克農(nóng)擔(dān)任過多處的八路軍辦事處主任或負(fù)責(zé)人。他工作卓有成效，出色地完成了辦事處的保衛(wèi)工作。

1937年8月，淞滬會戰(zhàn)正在進(jìn)行。此時李克農(nóng)奉命去上海籌建紅軍駐上海辦事處。他化名李震中，對外一直以“十七路軍駐滬軍需主任”的名義在上?；顒?，宣傳統(tǒng)一戰(zhàn)線，支持淞滬抗戰(zhàn)。

在上海期間，他把一份要求釋放的政治犯名單送至國民黨當(dāng)局，要求國民黨當(dāng)局無條件地釋放一切政治犯。李克農(nóng)還協(xié)助毛澤民把共產(chǎn)國際援助紅軍的一批巨額美鈔安全地運送到西安。西安的紅軍聯(lián)絡(luò)處用這筆錢為紅軍買了一批槍支、彈藥、藥品以及其他緊缺物資。

8月27日，李克農(nóng)離開上海，奉命赴南京擔(dān)任八路軍駐南京辦事處處長。辦事處的領(lǐng)導(dǎo)及工作人員有葉劍英、童小鵬、錢之光等人，地點在鼓樓附近的傅厚崗66號。

一天，李克農(nóng)應(yīng)國民黨政府大本營邀請，到五臺山參觀高射炮陣地。參觀結(jié)束后他準(zhǔn)備回去，在路邊碰上一個戴草帽的老漢，老漢看了李克農(nóng)一眼，然后將一個小小紙團丟在地上。李克農(nóng)撿起紙團一看，上面有兩行鉛筆寫的小字：“日本特務(wù)要刺殺白總長，務(wù)請轉(zhuǎn)告他切切不可大意！”紙條上說的“白總長”，是國民黨國防部參謀總長白崇禧。李克農(nóng)一時想不起這個老漢是誰，但情況緊急，來不及多想，他派手下的情報員劉紀(jì)夫與白崇禧的機要秘書謝和賡（中共地下黨員）秘密會面，將情報轉(zhuǎn)告了白崇禧。

白崇禧得知日本特務(wù)要害他，加強了防范措施。9月19日晚，日本特務(wù)動手了。他們偵察得知白崇禧住在清涼山，事先破壞了廣州路至清涼山一線的路燈，七八個特務(wù)到了清涼山，與白崇禧的警衛(wèi)們發(fā)生槍戰(zhàn)，雙方都有傷亡。此前白崇禧已離開清涼山住到了凈覺寺，日本特務(wù)撲了空。第二天白崇禧知道此事后，說要特別感謝李克農(nóng)。李克農(nóng)救了白崇禧一命，這為后來周恩來開口請他同意中共在桂林設(shè)立辦事處打下了感情基礎(chǔ)。

李克農(nóng)擔(dān)任八路軍駐南京辦事處處長期間，還營救了不少被關(guān)押在國民黨監(jiān)獄的中共干部。當(dāng)時國民黨不承認(rèn)關(guān)了很多共產(chǎn)黨“政治犯”，準(zhǔn)備將這些共產(chǎn)黨秘密處決。李克農(nóng)依據(jù)國共簽訂的協(xié)議，據(jù)理力爭，要求國民黨向中共移交“政治犯”。9月26日，原福州市委書記陶鑄和其他六位同志被“八辦”人員從南京中央監(jiān)獄接回。至當(dāng)年11月，在他們的努力下，“八辦”共營救出1000多名共產(chǎn)黨人和進(jìn)步人士。

退守武漢后，李克農(nóng)擔(dān)任八路軍總部秘書長兼中共代表團秘書長，同時他還兼任中共長江局秘書長。在此期間，李克農(nóng)除了日常工作，還負(fù)責(zé)武漢辦事處的情報工作。