1937年抗戰(zhàn)全面爆發(fā)后，隨著世界反法西斯戰(zhàn)爭(zhēng)形勢(shì)的發(fā)展和中蘇交往交流的不斷增加，中共中央和軍委決定在延安抗大三分校組建俄文隊(duì)，培養(yǎng)一部分俄語(yǔ)專業(yè)人才。

方案確定后，就在延安和陜甘寧邊區(qū)范圍內(nèi)招生，基本上采取自愿報(bào)名和組織選送相結(jié)合的方式，吸收渴望學(xué)習(xí)俄語(yǔ)的知識(shí)青年。俄文隊(duì)的住址在延安城東門(mén)外清涼山東麓的一個(gè)小窯洞內(nèi)。1941年3月，開(kāi)始接收新生，到了5月初，陸續(xù)報(bào)到的學(xué)員人數(shù)逐漸增加到60余人，正式成立俄文隊(duì)，進(jìn)入抗大三分校的編制序列。

1941年6月初，俄文隊(duì)正式開(kāi)課，曾經(jīng)在蕭三創(chuàng)辦的延安文化俱樂(lè)部業(yè)余俄語(yǔ)班學(xué)習(xí)過(guò)的學(xué)員編為一個(gè)班，行政上叫做第一區(qū)隊(duì)。另一部分學(xué)員原來(lái)沒(méi)有學(xué)過(guò)俄語(yǔ)，編為一個(gè)班級(jí)，行政上叫做第二區(qū)隊(duì)，學(xué)員從俄語(yǔ)的字母發(fā)音開(kāi)始，逐漸進(jìn)入單詞，要求熟讀、牢記、能背誦。這兩個(gè)區(qū)隊(duì)被稱為俄文第一隊(duì)。

1941年七八月間，從前方戰(zhàn)斗部隊(duì)中抽調(diào)回一批具有中學(xué)文化程度的連、排級(jí)干部，約30多人，到俄文隊(duì)學(xué)習(xí)，編為第三區(qū)隊(duì)。后中央軍委繼續(xù)抽調(diào)干部到抗大三分校俄文隊(duì)學(xué)習(xí)，學(xué)校決定成立俄文第二隊(duì)。

此外，中共中央軍委還在安塞縣籌備成立航空工程學(xué)校，準(zhǔn)備訓(xùn)練飛行員和機(jī)械士，擬請(qǐng)?zhí)K聯(lián)派人來(lái)授課，因蘇德戰(zhàn)爭(zhēng)爆發(fā)，不可能派人到中國(guó)，軍委決定航空工程學(xué)校停辦，校長(zhǎng)王弼率學(xué)員數(shù)十人，調(diào)到抗大三分校，成立了俄文第三隊(duì)。

到1941年10月，上述三個(gè)區(qū)隊(duì)被合并為俄文大隊(duì)，學(xué)員達(dá)300余人。

1941年12月1日，中共中央決定對(duì)抗大第三分校進(jìn)行整編，改名為延安軍事學(xué)院，八路軍總司令朱德兼任院長(zhǎng)。軍事學(xué)院由指揮隊(duì)、炮兵隊(duì)、參謀隊(duì)、俄文隊(duì)、工程隊(duì)五部分構(gòu)成，其中俄文隊(duì)由抗大三分校的俄文大隊(duì)整編而成，工程隊(duì)由抗大三分校的原俄文三隊(duì)編成。

朱德十分重視俄文隊(duì)的工作，明確指示：為了適應(yīng)抗日戰(zhàn)爭(zhēng)形勢(shì)發(fā)展的需要，培養(yǎng)的學(xué)生要成為通曉俄語(yǔ)，能會(huì)話，能實(shí)際運(yùn)用的軍事翻譯人才。為此，他要求在課時(shí)安排上，俄文課課時(shí)占80%，政治課占20%，保證學(xué)員以學(xué)習(xí)俄語(yǔ)為主。學(xué)員們?cè)诎肽陜?nèi)先后學(xué)習(xí)了俄文文法、日常生活會(huì)話等課，初步打下了俄語(yǔ)學(xué)習(xí)的基礎(chǔ)。

俄文隊(duì)的教學(xué)組織分為五個(gè)班級(jí)，每個(gè)班級(jí)有學(xué)生30人，在行政編制上，一個(gè)班級(jí)就是一個(gè)區(qū)隊(duì)，所以俄文隊(duì)下屬五個(gè)區(qū)隊(duì)，各區(qū)隊(duì)長(zhǎng)由學(xué)員擔(dān)任，不脫離學(xué)習(xí)，同時(shí)兼管軍事行政與俄語(yǔ)學(xué)習(xí)事務(wù)。

后來(lái)又增設(shè)了一個(gè)女生區(qū)隊(duì)，共有女生20多名，學(xué)習(xí)上課時(shí)，根據(jù)俄語(yǔ)程度，分別參加到其他五個(gè)班級(jí)（區(qū)隊(duì)），生活上單獨(dú)編在一起，叫做“第六區(qū)隊(duì)”。

軍事學(xué)院的教學(xué)工作系統(tǒng)設(shè)有俄文科，由教育長(zhǎng)直接領(lǐng)導(dǎo)。需要說(shuō)明的是，俄文隊(duì)和俄文科是兩個(gè)平行單位，前者主管行政、黨務(wù)、軍事工作，后者負(fù)責(zé)俄語(yǔ)專業(yè)的教學(xué)工作。

1942年6月，抗大總校從晉東南抗日根據(jù)地返回陜甘寧邊區(qū)，延安軍事學(xué)院的領(lǐng)導(dǎo)機(jī)關(guān)和抗大總校合并，移居綏德。中央軍委決定把俄文隊(duì)留在延安，成立俄文學(xué)校。軍委總參謀部的第四局（編譯局）與俄文隊(duì)合并，總參四局局長(zhǎng)曾涌泉同志擔(dān)任俄文學(xué)校校長(zhǎng)。

1943年4月，中央為了集中力量培養(yǎng)俄語(yǔ)人才將延安大學(xué)俄文系也轉(zhuǎn)到軍委俄文學(xué)校。

1944年，美國(guó)派了一個(gè)軍事觀察組住在延安，鑒于形勢(shì)發(fā)展的需要，中共中央和軍委決定把俄文學(xué)校改名為軍委外國(guó)語(yǔ)學(xué)校，增加英文專業(yè)，培養(yǎng)英語(yǔ)人才。

1945年抗戰(zhàn)勝利后，中央和中央軍委決定將抗大等幾所著名學(xué)校從陜北遷至東北，其中包括把延安外國(guó)語(yǔ)學(xué)校遷至哈爾濱。