1935年8月1日在中国工农红军在长征途中，由中国共产党驻共产国际代表团以中华苏维埃中央政府和中共中央名义联合发表了一个重要宣言——《为抗日救国告全国同胞书》（即《八一宣言》），首次提出了“抗日联军”的概念以及建立全国性质的“抗日联军”和“抗日联军总司令部”的构想。
1936年2月20日，以东北抗日救国总会和东北抗日联军第一军至第六军军长杨靖宇、王德泰、赵尚志、李延禄、周保中、谢文东和汤原游击队、海伦游击队的名义，发表了《东北抗日联军统一军队建制宣言》，宣布将人民革命军、反日游击队等抗日部队，一律改编为东北抗日联军。
从1936年初至1937年冬，东北抗日联军陆续编成十一个军，最盛时总兵力达到3万多人，在黑龙江、吉林、辽宁三省的70余县广大地区，展开了大规模的游击战争。
其师以上建制和主要领导人如下：
第一军：1936年1月编成，军长兼政委杨靖宇，下辖3个师、1个教导团。
第二军：1936年3月编成，军长王德泰，政委魏拯民，政治部主任李学忠，下辖3个师，1个教导团。
第三军：1936年1月编成，军长赵尚志，政治部主任张寿籛（即李兆麟），下辖10个师。
第四军：1936年3月编成，军长李延禄，副军长王光宇，政治部主任黄玉清，下辖4个师，3个游击团。
第五军：1936年2月编成，军长周保中，副军长柴世荣，政治部主任胡仁，下辖3个师。
第六军：1936年9月编成，军长夏云杰，政治部主任张寿籛，参谋长冯治纲，下辖4个师。
第七军：1936年11月编成，军长陈荣久，参谋长崔石泉，下辖3个师。
第八军：1936年9月编成，军长谢文东，副军长滕松柏，政治部主任刘曙华，下辖6个师。
第九军：1937年1月编成，军长李华堂，参谋长李向阳，副官长于桢，下辖3个师。
第十军：1936年冬编成，军长汪雅臣，副军长张忠喜，政委王维宇，下辖10个团。
第十一军：1936年5月成立独立师，1937年10月编成军，军长祁致中，政治部主任金正国，辖1个师，师长李景荫，师下辖3个旅。
东北抗日联军统一建制后，又相继成立了三个总指挥部，长期领导和指挥着南满、吉东和北满三个地区各个军极其所属抗日武装的游击战争。
日军入侵长城沿线。
东北抗日联军第一路军总指挥部创建于1936年7月，总司令兼政委杨靖宇，副总司令王德泰，政治部主任魏拯民，领导和指挥东北抗联第一、二军的抗日游击战争，以长白山为依托创建了南满抗日游击根据地。
东北抗日联军第二路军总指挥部创建于1937年10月，总指挥周保中，副总指挥赵尚志（1940任职），参谋长崔石泉，领导和指挥东北抗联第四、五、七、八、十军等部队的抗日游击战争，以长白山和小兴安岭为依托，创建了吉东抗日游击地。
东北抗日联军还于1936年1月成立了“东北民众反日联合军总司令部”（后改称“北满抗日联军总司令部”），赵尚志任总司令，张寿籛任总政治部主任。1939年4月，“北满抗联总司令部”改组成立“第三路军总指挥部”，总指挥张寿籛（李兆麟），政委冯仲云（1940年任职），总参谋长许亨植，领导和指挥抗联第三、六、九、十一军的抗日游击战争，以大小兴安岭为依托创建了北满抗日游击根据地。
三个最高军事指挥部建立了严密的军事指挥系统和政治领导体系，对于领导和指挥抗联各部队的武装斗争，加强抗联正规化建设，发挥了巨大的作用。
东北抗联许多高级将领是土匪出身，也有不少经受过高等教育，冯仲云、于天放、张甲州，是抗联里面的“清华帮”，曹亚范早年出身于香山慈幼院，这是民国著名政治家，北洋政府总理熊希龄一手创建的。像毛泽东一样，陈翰章、曹亚范都曾干过小学教员。赵尚志、赵一曼、全光等人还曾在黄埔军校读书。
为了壮大声势，东北抗日联军的编制等级比较高，有的一个军只有一两千兵力，所以常常让人觉得难以确定其级别。确实有100多师以上干部牺牲在抗日战场上，但是当时抗联一个师的人数只有几百人，最高不过上千人，显然不是我们通常认为的那种上万人的师的规模。
基层部队按照连排班三级标准编制，一个连编制比关内部队略少，约60-80人。连以上不设营，直接设团，一个团含四到六个连，所以一个团的满编兵力大体在四百人左右，相当于八路军一个营的兵力，团以上设师（军部有直属警卫旅，兵力大约也相当于一个师），通常一个师辖2-4个团，千人左右，相当于八路军一个团。一个军则辖一个师（比如第十一军）到六、七个师（比如谢文东的第八军就有六个师），从一千余人到八九千人不等，大体相当于八路军师旅之间。后期抗联部队损失很大，撤到苏联境内的集中到一起也就是一个旅。
根据日伪情报汇总，抗联主力部队行军时比较专业，会派出5名或3名尖兵，二人侦察道路左右两旁，一人侦察正面前进。在密林地带或不可能透视的地带行军，尖兵班首先使二人进入搜查地，尖兵与本队的距离相隔500米，其它则采取伏击，掩护射击的姿势。白天则将步哨配置到便于展望的地点，夜间每排的距离约200米，以便敌人袭击时互相援助，或防御包围的危险。
东北抗日联军是黑土地上反对外来侵略的最伟大最英勇的群体。当时敌强我弱，日伪残酷讨伐围剿，力量对比异常悬殊，同时自然环境恶劣，冰天雪地，寒风刺骨，山高林密，人烟稀少。抗联时常孤军奋战，缺少援助，内缺给养，承受了古今中外任何一支部队都很少体验过的艰难困苦。
东北人都体会到冰天雪地里那零下三十多度的寒冷，那是彻骨的煎熬和考验，为此许多人患上鼻炎、咽喉炎、扁桃腺炎，鼻子嘴里经常“打雷下雨”，久治不愈。但是和平时期，许多人会爱冬天，觉得可以滑雪赏雪，但是冬天是抗联的大敌。
彭真在谈到东北抗联的艰苦斗争时曾这样说：“我们共产党20多年领导的革命斗争中，有三件最艰苦的事。第一件：红军二万五千里长征；第二件：红军长征后，南方红军的三年游击战争；第三件：东北抗日联军的十四年苦斗。”
东北抗日联军为配合全国抗战，积极牵制与打击日伪军。仅1936年和1937年间，对日伪作战就达上千次。1936年底，抗联4.5万人。1937年7月7日，全国抗日战争爆发，东北抗日联军所坚持的游击战争，成为全国抗日战争的一个组成部分。为了配合全国抗战，抗联各军在白山黑水之间主动出击，积极地打击敌人。抗联第一路军分兵西进，到了辽河边准备向辽宁西部发展，与挺进热河的八路军打通联系。五军西征舒兰、五常，第三、六军向北黑线西征，至1937年冬，东北抗日游击战争达到高潮，但是由于敌众我寡，都以失败而告终。抗联主力基本被打散，180多位师长、10位军长牺牲。
