国民二军是一支几经改编的陕军。胡景翼、岳维峻相继担任军长。该军前身为于右任靖国军第四路，下辖8个支队：第一支队，司令田玉洁；第二支队，司令董振五；第三支队，司令岳维峻；第四支队，司令李云龙；第五支队，司令康振邦；第六支队，司令冯毓东；第七支队，司令崔式卿；第八支队，司令姚林翼。直皖战争后被直系军阀收编为陕军第一师，胡景翼任师长，辖第一旅，旅长岳维峻；第二旅，旅长田玉洁。
1924年秋，相继爆发了江浙战争和第二次直奉战争，直系军阀内部受吴佩孚排挤的冯玉祥、胡景翼、孙岳结成同盟，于10月23日发动北京政变。10月24日，冯祥主持召开军事会议，决定成立国民军，胡景翼担任国民军副总司令兼国民二军军长。11月10日，冯玉祥、段祺瑞、张作霖在天津开会，商讨政变后中央权力的分配和地盘划分，将河南省划给国民二军，胡景翼任河南督办。这时国民二军编为3个师，第一师，师长胡景翼自兼，第二师，师长岳维峻，第三师，师长田玉洁（因田玉洁留陕，该师由旅长李纪才、李云龙分别带领）。
12月，国民二军将吴佩孚逐出河南，收编其残部编为第四师、第六师，由陈文钊、王为蔚任师长。另收编田维勤残部编为河南第二旅，仍由田维勤任旅长，驻守汝南。加上胡入豫后扩编的2个混成旅（由李云龙、李纪才任旅长）和1个补充旅（旅长邓宝珊），此时国民二军实力大增。
1925年2月下旬，国民二军与原盘踞河南的镇嵩军为争夺地盘展开了“胡（景翼）憨（玉琨）之战”，历时月余，憨兵败服毒自尽，国民二军大获全胜。
4月，胡景翼病逝。岳维峻继任国民二军军长兼河南督办。岳上任后不断争取各方援助，扩充军队。至是年秋，国民二军所属已达11个师、18个混成旅、2个骑兵旅、1个骑兵团、3个炮兵团，共约20余万人。第一至第十一师师长分别为：胡景铨、岳维峻（兼）、田玉洁、陈文钊、王为蔚、樊钟秀、邓宝珊、冯毓东、李纪才、李云龙、蒋世杰；第一至第十八混成旅旅长分别为：马华瑜、曹士英、赤亚武、刘鹏、弓富魁、康振邦、王相贤、赵树勋、杨世昌、麻振武、卫定一、马志敏、田维勤、袁家声、郭振才、马吉第、李鸿翥；骑兵第一旅，旅长郑庠，第二旅，旅长周肇岐。
这些由各派系及土著部队拼凑起来的部队系乌合之众。1925年冬，由于强敌的四面围攻和岳维峻的错误指挥，几乎全军覆没，岳逃至山西，被阎锡山收留。国民二军所余残部，一部由李云龙带领逃回陕西，会同国民三军杨虎城部占领西安，于1926年4月15日起，开始了长达8个月的守城之战。另一部由邓宝珊、弓富魁带领，会同国民一军，参加了南口大战和五原誓师。此外，国民二军主力溃败后，蒋世杰师仍在信阳坚持守城，与吴佩孚部队对峙48天，于1926年3月12日停止抵抗。风云一时的国民二军就此告终。
