1894（明治27）年10月第１・第２師団、混成第12旅団を基幹として編成された。司令官は大山巌。第2軍の主たる目的は、旅順半島（現在の遼東半島先端に位置する旅順口区）の攻略であった。同月日本を出発し、11月には金州城を攻略、次いで旅順口を攻略した。12月第６師団が第２軍の戦闘序列に入る。1895年1月第２軍は連合艦隊と協力して威海衛を占領する目的で榮城湾に上陸し、威海衛の戦いに参加した。この戦いの後、第2軍は再び金州城と旅順口に向かい、同地の守備にあたった。４月の日清講和条約（下関条約）を経て、５月に帰還した。

陸軍（明治・大正期） ＞ 戦時組織 ＞ 第２軍（日清戦争）

「陸軍大臣より第２軍大山司令官へ進級令に依り御委任の件」Ref：C05121538600、「第２軍戦闘詳報並附録」Ref：C06060148100、「第２軍に属する各部団隊は本日を以て戦闘序列を解く 大本営 大山第２軍司令官」Ref：C06061029300。