第2师团的前身是仙台镇台，又称东北镇台。而东北镇台是1873年1月设置的，当时的大本营在旧仙台城的二之丸，今日〔本〕东北大学境内。第二大本营分部在青森。

甲午战争时期，第2师团参加了威海卫攻坚战。而日俄战争的时候所属于黑木为桢大〔将〕的第一军，转战于（玖）连城、辽阳、沙河以及奉天。

1931年夏天，因日关东军野心膨胀欲对东北动手，所以蓄意调第2师团去满洲驻屯休整，去没多