大山岩是日本帝国陆军的创建者之一。

大山岩早年积极参加明治维新运动，注意吸取国外的新思想，对建立近代资产阶级的日本军队起了重要作用，是促使近代日本称霸亚洲、跻身世界军事强国的关键人物之一。

他原为萨摩藩武士，出生于萨摩藩鹿儿岛城下加治屋町，父亲大山纲昌为萨摩藩士，之后曾与黑田清隆在幕臣江川英龙帐下学习西洋火炮的射击技术。

戊辰战争带领新式枪队，参加鸟羽伏见之战