日本自1869年明治天皇彻底扫除幕府势力完成日本全境统一，正式开始了“明治维新”；首先改革的重点就是建立新式军队；于是1871年实行征兵制，先后设立了兵部省和早期的四个镇台–东京，大阪，镇西，东北；1874年在四镇台的基础上改编为六镇台。
1888年，日本陆军将国内原有的六个按地域划分的镇台改称师团，序号从第一至第六师团，1891年为警卫皇宫又成立了近卫师团。近卫师团实际上是日本天皇的禁卫军，长期以来负担皇宫安全护卫工作，因此近卫师团长期驻扎在东京。首任师团长为日本皇族小松宫彰仁亲王陆军中将。
近卫师团的兵员来自本乡、宇都宫、佐仓、水户这4个连队区。而大正时代以后，步兵和骑兵从全国，炮兵、工兵和辎重兵从关东地方的师团管区中抽调精锐。为了保护皇宫，就要尽量选拔优秀的士兵来组建近卫师团。
所以当初被配属在近卫师团的士兵也被世人看作是精英。如果身边有亲戚在近卫师团服役的话，那么这家人就会有“一人得道，鸡犬升天”的感觉，那种自豪感也不用说了。
在中日甲午战争结束前一个月，近卫师团在辽东半岛登陆，参加了旅顺战役，战争结束后被调往台湾执行占领台湾的侵略任务。日俄战争期间，近卫师团从朝鲜半岛南浦登陆，配属第一军参加了辽阳会战、沙河会战和奉天会战。
在二战爆发后，近卫师团第1、第2近卫步兵联队、第3近卫野炮兵联队第三大队组成近卫混成旅团，由长绥田武少将任旅团长，开赴中国华南地区，先后参加了翁英作战、宾阳作战，其中近卫步兵第二联队进驻印支半岛北部。
1940年，留守东京的近卫师团其余部队近卫步兵第3、4联队紧急动员，开赴中国汉口，后进入广东，并于1941年7月侵入印支半岛南部。太平洋战争爆发后，近卫师团从属于山下奉文的第25军。参加了马来半岛、新加坡的一系列战事。
近卫师团作为日本最为精锐的师团，不论是兵员质量还是武器装备等都是冠绝日本诸师团的，想想也理所当然，就像中国古代所谓的禁军或御林军，当然是选拔最优秀的士兵和配备最优质的武器装备了。
但是作为保护日本天皇的亲卫军，思想上的“忠君”当然格外重要的；可是偏偏就是这么一支天皇御军，不仅在二战时期并没有立下什么功劳，而且在二战末期还做了一件震惊日本全国的大事——兵变。
话说，在二战末期，只剩下日本这一弹丸小国负隅顽抗了，北方苏联已经出兵东北，并全歼了全部关东军，并准备登陆北海道；而美国也不断发动“饥饿战役”和“李梅火攻”，后来日本广岛、长崎相继被美军投下的原子弹摧毁。
经过漫长的讨论后，天皇决定接受《波茨坦公告》，并将其通过瑞士和瑞典两国通知美、苏、中、英四大国。陆军大臣阿南惟几向陆军省课以上军官传达御前会议作出投降决策时，言词中流露对主和派的愤懑，称自已被逼接受“圣裁”。
他一手提拔的一批少壮派官佐立时沸腾起来，大吵大闹，还有哭的，表示反对求和，宁愿战死，又大肆辱骂主和派。其中的代表者为田中少佐、井田中佐、椎崎中佐，以及阿南的妻弟竹下中佐。
田中等少壮派趁此机会，在陆军省防空洞秘密会议，策划发动起义，扫除主和派的铃木、东乡、木户，占领皇宫，把天皇“保护”起来，以武力切断皇宫与主和人士的联络，促使天皇收回求和成命。
在1945年8月15日凌晨1点，兵变爆发，近卫师团很快就控制了日本皇宫；但是叛变仅仅存在了7个小时，就被平息了；这也是为什么阿南惟几选择破腹自杀的真正原因。