1884年4月3日出生於日本宮城。
安藤爲宮城縣人，陸軍上校、陸軍大學畢業，並曾以駐英使館副武官身份赴英國留學，專門進行軍事
在投降書上簽字的安藤利吉
研究。1927年後，擔任過參謀本部部員、步兵聯隊長、第五師團參謀長、陸軍省軍務局兵務課課長、步兵第一旅團旅團長、戶山步兵學校校長等職。
1932年，晉升爲陸軍少將。1936年晉升爲陸軍中將。
1937年，任陸軍教育總監本部部長。
1938年5月25日，被任命爲侵華日軍華北方面軍第二軍第五師團師團長，率部參加了徐州會戰和廣州作戰。廣州作戰後，安藤利吉於11月9日升任第二十一軍司令官。
1939年1～10月，安藤利吉根據日軍大本營的命令，指揮所部進行了攻佔海南島、汕頭、深圳等地的作戰，切斷了中國東南沿海的補給線。爲截斷中國南寧至越南諒山的西南交通線，安藤利吉又指揮所部於11月發起桂南作戰，並先後攻佔南寧、高峯隘、崑崙關、龍州等地。中國國民政府軍事委員會爲收復南寧，緊急調集14個師、100架飛機，於12月中旬分兵三路向日軍發起反攻。在崑崙關戰役中，日軍損失慘重，第二十一旅團長中村正雄少將被擊斃，崑崙關也被中國軍隊收復。在進行南寧作戰的同時，安藤利吉還指揮所部先後攻佔了翁源、英德、賓陽等地。
1940年2月10日，日軍大本營解除第二十一軍戰鬥序列，組成新的華南方面軍（南支那方面軍，下轄第二十二軍及第十八、第三十八、第一○四、第一○六等直轄師團），任司令官。
1941年11月6日，臺灣軍司令官。
1944年1月，晉升爲陸軍大將。
1944年9月22日，第十方面軍司令官。
1944年12月30日，被任命爲臺灣總督。
日本戰敗後，1945年10月25日，安藤總督代表臺灣總督府和駐軍向盟軍投降。
1946年4月19日於中國上海日本戰犯監獄畏罪自殺，他是在中國境內自決斃命的日軍最高將領。
