Ali Paşa Bosnalı olup, Enderun’dan yetişmiştir.

II. Bayezid’in kızı, Selçuk Sultan’ın kızından torunu olan Fatma Sultan ile evlenmiştir. Çeşitli saray ağalıklarında bulunduktan sonra, Erzurum (3 defa) Karaman, Bağdat, Sivas ve Anadolu Beylerbeyliklerinde görev yapmıştır. Ali Paşa Erzurum Beylerbeyi iken 10 Safer 980 (2 Haziran 1572) tarihinde hastalanarak vefat etmiştir. Temerrüd Ali Paşa, Erzurum Beylerbeyi olduğu sırada Sivas Defterdarı oğlu Mustafa Bey’in vefat etmesi üzerine Tokat’ta bir türbe ve yanına bir cami yapılmasını istemiştir. Caminin bitmesine yakın Ali Paşa’nın vefat etmesi üzerine ortaya çıkan maddi sorunlar sebebiyle, doğu ve batı tarafındaki duvar kalıntılarından anlaşıldığı üzere son cemaat yerinin dıştan ikinci bir kademe ile kapatılması planlandığı halde bundan vazgeçilmiştir.