Coğrafi önemi nedeniyle tarih boyunca çeşitli kavimlerin ve milletlerin uğrak yeri olan ilçenin ilk yerleşim yeri, Karasu kıyısındaki eski bir kalenin kalıntı höyüğünün etrafı ile Kaban Dağının doğusudur. İlçenin ismi tarih içerisinde Locus Basara, Şöğayn, Aşhane, Açhane, Kale olarak değişegelmiş günümüzde Aşkale olarak dilimize yerleşmiştir. MÖ. 1700 yıllarında Hititler tarafından kurulan ilçe, tarih boyunca otuz beş defa el değiştirmiştir. M.S. 395 yıllarında Roma İmparatorluğu'nun elinde bulunan ilçe, Hint-Avrupa İpek Yolu'nun üzerinde oluşu nedeniyle bütün milletlerin ilgisini çekmiştir M.S.650 yıllarında Bizans yönetimine giren ilçe, 1387'de Timur'un egemenliğine girmiştir. 1473'te Otlukbeli Savaşından sonra Osmanlı topraklarına katılan ilçe, 1916'da Rusların işgaline uğramış, 3 Mart 1918 tarihinde işgalden kurtarılmıştır.