Alucra'nın yerleşim tarihi Hitit lere kadar uzanmaktadır. İskitler, Kimmerler, Medler, Persler, Romalılar ve Bizans lılar bölgede sırasıyla hakimiyet kurmuşlardır. MS 391 yılında Alucra Orta Asyadan gelen Kıpçak ve Peçenek Türklerinin istilasına uğramış, bölge 60 yıl kadar Türklerin yönetiminde kalmıştır. 8. yüzyılda ise Maveraünnehirden gelen Oğuzlar,Türkmenler Çamoluk, Çakmak ve Koman bölgelerine yerleşmişlerdir.1071 Malazgirt Muharebesi nden sonra Alucra ve çevresi Türkmen beyi Kuşluhan bey tarafından fethedilmiş, Merkezi Trabzon da bulunan Danişmendliler Beyliği nin idaresine verilmiştir. Bölge Bizans ve Mengücekliler arasında bu dönemlerde birkaç kez el değiştirmiştir.Osman Oğulları Anadolu birliğini kurunca,Alucra da bu beyliğe katılmış oldu. Türkmen ,Uzun HasanAkkoyunlular Alucra yı bir dönem topraklarına kattı. Ancak Fatih Sultan Mehmet Han bu bölgeye sefer düzenleyerek geri aldı. Otlukbeli Muharebesinden sonra da Alucra bölgesi tamamen Osmanlı İdaresinde kalmış oldu. Aluç ağacının çok olması dolayısıyla bu dönemde ismini aldığı sanılmaktadır. Başka bir rivayete göre de Fatih Sultan Mehmet Han, Şebinkarahisar da iken elini Alucra ya uzatarak "el-ücrâ" (ücra yer) diye söyledigi rivayet edilir.

Anadoluda çıkan Celali İsyanları ndan Alucra da etkilenmiştir. Bu bölgedeki isyancı Türkmenler Kuyucu Murat Paşa tarafından sindirilmiştir.I. Dünya Savaşı nda Alucrada bir cephe oluşturulmuş, cephe komutanı Mareşal Mustafa Fevzi Çakmak karargahını bugünkü Çakmak köyünde kurmuştur. Halen bu köyde bir şehitlik mevcuttur.