1923 yılında il olan bölge 10 yıl sonra Giresun iline bağlanmıştır. Osmanlı dönemindeki adı Şarkikarahisar olan ilçenin adı Karahisar-ı Şarki şekli de kullanılmıştır. "Doğu Karahisar" anlamına gelmektedir. 1924 yılında Şebinkarahisar'a gelen Mustafa Kemal Atatürk, kentin Şarkikarahisar olan adının Şebinkarahisar'a dönüştürülmesini teklif etmiştir. Pontus Krallığı'nı ortadan kaldıran Roma Kumandanlarından Pompeius tarafından MÖ 63 yılında Roma askeri kolonisi olarak kurulmuş ve belli bir süre Colonia/Koloneia adıyla anılmıştır. Bu adın Ermenice biçimi Koğonya'dır. Türkçede ise 16. yüzyıla dek Köğonya olarak kullanılmıştır. 1473 yılında Fatih Sultan Mehmet Otlukbeli Savaşı'ndan sonra İstanbul'a dönerken Şebinkarahisar'a uğramış ve üç gün kaldığı bu şehir devrin ve kayinamelerinde Karahisar-ı Şarki adıyla kayıt etmiştir.