Askerî okullarda; coğrafya, daha sonra Fransızca öğretmenliği yaptı. "İrtika", "Malûmat", "Hazine-i Fünun", "Mecmua-i Ebüzziya"ya yazılar yazdı. "Tercüman-ı Hakikat" gazetesi başyazarlığında bulundu.
2. Meşrutiyet'ten sonra, Harp okulu "tarih öğretmenliği"ne getirildi. "Millet" gazetesi başyazarı oldu. "Lâle Devri", "Köprülüler", "Tarihî Simalar", "Felâket Seneleri", "Kadınlar Saltanatı" gibi eserleri çeşitli gazetelerde tefrika edildi.
Genelkurmay yayın şubesinde görevlendirildi. "Askerî Mecmua"nın yayınını idare etti (1909). "Tarihi Osmanî" encümenine daimî üye seçildi. Bir heyetle Fransa'ya gönderildi. "Askerî Sansür" müfettişliğine tayin edildi (1912).
Balkan harbi sonunda emekliye ayrıldı. Kütüphaneler ve devlet arşivinde çalışarak tarihî eserlerini tamamladı. "Yüzbaşı" rütbesiyle tekrar orduya çağrıldı. "Sansür Genel müfettişliği" vazifesi verildi.
Rusya'ya dair yazdığı bir seri makalede Kavalalı Mehmed Ali Paşa'yı tenkit ettiği için, sadrazam Sait Halim Paşa tarafından Ulukışla'ya arpa ve saman memuru olarak gönderildi. Bu vazife ona, Nevşehirli Damat İbrahim Paşa hakkında araştırmalar yapma imkânı verdi.
Eskişehir sevk komisyonu başkanlığı sırasında hastalanarak İstanbul'a geldi. Harbiye nâzırı Enver Paşa'nın aracılığıyla İstanbul'da oturmasına izin verildi. "Tarihte Osmanlı Neferi", "Yirmi Beş Sene Siper Kavgası" gibi tamamen askerlere ait risaleler çıkardı.
1. Dünya Savaşı sonunda Ermeniler'in Türkler'e karşı yaptıkları eziyetleri yerinde inceleme maksadıyla, yabancı gazetecilerden kurulu bir heyetin başında olarak; Batum, Kars, Ardahan, Artvin, Erzurum, Erzincan ve Trabzon havalisini gezdi. "İki Komite-İki Kıtâl" ve "Kafkas Yollarında" adlı iki eserinde görüşlerini yazdı (1919).
1. Dünya Savaşı sonunda terhis edilerek, Mehmed Arif Bey'in yerine, İstanbul Dârülfünunu Osmanlı tarihi muallimliğine tayin edildi ve 1 yıl sonra da müderrisliğe yükseltildi. Daha sonra Türkiye Tarihi müderrisi oldu. Abdurrahman Şeref Bey'in vefatı üzerine de Türk Tarih Encümeni başkanlığına seçildi.
1933' de Dârülfünün'un üniversite haline getirilmesiyle yapılan ıslahat sonunda açıkta kalarak zor duruma düşen Ahmed Refik Altınay, 1937' de İstanbul'da vefat etti.
Ahmed Refik Bey'in en büyük hususiyeti, halka tarih zevkini aşılamış olmasıdır. 150' ye yakın eserinin bir kısmı etraflı araştırmalara dayanmakla beraber, büyük bir kısmı, hakikatleri tahrif etmeden, tarihî roman tarzında yazılmıştır.
Birçok manzume ve şarkısı vardı. Şarkılarının çoğu bestelendi. Şiirleri "Gönül" adlı bir kitapta yayınlandı. Tercüme ettiği 4 eser vardır. Kendisi neşeli ve içkiye fazlaca düşkündü. "Demirbaş Şarl" adlı eserinden dolayı, İsveç hükümeti kendisine 1918' de bir nişan vermiştir.
