1911 yılında Cide'de doğdu. Şiir yazmaya ortaokul öğrencilik yıllarında başladı. İlk şiiri 1927'de, günlük Nazikter gazetesinde yayınlandı. Ayrıca; Açıkgöz, Güzel İnebolu ve Güzel Tosya gazetelerinde şiirleri ve yazıları yayımlanmaya başladı.

Lise yıllarında babasının ölümü nedeniyle okuldan ayrıldı. Yatılı olarak Kastamonu Muallim Mektebi'nde öğrenim gördü. 1930 yılında mezun oldu. Altı yıl süreyle Gerede, Akçakoca, Sakarya ile Düzce arasında ve Gümüşova'da ilkokul öğretmenliği yaptı. Ankara Gazi Eğitim Enstitüsü'nü 1938'de bitirdi ve Adapazarı Ortaokulu Türkçe öğretmenliğine atandı.

1939'da İstanbul Karagümrük Ortaokulu'nda Türkçe öğretmenliğine başlayan Ilgaz'ın, yazı ve şiirleri büyük dergilerde yayımlanmaya başladı. 1940'da Çığır, Oluş, Ulus, Güneş, Yücel, Varlık, Hamle ve Yeni İnsanlık dergilerinde şiirleri çıktı ve aynı yıl İstanbul Üniversitesi Edebiyat Fakültesi Felsefe Bölümü'ne girdi. Hasan Tanrıkurt, Sabahattin Kudret Aksal, Salah Birsel'le tanıştı.

Ömer Faruk Toprak ile 9 Eylül 1942'de Yürüyüş Dergisi'ni çıkardılar. Bu dergide Orhan Kemal, Sait Faik, Cahit Irgat, Nazım Hikmet (İbrahim Sabri) ile birlikte çalıştılar.

1943'te ilk kitabı Yarenlik'i yayınladı. Şiirleri olağanüstü bir ilgi gördü. Ocak 1944'de Sınıf adlı şiir kitabı çıktı. Sıkıyönetim kararı ile toplatıldı. Pertev Naili Boratav Sınıf için: "Yeni Türk şiirine inanmayanlara, Rıfat Ilgaz'ın kitabını okuyup anlamalarını dilemekten başka yapılacak birşey yoktur" diye yazdı.

1945'te Gün Dergisi çıktı. Ilgaz bu dergide sekreterdi. Bu dergide yazıları yayınlandı. Aziz Nesin'in Cumartesi Dergisine ortak oldu. Seçici kurulda çalıştı. 1946'da Esat Adil, Sabahattin Ali ve Aziz Nesin ile birlikte Gerçek Gazetesini çıkardılar. 1946 Ekim ayında Yığın Dergisi'ni Esat Adil Müsteçaplıoğlu ve Adil Yağcı ile birlikte çıkardılar. Öğretmenliğe yeniden döndükten sonra Boğazlayan (Yozgat)'a tayini çıktı.

Şubat 1947'de Sabahattin Ali, Aziz Nesin ve Mim Uykusuz'un çıkardığı Marko Paşa kadrosuna girdi. İmzasız yazılar yazdı. Sık sık kapatılan bu derginin daha sonraları sorumlu müdürlüğünü üstlendi.

1950'li yıllarda Ilgaz, gazetecilik yapmaya başladı. Sakıncalı olduğundan gazeteler ve dergiler imzalarına pek yer vermediler. 1952-1960 arasında Tan Gazetesi'nde dizgici-düzeltmen ve röportaj yazarı olarak çalıştı.

Turhan Selçuk ve İlhan Selçuk'un çıkardığı Dolmuş Dergisi'ne "Stepne" takma adıyla yazılar yazdı. Hababam Sınıfı, Pijamalar (Bizim Koğuş), Don Kişot İstanbul'da bu dergide dizi olarak yayınlandı. Hababam Sınıfı (kitap)|Hababam Sınıfı'nı da isminin sakıncalı olması nedeniyle "Stepne" (yedek lastik) takma adıyla yazdı.

Ocak 1953'te Devam adlı şiir kitabını çıkardı ve bu kitap da toplatıldı.

1958'de Semih Balcıoğlu'nun çıkardığı Taş dergisinde Rıfat Ilgaz imzasıyla yazılar yazdı.

1959 Büyük Gazete adında çıkan yeni bir dergiye yönetici oldu. Aynı yıl arkadaşı Suavi ile birlikte Gar Yayınları'nı kurdu.

1961 Anayasası yürürlüğe girdikten sonra kendi adıyla yazı ve şiir yayınlama özgürlüğüne kavuşan Rıfat Ilgaz, Demokrat İzmir, Akbaba, Vatan, Yeni Gün, Yeni Ulus gibi yayın organlarında ve kimi edebiyat dergilerinde yazı yazabildi. Sınıf Yayınları'nı kurdu ve kendi kitaplarını yayınlayabildi. 1970'te Basın Şeref Kartı'nı aldı.

1974'te emekli oldu. Doğum yeri olan Cide'ye yerleşti.

12 Eylül 1980 döneminde gözaltına alındı. 70 yaşında gerekçesiz sorguya çekildi ve bir aydan fazla gözaltında kaldı. Tutukluluğu sona erince İstanbul'da, oğlu Aydın Ilgaz ile birlikte ölümüne kadar beraber kaldı. Bu olaylar Kırk Yıl Önce Kırk Yıl Sonra adlı kitabında anlatılmaktadır. Oğlu ile birlikte Çınar Yayınları'nı kurmuşlardır.

7 Temmuz 1993 günü vefat etti.