Sultan II. Abdülhamit  Hicaz Demiryolu iradesini 2 Mayıs 1900 tarihinde yayınladı. İnşaat  1 Eylül 1900 tarihinde başladı. Demiryoluna 1.05 metre açıklıkta dar hatlı raylar döşendi. Böylece yapım maliyetinin diğer hatlara göre daha ucuza gelmesi ve yapımının daha kolay olacağı tasarlandı.

Demiryolu yapımına ilk olarak Şam-Der'a arasında başlandı. 1903'te Amman'a, 1904'te Maan'a ulaşıldı. Maan'dan Akabe körfezine bir şube hattı yapılarak Kızıldeniz'e çıkılmak istendi ise de İngilizlerin karşı çıkması sonucu gerçekleştirilemedi.

Yolcu taşımacılığına 1 Eylül 1905 yılında başlandı. Aynı sene Mudevvera'ya ve 1 Eylül 1906 tarihinde de Madain Salih'e ulaşıldı.  Al-Ula'ya 1907'de, Medine'ye 31 Ağustos 1908'de erişildi. O tarihe kadar toplam 1464 km'yi bulan Hicaz Demiryolu Sultan Abdülhamit'in tahta çıkışının 33. yıldönümü olan 1 Eylül 1908 tarihinde yapılan resmi törenle bütünüyle işletmeye açıldı. Hicaz Demiryolu I. Dünya Savaşı'na kadar yoğun bir şekilde kullanıldı.

Şam'dan Amman'a her gün, Medine'ye ise haftada üç gün seferler yapılıyordu. Trenler  7.30'da Şam'dan hareket ediyor ve 4. gün öğleden sonra saat 3'te Medine'ye ulaşıyordu. Ayrıca haftada bir Şam'dan ve Hayfa'dan yemekli ve yataklı ekspres seferi düzenleniyordu. Bu özel trenin Medine'ye varış süresi yalnızca 48 saatti. Bu seferlerin dışında Medine'ye yük ve su taşıyan programlı ve programsız tren seferleri bulunmaktaydı. Hattın Hayfa şubesinden ise Şam'a her gün yaklaşık 12 saat süren düzenli tren seferleri yapılmaktaydı. Gerektiğinde ek seferler düzenleniyordu.

Demiryolu boyunca yedi büyük bakım atölyesi bulunmaktaydı. Mesela Şam'ın Kadem istasyonu 43 200 metrekare alan üzerine kuruldu. Bugün hala faaliyette olan bu dev atölye bölgede ilk defa elektrik enerjisi kullanan mekan olma özelliğini de taşımaktadır. 1911 yılında demiryolu Kadem'dem Şam'ın merkezine doğru 3 kilometre daha uzatılarak Şam'ın tam orta yerindeki modern yeni istasyon binasına kavuştu. Bu istasyon binası bugün hala faaliyette ve Suriye'deki "Hicaz Demiryolları Genel Müdürlüğü"nün merkez binasıdır.

Hicaz Demiryolu'nun inşaatı sırasında birçok köprü, istasyon, tünel menfez, gölet, çeşme, fabrika, hastahane, dökümhane, okul, mescit, karantina, tamir atölyesi vs. yapıldı. Bazı istasyonlarda postaneler ve telgraf merkezleri kuruldu, özellikle Hicaz Telgraf hattı resmi ve sivil haberleşmede çok büyük kolaylıklar sağladı.

Demiryolu dışında yapılan inşaat faaliyetlerinden bazıları şunlardır: Şam'da lokomotif vagon tamir ve bakım atölyesi, Medine tren ve lokomotif bakım atölyesi, 2.666 adet kagir köprü ve menfez, 7 adet demir köprü, 9 adet tünel, 96 adet istasyon, 7 adet gölet, Hayfa, Der'a ve Maan'da fabrika, Hayfa'da iskele,  ambarlar,  dökümhane, boruhane, Maan'da otel ve hastahane, Tebuk'de hastahane, 37 adet su deposu.

II. Abdülhamid'in tahttan indirilmesine kadar "Hamidiye Hicaz Demiryolu" olarak anılan ve 18 Ocak 1909'dan itibaren de sadece " Hicaz Demiryolu" olarak bilinen hat yapılan şube hatları ile beraber 1918'de 1.900 km'yi aşmıştır.  1910'da trenlerle taşınan sivil yolcu sayısı 169.448, 1913'te 232.563 olarak gerçekleşti. 1908'den 1913'e kadar toplam 968.000 sivil yolcu taşndı. Senede ortalama 16.000 hacı Hicaz Demiryolu'nu kullanmaktaydı. Yapılan hesaplara göre İstanbul'dan Mekke'ye demiryolu ile ulaşım 120 saatte gerçekleşebilecekti. Şam-Medine arası hac yolculuğu yaklaşık 72 saatte gerçekleşiyordu. Demiryolu sebze, meyve, tuz, pirinç, meşrubat, tütün, un, kömür gibi ticari eşya ile hayvan nakliyatı için de önemli bir ulaşım vasıtasıydı. 1910'da yaklaşık 66 bin ton, 1913'te 112 bin ton ticari eşya nakledildi. Aynı yıllarda taşınan hayvan sayısı ise 1910'da 2788 ve 1913'de 6477 olarak gerçekleşti. 1910 yılında 367.890 lira gelir, 71.167 lira kar, 1913 yılında ise 329.647 lira gelir, 78.619 lira kar elde edildi.