Osmanlı Devleti'nin kurucusu Osman Bey'in dedesi olan Süleyman Şah, 1086'da 2 muhafızı ile Fırat Nehri'ni geçerken şehit olunca, Caber Kalesi'nde toprağa verildi. Yıllar sonra Yavuz Sultan Selim tarafından fethedilen bölgede Süleyman Şah adına türbe yaptırıldı. 1. Dünya Savaşı sonunda Fransızların işgal ettiği bölgede bulunan türbe, 1921'de yapılan Ankara Antlaşması sonrası Suriye topraklarında kaldı. Ancak, alanın Türkiye toprağı olduğu ve Türk bayrağının dalgalandırılıp, muhafız bulundurulması kabul edildi. Sonra Lozan Antlaşması ile bu hakkın korunması sağlandı. 1973'te Suriye'nin, türbenin Tabka Barajı altında kalacağını bildirmesi üzerine türbe Fırat Nehri doğusundaki Karakozak mevkisinde bulunan şu anki yerine taşındı. Mezarların bulunduğu 8 bin 797 metrekare alanda kurulu türbenin muhafazası, Şanlıurfa'daki Tugay Komutanlığı'na bağlı askeri birlik tarafından sağlanıyor.
