Diyarbakır’ın fetih mücadelesinin ardından 639 yılında, o dönemde şehrin en büyük kilisesi olan Mar Toma Kilisesi’nin camiye çevrilmesiyle temelleri atılan Ulu Camii’nin kesin inşa tarihi hala bir sır perdesiyle örtülüdür. Anadolu’nun en eski ve en önemli camilerinden biri olarak kabul edilen bu tarihi yapı, Müslümanlar için aynı zamanda 5. Harem-i Şerif unvanını taşımaktadır.
Yapı, tarih boyunca pek çok devlet ve hükümdarın himayesine girmiş, çeşitli dönemlerde kapsamlı onarımlardan geçerek günümüze ulaşmıştır. Özellikle 1091 yılında gerçekleştirilen büyük onarım, caminin mimari özelliklerine ışık tutmaktadır. Plan şeması açısından, Şam Emeviye Camii’nin Anadolu’daki bir yansıması olarak değerlendirilen Ulu Camii, farklı medeniyetlerin izlerini taşır.
Büyük Selçuklu Hükümdarı Melikşah, İnal ve Nisanoğulları, Anadolu Selçuklu Hükümdarı II. Gıyaseddin Keyhüsrev, Artuklular, Akkoyunlu Hükümdarı Uzun Hasan ve Osmanlı padişahlarına ait kitabeler ve fermanlar, caminin farklı bölümlerinde dikkat çekmektedir. Bu tarihi belgeler, Ulu Camii’nin farklı dönemlerde gördüğü ilgiyi ve taşıdığı derin tarihsel önemi gözler önüne sermektedir.