Osmanlı Devleti, askerî ve idari konularda olduğu gibi ilmî alanda da sağlam ve tutarlı bir yol takip etmiştir. Osman Bey’den itibaren fethedilen bölgelere kadı tayin edilerek buralarda adaletin zamanında teminine çalışılmıştır. Ayrıca Orhan Bey, medrese kurarak ilim adamlarının yetişmesi ve ilmin yaygınlaşmasını sağlamıştır. Böylece yargı ve eğitim gibi toplumun iki önemli ihtiyacının düzenli bir şekilde karşılanmasına zemin hazırlanmıştır. Bunun yanında Kuruluş Dönemi’nden itibaren ulemanın bilgi ve tecrübesinden de geniş ölçüde faydalanılmıştır.
Vezirlik, defterdarlık gibi önemli görevlere tayin edilen ulemadan, bu yolla devlet müesseselerinin kurumsallaşmasında da yararlanılmıştır.
Osmanlılarda ilmiye sınıfının başlıca üç görevi vardır: Eğitim-öğretimin sürdürülmesi, idari ve adli hizmetlerin görülmesi ve sosyal, idari ve askerî konularda dinin görüşünün açıklanmasıdır. Bu görevleri sırasıyla müderris, kadı ve müftü gibi kişiler gerçekleştirmiştir. İlmiye sınıfı içerisinde eğitim ve öğretim görevini üstlenen ulema, derecelerine uygun medreselerde müderrislik yapmış ve mesleki başarı gösterenler ülkenin önemli medreselerine atanmıştır.
Osmanlı Devleti’nde medreseyi bitirenlerden kadılığı isteyenler, mülazemetten sonra bir kasaba kadısı olabilirdi. İlmiye sınıfından olan kadı, idare ve yargı görevini yerine getirirdi. Padişah tarafından atanan kadılar, atandığı yerde padişah adına adaleti tesis ederdi. Osmanlı devlet teşkilatında kadıların adli görevi yanında idari, beledi, askerî, mali ve noterlik alanlarında da görev ve yetkileri bulunmaktaydı. Vakıfların denetçisi de olan kadılar; asayiş kuvvetlerinin, belediye hizmetlilerinin ve zabıta görevlilerinin de amiriydi. Ayrıca kadılar evlenme, boşanma, veraset meselelerinde; merkezden gelen emirlerin tasdiki ve mahkeme kayıtlarının tutulmasında, her türlü akdin kaydedilmesinde, divanın emirlerinin halka bildirilmesinde ve sefer esnasında idaresinde bulunduğu yerde ordunun ihtiyaçlarının görülmesinde sorumlu ve yetkiliydi.
Müftüler ve şeyhülislamlar toplumun inanç ve ibadetleriyle ilgili sorunların çözülmesi ve devlette şeriatın uygulanmasından sorumludur. Müftüler, belirli davalarda kadıların veya özel kişilerin sorularına dair İslami kaynaklara dayanarak fetvalar hazırlamıştır.
Kanuni Dönemi’nde müftüler de kadılar gibi teşkilatlandırılmış ve şeyhülislamlık makamı ortaya çıkmıştır. İstanbul müftüsü, Osmanlı Devleti’nin başmüftüsü yani şeyhülislamı olmuştur. Şeyhülislam , dinî hükümleri yorumlamada en yetkili kişidir. Mütevazı bir makam olarak ortaya çıkan şeyhülislamlık kurumu, XVI. yüzyılda Zenbilli Ali Efendi, İbn-i Kemal ve Ebu’s-Suud Efendi dönemlerinde daha fazla önem kazanmış ve ilmiye teşkilatının en yüksek makamı hâline gelmiştir. Ebu’s-Suud Efendiʼden itibaren Rumeli kazaskerliği yapanlar şeyhülislamlık makamına atanmıştır.
Şeyhülislamlar, dinî konular dışında zamanla örf, âdet ve geleneklerle ilgili hususlarda da fikir beyan etmeye başlamış hatta kiliselerdeki seçim ihtilaflarını halletme konusunda bile fetvalar vermişlerdir. Bununla birlikte mühim devlet işlerinde de şeyhülislamın fikir ve düşüncelerinden istifade edilmiş; savaş ilanında, barış yapılmasında, ıslahatların uygulanmasında bile şeyhülislamdan fetva alınmıştır.
Osmanlı sultanları, merkezî otoriteyi güçlendirmek için idari işlerde sarayda eğitim görmüş kişilere görev vermiş ve ulemayı da kendi hizmetine alarak devlet teşkilatlanmasını sağlam temellere oturtmuştur. Hem şeriatı hem de doğrudan doğruya sultan tarafından çıkarılan kanunları ve nizamları uygulayan kadıya, bir yöneticinin emir verme yetkisi yoktur. Diğer taraftan, şeriatla ilgili konular üzerinde fetva veren şeyhülislamın, devlet işlerine müdahale etme hakkı olmayıp sadece devlet işlerinin dine uygunluğu konusunda görüşü alınmıştır.
Osmanlı Devleti’nde idare ile ulema arasındaki ilişkiler, her dönemde önemini korumuş ve bu durum özellikle müderris atamalarına yansımıştır. İlmiye teşkilatı hiyerarşik bir yapıya sahip olsa da son karar mercii padişahtır. Padişahlar, ilmiye sınıfına ayrıca özen göstermiştir. Örneğin Fatih Sultan Mehmet, Rumeli’den İstanbul’a dönerken rastladığı Kazasker Manisazâde’ye Arapça bir beyit sormuş, Manisazâde’nin düşünmek için süre istemesi üzerine âlimi kazaskerlikten azletmiş ve Sahn-ı Seman Medreselerinden birine eğitim için göndermiştir.