591 tarihinde Aziz Mahmud Hüdâyî tarafından yaptırılan ve ismiyle anılan cami 1893’te yeniden yapıldığından dolayı Aziz Mahmud Hüdâyî Camii yerine Yeni Camii denilmiştir. Ortası büyük, çevresi yarım kubbeler şeklinde ahşap tarzda inşa edilmiştir. Minaresi 1894 yılında yapılmıştır. Şerefe altında iki kuşak bulunmaktadır. Yapım sırasında birinci kuşaktaki yüksekliğin yeterli görülmediği ve yükseltildiği anlaşılmaktadır.

Celvetiyye tarikatının kurucusu Aziz Mahmud Hüdâyî, hem bir şeyh hem bir şairdir. Dönemin büyük sufisi 1543-1623 arasında yaşamıştır.