Fudbalski klub Novi Pazar osnovan je 1928.godine pod nazivom FK Sandžak, da bi kasnije taj naziv bio promenjen u FK Deževa. Nakon fuzije FK Deževa i FK Ras 1962.godine, nastaje klub sa današnjim imenim FK Novi Pazar. Uspon kluba započeo je 80-ih godina prošlog veka kada klub u sezoni 1983/84 po prvi put uspeva da se plasira u Drugu ligu grupa Istok. Narednih nekoliko sezona klub je beležio odlične rezultate pa je u sezoni 1987/88 uspeo čak i da se plasira u Jedinstvenu drugu ligu  Jugoslavije. Tamo se zadržao samo jednu sezonu, nakon čega sledi povratak u treći rang takmičenja.

U sezoni 1991/92 Novi Pazar je ponovo izborio mesto u Drugoj ligi, gde se, sem u sezoni 2002/03 zadržao gotovo dve decenije. Dva puta je klub izborio baraž za popunu Prve lige, međutim Sutjeska i Sloboda su ih u tome sprečili. Iako je u sezoni 2010/11 klub zauzeo 3.mesto u Prvoj ligi Srbije, klub je nakon odustajanja prvoplasiranog BASK-a, odlukom IO FSS zauzeo njihovo mesto u Superligi Srbije. Klub je u debitantskoj sezoni izborio opstanak osvajanjem 14.mesta, što je ponovljeno i u narednoj sezoni. U sezoni 2013/14 Novi Pazar osvaja 8.mesto u šampionatu, da bi već u sezoni 2014/15 klub ostvario najveći uspeh u svojoj istoriji, osvojivši 5.mesto u Super ligi Srbije. Iz elitnog ranga ispali su na kraju sezone 2016/17 zauzevši poslednje 16.mesto na tabeli. Sezonu 2018/19 ekipa Novog Pazara je okončala na 14.mestu tabele Prve lige Srbije, koje vodi u niži rang, ali je nakon istupanja iz lige fudbalskog kluba Borac iz Čačka, odlukom Izvršnog odbora FSS, upražnjeno mesto dodeljeno ovom klubu.

Sezonu 2019/20 Prve lige Srbije, obeleženu skraćenjem takmičenja zbog pandemije virusa COVID-19, ekipa Novog Pazara je završila na 10.mestu na tabeli. Međutim, odlukom nadležnih organa elitni rang nije napustio nijedan tim, a proširen je za još četiri učesnika među kojima se našla i ekipa Novog Pazara koja je popunila mesto Grafičara koji nije dobio licencu za učešće u Super ligi Srbije.

Najveći uspesi

5.mesto u prvenstvu Srbije
(2014/15)

Osmina finala Kupa Srbije
(2009/10, 2013/14, 2015/17)