A római időkben szarmaták, később szlávok, a honfoglaláskor, 895-896-ban, Szabolcs és Tas vezér foglalta el a Tiszától a Krasznáig, a kabarok (a magyarok katonai segítői), majd Kond magyarjai laktak itt. Az államalapítás utáni századokban a megye sokat szenvedett az ellenséges betörésektől; besenyők, kunok, tatárok pusztították. Nem tudjuk pontosan, mikor létesült az első település a mai város helyén. Első ismert írásos említése 1274-ből való: eszerint a 13. század második felében annak a Balogsemjén nemzetségnek volt egyik központja, amelyikből a későbbi nagykállói Kállay család, a középkori mezőváros és környékének földbirtokosa is származott.
Nagykálló a 14. században már mezőváros és a Kállay család birtoka volt. Közvetlen szomszédságában egészen a XX. századig külön településként létezett a Kiskálló nevű falu, mára a kettő összeolvadt. 1315-ben Károly Róberttől jogot kapott hetivásár tartására.
1457-ben a település urai, a Kállayak királyi engedélyt kaptak várkastély, azaz erődített udvarház építésére. 1556-ban a törökök felégették a mezővárost, és az ideiglenesen birtokba vett területre egy erőd építését határozták el. 1603-ban Bocskai István itt telepítette le a hajdúit, ezzel hajdúvárosi rangra emelte, Nagykállót (amit akkoriban a sok áttelepülés miatt Újkállónak is hívtak). Lakóit a hajdúvárosok jogaival ruházta fel, ami együtt járt azzal, hogy lakosai mentesültek az állami és földesúri terhek alól, katonáskodásuk fejében.
A 17. században Nagykállóban megalakultak és virágzásnak indultak a céhek; a csiszár, kovács, lakatgyártó, szabó, csizmadia, szűcs, varga, melyeknek kiváltságlevelei az 1616-1654 közötti időkből valók. 1666-ra jelentős salétromfőzőhely volt. 1644-ben I. Rákóczi György elfoglalta, és itt bocsátotta ki Függetlenségi Kiáltványát. II. Rákóczi Ferenc 1703. július 29-én, a Rákóczi-szabadságharc első ostromaként megtámadta, és másnapra bevette a várat. 1704-ben elrendelte a vár lerombolását (amit végül csak 1709-ben hajtottak végre). 1747-ben Szabolcs vármegye székhelye lett. Amikor 1867-ben Nyíregyháza megyeszékhely lett, Nagykálló háttérbe szorult, ugyanekkor városi rangját is elvesztette. 1983-ban a járásrendszer megszűnésekor elvesztette a járásszékhelyi rangját is. 1989-ben ismét városi rangot kapott. 2013-ban a járásrendszer újraindításakor korábbi rangját visszaszerezve, a Nagykállói járás központja lett.