Már a legrégebbi oklevelekben is mezővárosként említik. 1567-ben a törökök felégették a falut, de ismét felépült, a 16. század végére Zemplén vármegye hetedik legnépesebb települése lett, 1627-ben már vásártartási joga is volt. 1637-ben a törökök elleni védekezésül a falusiak megerősítették a templomot. II. Rákóczi Ferenc és nővére, Rákóczi Julianna 1700-ban megvásárolta a települést. Maga a fejedelem is gyakran járt Mádon, különösen szüret idején. Mád ekkor már híres bortermelő helynek számított, még Thököly Imre is hazaengedte katonáit szüretre.
1739-ben újabb pestisjárvány sújtotta a falut. A Napóleon elleni háborúk idején a tokaj-hegyaljai hadak Mádnál gyülekeztek. A század végére a település elszegényedett, főként az adók és a rossz időjárás miatt. Az 1848-49-es szabadságharc során sok mádi vesztette életét, köztük a tizenöt éves Koroknay Dániel, a szabadságharc gyermek-hőse. Nevét ma a mádi általános iskola viseli.