公元前11世纪初，西周开国君主周武王姬发，分封兄弟15人、姬姓40人建国。随国即为姬姓40国之一。公元前328年前后，楚灭随，设随县。
秦朝时，全面实行郡县制。随县隶属于南阳郡。从秦到西汉、东汉，随县的建制一直存在。西汉末年，绿林山（今大洪山）区爆发绿林起义。
西晋太康九年（公元228年），武帝司马炎封司马迈为随郡王，设随郡。东晋时仍置随郡，隶属于荆州。西魏大统元年（公元535年），随郡升为随州，辖郡、县。
北周大象二年（公元580年），静帝宇文阐晋封左大丞相杨坚为随国公，建随国，领20郡。
公元581年，杨坚代周称帝，以自己曾受封于随，因以国号。又忌讳“随”字带“之”旁，便去“之”为“隋”。同年，随州改为隋州，隶属于汉东郡。
唐朝时，汉东郡改为随州。宋代时，随州属京西南路（襄阳府）。宋末，随州成为宋、金拉锯战的战场，战乱频繁。著名的佛教道场洪山寺迁往武昌。
元代，随州属湖北道宣慰司，后改隶鄂州行省德安府。元末，梅丘里玉沙村（今柳林古城畈村）人明玉珍起义，后加入徐寿辉红巾军。1362年在重庆称帝，建立大夏政权，年号“天统”。
明清时的随州，有时为直隶州，有属县更多的时候为散州，没有属县。
1912年，中华民国建立。随州改为随县。
1949年中华人民共和国成立，随州境内设置了随县、洪山县、应山县，隶属于湖北省孝感行政区专员公署。1955年，洪山县并入随县，隶属襄阳行政区专员公署。1979年，设随州市（县级），县、市分设。1983年，随县并入随州市。1994年，省政府将随州市改为省直管市。2000年，设立地级随州市，辖曾都区，代管广水市。2009年，在曾都区区划范围内，划出部分乡镇成立随县，曾都区继续保留。
