Грязовец впервые упомянут в 1538 году как починок Грязивитцкой в жалованной грамоте Ивана IV Васильевича Грозного Корнильево-Комельскому монастырю. В 1631 году уже село Грязивицы имело две церкви и сорок дворов. Удобное расположение на дороге из Москвы в Архангельск способствовало развитию села, особенно пока порт в Архангельске был единственным торговым портом России. К началу XVIII века Грязивицы стали крупным торговым селом. После открытия порта в Петербурге торговые пути сместились, и село потеряло прежнее значение.
В 1780 году указом Екатерины II Грязовец стал городом, центром Грязовецкого уезда Вологодского наместничества, затем губернии. В 1781 году утвержден регулярный план застройки города. В 19 веке хорошо развивалось товарное льноводство, а также производство масла. В городе появилось купеческое сословие, в многом определявшее жизнь города. Железная дорога прошла через город в 1872 году. В начале XX века в городе было городское училище, женская гимназия, две начальные школы. В уезде было 90 начальных школ. Советская власть установлена в конце 1917 года. Во время войны в Грязовце формировалась 39-я армия. В тыловом городе все работали на общую Победу.
Для туриста представляет большой интерес старинная архитектура Грязовеца. Сохранилась Крестовоздвиженская церковь конца 18 века в стиле барокко. Музей истории Грязовца тоже расположен в купеческом доме 19 века. Стоит отметить и гаражный музей Анатолия Капралова, краеведа и собирателя старины.