Медынь впервые упоминается в летописях в 1386 году при передаче из Смоленского княжества в Московское. Через три года Дмитрий Донской отдал её в удел сыну Андрею Можайскому. В 1454 году Можайский удел был захвачен Василием II, который завещал его сыну Юрию Меньшому. Затем Медынь в собственности Василия III, в 1533 году он завещал город младшему сыну Юрию. В 1565 году Иван Грозный забрал Медынь в опричнину.
В начале 17 века Медынь пришла в упадок и стала экономическим селом. В 1680 году передана во владение Новоиерусалимскому монастырю. В 1708 году приписана к Московской губернии. В 1777 году становится уездным городом Медынского уезда Калужского наместничества, с 1796-ого — Калужской губернии. Во время Отечественной войны 1812 года в Медыни произошло сражение между отрядами полковника Быхалова и авангардом генерала Лефевра, где русские одержали полную победу. В честь этого в городе есть мемориал войны 1812 года. В 1845 году в Медыни основана спичечная фабрика.
Советская власть установлена в феврале 1918 года. В конце того же года эсеровский мятеж окончился неудачно, большевики остались у власти. В 1930 году силами армии было проведено показательное раскулачивание кулаков и лишенцев. В октябре 1941 года город героически обороняли курсанты Подольского пехотного училища, но 12 октября Медынь пала. Освобождена в январе 1942 года в ходе Ржевско-Вяземской операции войсками 43 армии. В Центральном парке в честь защитников и освободителей города установлен танк-памятник Т-34-76, создана Аллея Героев. С 1944 года город становится районным центром вновь образованной Калужской области.
В городе сохранились и действуют православные храмы — Казанский середины 19 века и Покровский начала 20 века. Сохранилась историческая застройка.