Аксай впервые упомянут в 1570 году в Посольском приказе. Тогда через местность, где сейчас расположен город, проследовало посольство во главе с Иваном Новосильцевым. Иван Грозный отправил его в Константинополь, и турецкие посланники встретили русских в устье реки Аксай и сопроводили до Азова, который тогда был турецким. В устье реки был основан казачий городок. Он не раз подвергался нападениям турок, ногайцев и крымских татар, но отстраивался заново. В 1742 году на карте указан Усть-Аксайский стан, жители которого занимались рыбной ловлей и даже был заводик по переработке рыбы. Зимой 1783-84 годов в нём проживал Суворов, домик Суворова сохранился до наших дней.
В 1797 году Усть-Аксайский стан преобразован в станицу Усть-Аксайскую. В 1801 году в ней было 527 дворов, большинство жителей были казаками и членами их семей. Станица входила в Черкасский округ Земли войска Донского (1802–1870), Область Войска Донского (1870-1920). Жители занимались торговлей хлебом, солью, рыбой, скотом, лесом. Во время Крымской войны в станице была создана Азовская гребная флотилия для защиты Азовского побережья от вторжения англо-французских войск. В 1861 году открыто железнодорожное движение. В конце XIX века в станице проживали почти 7000 человек.
В Гражданскую войну станица была под властью Донской армии белых, большинство казаков воевали на стороне Белого движения. Советская власть установлена в начале 1920 года. Во время Великой Отечественной войны станица дважды оккупирована германскими войсками, бои за неё носили ожесточенный характер. Мемориальный комплекс «Аксайская переправа» напоминает об этом. 14 февраля 1943 года станица освобождена от немецких войск. После войны станица восстановлена. В 1957 году получен статус города. С того периода город вырос в два раза, было построено много новых зданий и жилых домов.
В Аксае есть что посмотреть и туристам. В городе целых три музейных комплекса. Военно-исторический комплекс расположен в подземном бункере второй половины 20 века. Музейный комплекс «Аксайская таможенная застава» — в крепости 18 века. На «Почтовой станции XIX века» были проездом А.С. Пушкин, Н.Н. Раевский, М.И. Глинка, М.Ю. Лермонтова, император Николай I и другие знаменитости. В городе действуют две старинные церкви — Успенская 1820-х годов в стиле классицизма и Смоленская 1890-х годов в стиле эклетики.
