Родился на хуторе Козюрин (ныне Пролетарского района Ростовской области) в бедной крестьянской семье. Член ВКП(б)/КПСС с 1919 года. С 1903 года в армии. Служил в 46-м Донском казачьем полку, участвовал в русско-японской войне 1904-1905 годов. В 1908 году окончил Петербургскую школу наездников. Участвовал в 1-й мировой войне старшим унтер-офицером 18-го Северского драгунского полка на германском, австрийском и кавказском фронтах, был награжден за храбрость 4-я Георгиевскими крестами и 4-я медалями. Во второй половине июня 1919 года в молодой Красной Армии было создано первое крупное кавалерийское соединение - Конный корпус под командованием С.М. Буденного, сыгравший в августе 1919 года решающую роль в разгроме в верховьях Дона основных сил Кавказской армии генерала Врангеля. 19 ноября 1919 года командование Южного фронта на основании решения Реввоенсовета республики подписало приказ о переименовании Конного корпуса в 1-ю Конную армию. Командующим этой армией был назначен С.М. Буденный. Во время Великой Отечественной войны входил в состав Ставки Верховного Главнокомандования, участвовал в обороне Москвы, командовал группой войск армий резерва Ставки (июнь 1941 года), затем главком войск Юго-Западного направления (июль - сентябрь 1941 года), командующий Резервным фронтом (сентябрь - октябрь 1941 года), главком войск Северо-Кавказского направления (апрель - май 1942 года), командующий Северо-Кавказским фронтом (май - август 1942 года).
Маршал Советского Союза (1935 г.), трижды Герой Советского Союза (1958, 1963, 1968 годах). В Гражданскую войну командующий 1-й Конной армией (1919-1923 гг.). В 1939-1941 гг. заместитель наркома обороны СССР. В Великую Отечественную войну (в 1941-1942 гг.) главнокомандующий войсками Юго-Западного и Северо-Кавказского направлений, командующий Резервным и Северо-Кавказским фронтами. Один из организаторов массовых репрессий среди военных в 1930-40-х гг. Воспоминания: "Пройденный путь" (кн. 1-3, 1958-1973 гг.). Умер на 91-м году жизни, 26 октября 1973 года. Похоронен в Москве на Красной площади. На могиле установлен памятник.