Алексей Максимович Каледин родился в станице Усть-Хоперской в семье донского казака. Его отец, казачий офицер, полковник, участник Севастопольской обороны, передал сыну любовь к Отечеству и ратному делу. Первоначальное военное образование Каледин получил в Воронежской военной гимназии, затем он поступил в Михайловское артиллерийское училище, по окончании которого (1882 г.) получил назначение на Дальний Восток, где служил в конно-артиллерийской батарее Забайкальского казачьего войска. Уже в то время Алексея Максимовича отличали постоянная сосредоточенность, серьезность и собранность в исполнении дел. Обладая недюжинными способностями и тягой к знаниям, в 1887 г. он поступил в Академию генерального штаба. Став по ее окончании офицером генерального штаба, служил в Варшавском военном округе, выделявшемся тогда боевой подготовкой войск, затем на Дону, в штабе Донского казачьего войска. С 1903 г. Каледин являлся начальником Новочеркасского казачьего юнкерского училища, в котором он создал условия, обеспечивавшие хорошее обучение и воспитание будущих казачьих офицеров. С 1906 г. он - помощник начальника штаба Донского войска, отличался неутомимой энергией в устройстве военной жизни на Дону.

С 1910 г. началась служба Каледина на командирских должностях, давшая ему необходимый опыт перед последующими испытаниями первой мировой войны. Полтора года он командовал 2-й бригадой 11-й кавалерийской дивизии, ас 1912 г. возглавлял 12-ю кавалерийскую дивизию. Под его руководством она превратилась в отлично подготовленное боевое соединение, одно из лучших в русской кавалерии, что подтвердила война.

В первой мировой войне кавалерия уже не была "царицей полей", но в составе 8-й армии Юго-Западного фронта конники Каледина всегда были активной боевой силой. В победных реляциях фронта в период Галицийской битвы 1914 г. все чаще и чаще упоминалось имя начальника 12-й кавалерийской дивизии. Командующий 8-й армией генерал А.Брусилов, со временем убедившийся в боевых возможностях дивизии, стал направлять ее на самые горячие участки сражений. Всегда хладнокровный, спокойный и суровый Каледин твердо держал управление дивизией в своих руках, его приказы выполнялись подчиненными быстро и энергично. В отличие от многих других военачальников он не посылал, а водил полки в бой. В период неудач Юго-Западного фронта весной и летом 1915 г. конница Каледина, как и "Железная дивизия" Деникина, часто перебрасывалась с одного жаркого участка на другой, заслужив название "пожарной команды" 8-й армии.