清光绪十四年,13岁的马福祥随兄马福禄到河州观看陕甘总督杨昌浚阅兵,回家后遂生习武从戎之心,乃随马福禄演习刀枪弓马,三年不废。清光绪二十一年,马福祥与兄马福禄招募士勇200名,称“安宁军”,分步骑两营,马福禄任督带兼步兵管带,马福祥为骑兵管带,归河州镇总兵汤彦和节制。