光绪八年(1882年)11月6日,冯玉祥出生于直隶青县,原籍安徽巢湖,自幼在直隶保定长大。 光绪二十二年(1896年),冯玉祥刚满15岁,正式入营当兵。他在父亲冯有茂的指点和管教下,开始“向读书和修养方面努力”。不久,冯有茂因病被裁。冯玉祥为了挣钱养家,愈发刻苦操练、学习,开始阅读《操法》、《阵法》等兵书。他看到淮军暮气沉沉,便于光绪二十八年(1902年)2月20日离开淮军,改投袁世凯的武卫右军第三营左队右哨六棚。 光绪二十九年(1903年)4月,冯玉祥升为四棚正目。12月中旬,又被提升为第二营右哨哨长。 光绪三十一年(1905年)武卫右军改为第六镇,冯玉祥任司务长,随后又升为本连排长,深得协统陆建章和标统王化东的器重。不久,冯玉祥成为陆建章的内侄女婿,得到了陆的提拔和帮助。 宣统二年(1910年),冯玉祥被任命为陆军第20镇(师)第80标第三营管带(营长)。