张道陵出生于汉光武建武十年正月十五日,据说出生前其母梦见魁星下降,感而有孕。出生时满室异香,整月不散,黄云罩顶,紫气弥院。自幼聪慧过人,七岁便读通《道德经》,天文地理、河洛谶纬之书无不通晓,为太学书生时,博通《五经》,后来叹息道:“这些书都无法解决生死的问题啊!”于是弃儒改学长生之道。张祖二十五岁,曾官拜江州令。而他却身在朝政,志慕清虚,不久就隐居到洛阳北邙山中,精思学道,修炼三年,有白虎口衔玉符而至其所。永元初年,汉和帝赐为太傅,又封为冀县侯,三次下诏,张祖都婉拒了,他对使者说:“人生在世,不过百岁,光阴荏苒,转瞬便逝。父母隆恩,妻妾厚爱,也随时而消失。君臣之恩,谁见长久?请转告圣上,只要清静寡欲,无为而治,天下自然大定,要我何用?我志在青山中!”为了避开京都近郊的俗务嘈杂和骚扰,张祖决心云游名山大川、访道求仙去了。