却说在汉光武建武十年正月十五日，张道陵出生于丰县阿房村。张道陵的父亲叫张大顺，好神仙之术，自称“桐柏真人”，生下儿子，即取名为“陵”，希望将来能追随先祖，远离尘世，登陵成仙。张道陵出生的时候，父亲就死了，按照遗言，埋葬在福德之地的云锦山。
修行者廖维听说福地被张道陵的父亲占了，为了保证自己将来的地位。廖维于是追杀张道陵母子，被铁拐李仙人所救。（事见前文第537章中。）
铁拐李还送给张道陵母亲一枚神奇的玉佩，嘱咐玉佩交给张道陵。
张道陵自幼聪慧过人，七岁便读通《道德经》。为太学书生的时候，张道陵博通《五经》，天文地理、河洛谶纬之书无不通晓，从其学者千余人。但常叹息所读之书无法解决生死问题，于是弃儒改学长生之道。
张道陵二十六岁的时候曾官拜江州(今重庆)令，但不久就辞官隐居到洛阳北邙山(今河南洛阳北)中，精思学道。
一天，张道陵刚刚练完一套养生的武功，正打算坐着休息一会儿，没承想前面走过来了两个道童，问他道：“先生，您是不是张张道陵呀？”
张道陵闻言，感觉有些纳闷，回答说：“在下就是张道陵啊。二位道兄咋晓得我的名字呢？”
两个童子，见状，笑着回答道：“您不是大老远跑到这里要静思修道嘛？心里不是想着见到太上老君嘛？我们是太上老君派来接您的。”
张道陵听完，又惊又喜，心中暗想：莫非是在下诚心，太上老君得于感应，要不如何会派童子来接我呢！
想到此处，张道陵就跟着二位童子来到了太上老君隐居的设置下来结界里面的一个草堂里面，看到太上老君正在坐上面，旁边还坐着一位仙人。这个仙人形象特征是头梳髽髻，髯长过腹，手执扇子，袒胸露乳，一副豪爽大气的样子，正是太极左宫真人钟离权。
张道陵拜见太上老君后，道德天尊太上老君，说道：“学道没有老师，没天生的缘分，就得靠自己。你就专心修炼，总是有能成功的时候。”
太上老君又说：“修道的时候，不要只想到自己，求道仙者，需积累三千功德，八百造化，当知说得十丈，不如行得一寸。”
张道陵听了太上老君的教导，跟两位仙人告辞之后，回到原地，专心钻研秘籍宝典。张道陵尊老子为道祖，奉《老子五千文》为最高经典，并自编《老子想尔注》发挥老子的道家思想。以“道”为最高信仰，将“道”和老子相提并论，宣称即“道”是“一”，“一散为气，聚形为太上老君”。
《老子想尔注》的思想内容主要包括三部分：一是关于守道诫。《想尔注》认为“道”是专一、真诚、清静自然、好生乐善的，只要人们谨守道诫，就可以延年增寿，除灾得福。二是关于长生之法。《想尔注》认为善保精气就可以实现仙寿，主张和五脏五行之气，“和则相生，战则相克”。阐述房中术要领：“精结为神，欲令神不死，当结精自守”，认为得此要领，也可长生不死。为了自守，要做到无私欲、无为无名、不贪荣求宠、不争强好胜、不为恶事等。三是关于帝王行道问题。《想尔注》认为，行道不只是道士的事，帝王也应行之，“道之为化，自高而降，指谓王者，故贵一人，制无二君，是以君王常当行道，然后乃及吏民，非独道士可行，王者弃捐也”。而且上圣君王都是师道行道，用以教化天下，故能实现太平之治，后世帝王渐渐失道，君臣行道，太平之世可以实现，民众安顺。这里的“道”，指生道，也就是清静寡欲，乐善好生之道；而战争是杀生的，故“兵不合道”，帝王应守生道，少起战事。
张道陵常常一坐就是一整天，并且经常去空旷的地方呼吸，排出浊气，吸进新鲜空气。时间一长，他居然修炼到了形神能够分离的境界。
有一次张道陵在山中打坐，突然有一只狐狸跑了过来，朝着他摇尾乞怜。张道陵见此情形，微微一笑，心想：“这狐狸是不是想让我给它讲讲道理？”
想到这里，他看着狐狸，对它说：“你莫非也想修炼？”眼前的狐狸听了张道陵的话，居然向他点了点头。张道陵于是就开始为狐狸讲道德经里面的文章和道理，结果狐狸听得入神，最后竟然成了张道陵的徒弟，跟着他学习道理和修行。狐狸就这样成了张道陵的小助手，为了报答张道陵，这只狐狸会到山里给张道陵寻找延年益寿的草药。张道陵给这个狐狸徒弟取名叫洛灵。
张道陵在洛阳的北邙山隐居修行了几年之后，回想起道祖太上老君说的话。认为自己应该不要光想着自己修道长生，应该到人间去经历锻炼，在人间多多行善。为此，张道陵下山，回到城村中，或替人治病，或替人解难。
在汉章帝、汉和帝在位时期，张道陵先后征召其为太傅、冀县侯等职，均辞。之后张道陵开始云游名山大川、访道求仙。先是南游淮河，居桐柏太平山，后来与弟子王长和赵升一起渡江南下，来到了江西贵溪县的云锦山。
云锦山山清水秀，景色清幽，为古仙人栖息之所，张道陵于是就在山上结庐而居，并筑坛炼丹。
三年后的一天，九天神丹炼成，张道陵忽然听到响亮的仙乐声，一抬头，看见空中祥云飘着，霞光四射，天上飞过来青龙和白虎，空中发出声音：“结丹已成”。
张道陵打开丹炉，取出神丹，吃了下去。当时，张道陵已经六十多岁了，吃了神丹，容貌益少，“返老还童”，像三十多岁左右的人。正如葛洪在《神仙传》中所述：“陵初入龙虎山，合丹斗剂，虽未冲举，已成地仙。”可见他那时的道学功底已经相当深厚了。
因为有龙虎出现，故此山又称龙虎山。
接着张道陵在天上看到太上老君和太极左宫真人驾着仙鹤飞来，张道陵赶紧就跪下磕头。太上老君对他说：“你丹道已成，应该到人间游历一番，帮助百姓生灵，扶危济困，不可光想着隐居山中，只做自了汉。我和太极真人要去各个地方逛逛了，你丹成就下山历练去吧。”说完，就骑着仙鹤走了。
张道陵听闻蜀中民风纯厚，易可教化，于是移居到四川的鹤鸣山。