早而聪敏
郑玄出生时，郑氏家族已经败落，他的祖父郑明、父亲郑谨，都没有出仕，只在乡间务农，家中生活比较贫寒。他从小学习书数之学，到八九岁时就精通算术。十二三岁时，就能诵读和讲述《诗》《书》《易》《礼记》《春秋》这儒家“五经”了。同时，郑玄还喜欢钻研天文学，并掌握了 “占候”、“风角”、“隐术”等一些以气象、风向的变化而推测吉凶的方术。
郑玄自少年时就一心向学。不尚虚荣，天性务实，有一件小事很能说明这个问题。十一二岁的时候，他曾随母亲到外祖家做客，当时客人很多，在座的十多位客人都衣着华美，打扮得焕然一新，一个个言语清爽，夸夸其谈，显得很有地位和派头。唯独郑玄默默地坐在一旁，似乎身份和才学都赶不上人家。其母见状，感到面上无光，便暗地督促他出头露面，显露点才华，表现点阔绰和神气。郑玄却不以为然，说这些庸俗的场面 “非我所志，不在所愿也”（引文见《太平广记》卷215引《郑玄别传》）。
郑玄十六岁的时候，不但精通儒家经典，详熟古代典制，而且通晓谶纬方术之学，又能写得一手好文章，被大家称为神童。
折节向学
郑玄虽然立志于潜心钻研经学，并已具有了一定的经学造诣，但由于家境贫寒，生活困苦，已没有条件继续专门攻读了，父母兄弟迫于生计问题，也都不允许他再不事产业而长年读书了。在十八岁那年，他不得不出仕，充任乡啬夫之职。
郑玄不安于乡吏的工作，不愿为吏以谋生，一心向往研究学术。因此，他在做乡吏的同时，还利用一切可以利用的机会刻苦学习，每逢休假日也不回家，而到学校中向先生请教各种学术问题。他的父亲对此极为反对，并一再督责和训斥他。但父、兄的反对也改变不了他的志向，他仍坚持不懈地努力学习。到二十一岁时，已经博览群书，具有了深厚的经学功底，并精于历数图纬之学，兼精算术。
当时的名士杜密任太山太守、北海相，到高密县巡视时见到郑玄，认为他是一个不可多得的人才，就把他升调到郡里为吏录，使他得到学习和深造的机会。从此，郑玄便结束了乡吏生涯。到了北海郡不久，郑玄又辞去吏职，入太学授业。他的老师第五元先，是当时京兆平陵（今陕西长安）的大姓，曾任兖州刺史，是一位很有学问的经学博士。郑玄从师第五元先，先后学了《京氏易》《公羊春秋》《三统历》《九章算术》等，俱达到了通晓的程度。其中《京氏易》是西汉京房写的，《公羊春秋》是战国公羊高传述、西汉初成书的，这两部书都是今文经学的重要典籍。《三统历》是西汉刘歆写的历法，《九章算术》则传说是西周周公著的，这两部书都属历数之学的重要著述。此后十年左右，皆为郑玄折节求学的时代。
他师事第五元先后，又从东郡张恭祖学习了《周官》《礼记》《左氏春秋》《韩诗》《古文尚书》等书，其中除《礼记》和《韩诗》外，均为古文经学的重要典籍。郑玄向第五元先和张恭祖学习了今古文经学两大学派的重要经籍后，尚不以此为满足，又从陈球受业，学习了《律令》。在此期间，他还以明经学、表节操为目的，游学于幽、并、兖、豫各州，遍访名儒，转益多师，虚心向他们学习，共同探讨学术问题。读万卷书，行万里路，不辞劳苦，孜孜求道，郑玄的青年时代，就是这样匆忙而充实地过去了。到了而立之年后，郑玄已经成了一名有着较深造诣的经学家。他的学问在山东（指崤山或华山以东）已经可以说首屈一指、无出其右者了。
游学关西
郑玄虽然已经学富五车，但他自己却毫不满足。当他感到关东（指函谷关以东）学者已经无人再可请教了的时候，便通过友人卢植的关系，离开故国，千里迢迢西入关中，拜扶风人马融为师，以求进一步深造。马融是当时最著名的经学大师，学问十分渊博。他遍注儒家经典，使古文经学达到了成熟的境地。他的门徒上千，长年追随在身边的就有四百余人，其中优秀者亦达五十人以上。
马融为人比较骄贵和讲究，虽然门徒众多，但他只亲自面授少数高材生，其余学生则由这些高材生转相授业。郑玄投学门下后，三年不为马融所看重，甚至一直没能见到他的面，只能听其高足弟子们的讲授。但郑玄并未因此而放松学习，仍旧日夜寻究诵习，毫无怠倦。有一次，马融和他的一些高足弟子在一起演算浑天问题，遇到了疑难而不能自解。有人说郑玄精于数学，于是就把他召去相见。郑玄当场很快就圆满地解决了问题，使马融与在场的弟子们都惊服不已，马融对卢植说：“我和你都不如他呀！”自此以后，马融对郑玄十分看重，郑玄便把平时学习中发现而未解决的疑难问题一一向马融求教，对于篇籍的奥旨寻微探幽，无不精研，终得百尺竿头更进一步。
郑玄在马融门下学习了七年，因父母年迈需要归养，就向马融告辞返回山东故里。马融此时已经感到郑玄是个了不起的人才，甚至会超过自己，他深有感慨地对弟子们说：“郑生今去，吾道东矣！”意思是说，由他承传的儒家学术思想，一定会由于郑玄的传播而在关东发扬光大。
隐修经业
从马融那里学成回乡后，郑玄已经四十多岁了，这时他已成为全国精通今古文经学的大师了，于百家之学无所不通。于是远近有数百上千人投到他的门下，拜他为师，听他讲学。当时他家里还很贫穷，便“客耕东莱”，一面种田维持生计，一面教授门徒。
汉灵帝建宁元年（公元168年），朝廷下诏各州郡查究党人，凡“党人”及其门生、故吏、父子、兄弟现居官位者，一概免职禁锢，发生了第二次“党锢之祸”。郑玄曾为杜密故吏，受杜密的赏识与提携，所以也被视为党人，于建宁四年（公元171年）和同郡人孙嵩等四十余人俱被禁锢。
郑玄起初从第五元先学习《京氏易》《公羊春秋》，是属于今文经学派的。后来他又跟张恭祖学习《周官》《左氏春秋》《古文尚书》，这是属于古文经学派的。他在马融门下受业多年，而马融乃是古文经学大师。
总的看，郑玄倾向于古文经学。但郑玄并不遵守当时经学中师法、家法那一套，他以自己渊博的学识遍注古文经，注中并不专用古文经学家的释义，同时也采用了许多个今文经学家的解释。即以古文为主，兼采今文，择善而从。
郑玄从四十五岁被禁锢，到了五十八岁才蒙赦令，前后长达十四年。在此期间，他打破了经学的家法，注释与著书“几百余万言”，创立了“郑学”，在中国经学发展史上做出了无与伦比的杰出贡献。郑学”逐渐成为“天下所宗”的儒学。例如，郑玄所注的古文经学费氏《易》流行，而今文经的施、孟、梁邱三家《易》便废止了；郑注《古文尚书》流传，而今文经的欧阳、大小夏侯三家《尚书》便散失了；郑玄笺注了古文经的《毛诗》，而今文经的齐、鲁、韩三家的《诗》也就不显了。郑学的出现，使经学的发展产生了重要的变化，它使经学进入了一个“统一时代”（皮锡瑞语，见《经学历史》）。
守节不仕
黄巾起义爆发后，朝廷被迫大赦党人。解除党禁后，朝廷当政者对郑玄的大名已早有所闻，于是争相聘请他入朝担任要职。但郑玄求名而不求官，羞与外戚阉寺为伍，绝不愿涉足仕途，乃屡拒征辟，一心一意从事著书讲学的学术工作。
中平二年（公元185年），执掌朝廷权柄的外戚大将军何进为了笼络人心，首先征辟郑玄入朝为官。州郡官吏胁迫起行，郑玄不得已，只好入朝去见何进。何进为表示礼贤下士，对郑玄礼敬有加，设几、杖之礼以待之。郑玄为保其名士节操，拒不穿朝服，只穿普通儒者的便服与何进相见。仅隔了一夜，未等授予官职就逃走了。
灵帝中平四年（公元187年），三府（太尉、司空、司徒）曾先后两次征辟郑玄，但他都借故婉言谢绝了。第二年，郑玄与荀爽、申屠蟠、襄楷、韩融、陈纪等十四人并被征为博士，他因父丧而未去。后将军袁隗表举郑玄为侍中，他仍以居丧为理由而拒绝出仕。
中平六年（公元189年），灵帝死，少帝刘辩继位，不久董卓废少帝而立献帝，迁都长安。这时，公卿们又举郑玄任赵王刘乾的国相，但因战乱道路不通，仍没有受召。郑玄屡拒征辟，其间除避乱于徐州外，大多在家乡隐居，聚徒讲学，专心经术，著书立说。他的弟子遍于天下，多有人自远方而投至门下，如赵商、崔琰、公孙方、王基、国渊、郗虑等即为著名者。他的学生常常超过千人，为一时之盛。
汉献帝初平二年（公元191年），黄巾军攻占青州，郑玄只得逃到徐州避乱。徐州牧陶谦曾大破黄巾军，境内比较安定，他听得郑玄到来，极为欢迎，以师友之礼相接待。郑玄把自己安顿在南城之山栖迟岩下的一所石屋里，很少出头露面，仍然夜以继日、孜孜不倦地研究儒家经典，注释《孝经》。
郑玄在徐州住了五、六年，当时孔融为北海相，对郑玄特别尊崇，他一面为郑玄修葺故居庭院，一面再三派人敦请郑玄回郡。
建安元年（公元196年），郑玄从徐州返回高密。据《后汉书》本传记载，郑玄在回高密的路上曾遇到大批黄巾军，但他们却对郑玄十分尊重：“见玄皆拜，相约不敢入县境”。历史记载黄巾军尊重士人，正是因为如此，郑玄才能在颠沛流离中非礼不动。据《后汉纪·献纪》，高密一县，竟未受黄巾抄掠。
回到高密后，孔融待之甚厚，告诉手下僚属称之为郑君，不得直呼其名。这样，郑玄在七十岁时结束了背井离乡的流亡生活，他老当益壮，仍终日精研经典，博稽六艺，并时常睹览秘书纬术。可就在这一年，他竟又惨遭人伦大变，经受了老年丧子之痛。他只有一个儿子，名叫郑益恩，二十三岁时被北海相孔融举为孝廉。
此年春夏之间，袁绍之子袁谭率黄巾降兵攻北海，围孔融于都昌（今山东昌邑），情势万分紧急。郑益恩受父命率家兵前去营救，结果反被围杀，时年仅二十七岁。郑益恩死后，有遗腹子，郑玄因其手文与自己相似，取名叫小同。
建安二年（公元197年），袁绍为大将军，兼督冀、青、幽、并四州。一次他大宴宾客，郑玄应邀出席，在席上对一些所谓“豪俊”的提问进行了答对，语惊四座，使宾客无不折服。袁绍乃举郑玄为茂才，并表请郑玄为左中郎将，但郑玄却毫不为之所动，都予以婉拒。
建安三年（公元198年），献帝征郑玄为大司农，位列九卿，给安车一乘，所过郡县长吏送迎。郑玄在家拜受后，便乘安车至许昌，但马上又借口有病，请求告老还乡。他虽然并未到任就职，但已经拜受此命，故世人称他为郑司农（但经学注疏中的郑司农多指东汉初年学者郑众）。
颠沛流离
建安五年（公元200年），郑玄已经七十四岁了，饱经沧桑，身体常觉不适。这年春天，他梦见孔子对他说：“起、起，今年岁在辰，来年岁在巳”（《后汉书》本传）。这一年是农历庚辰年，即龙年，而来年是辛巳年，也就是蛇年，旧说龙、蛇之年对圣贤不利。所以他醒来后很不高兴，认为自己当不久于人世了。这一年，袁绍与曹操的大军在官渡（今河南中牟县东北）会战。袁绍为壮声势，争取民心和士望，叫袁谭逼迫郑玄随军，郑玄无奈，只好抱病而行。走到元城（今河北大名县境），病势加重，不能再走了，同年六月病逝于该县。病重和临危之时，他还在注释《周易》。
郑玄死时正处于天下大战乱之际，所以葬礼从简，但自郡守以下的官员和受业弟子也有一千多人缞绖（披麻戴孝）送葬。最初葬于剧东（今山东青州境内），后又归葬于高密县西北五十里刘宗山下的厉阜。而今此地仍存有唐代墓碑和郑玄祠庙。距此不远，则是孔融当年给他立的“郑公乡”。
郑玄的学生们为纪念恩师的教诲，把郑玄平时和弟子们问答五经的言论编辑为《郑志》，共有8篇。▲
郑君草
相传郑玄酷爱车前草，因此车前草又以郑玄命名，被称为郑君草。
精通术数
郑玄对术数之学的研究也很有心得，成名很早。据《郑玄别传》记载，郑玄十七岁时，有一天正在家读书，忽见刮起了大风，他根据自己掌握的一些方术来推算，预测到某日、某时、某地将要发生火灾。于是，他立即到县府去报告，让政府早做准备。到了某日某时，某地果然发生了火灾，但由于早有准备，并没酿成大害。这件事不胫而走，郑玄又被当地视为“异人”。
化险为夷
郑玄曾拜马融为师，学习算学，三年没有见到马融的面。马融只是让他的一个学得较好的学生教郑玄而已。一次，马融计算浑天算的不符合，问他的弟子们，没有一个能算出来的。有个弟子说郑玄能算。马融立即将郑玄召来让他计算，一转眼的工夫就算出来了，大家都既感到吃惊又佩服。马融感叹地说：“诗书礼乐，郑玄都精通啦！”心中暗暗产生杀机。等到郑玄学业学成后辞别老师回归故里时，郑玄怀疑有人追赶他。于是坐在一座桥的下面，将穿着脚上的木屐放在水面上。马融果然用“式”这种卜具推算出他离去的方位，带领人去追杀郑玄。看见郑玄后，对跟他一起来追杀郑玄的人说：“郑玄在土下水上而依靠着木（按：木屐代木。古人认为要在土下水上，既是棺木），这回他必定得死。”于是不杀郑玄，转身离去。郑玄方才免于一死。
沉默寡言
郑玄长到八九岁时就能用筹码进行乘除法的运算。十一二岁随母亲回到家里，正逢腊月宴会。同席的十多个人，个个衣着华美，能说会道，唯独郑玄神情漠然，一言不发。母亲暗中几次督促郑玄，让他也跟同席人说说话。郑玄说：“说话闲聊练嘴皮子，这不是我的志向。”
侍婢博学
郑玄家中的侍婢都颇为通晓《毛诗》。一位婢女曾因违逆郑玄，被他惩罚长跪在台阶前。另一位婢女开玩笑对她说：“‘胡为乎泥中（引自《诗经· 邶风·式微》，意为为什么跪在地上）？’”这个婢女回答：“‘薄言往愬，逢彼之怒（引自《诗经·邶风·柏舟》，意为向他报告事情，正赶上他发怒）’”。
梦示可学
郑玄跟老师马融学习，三年没有学到什么。后来，马融让他回去。一日，郑玄在树荫下和衣小睡，梦见一个人用刀划开他的心，对他说：“你是完全可以使自己成为有学问的人！”郑玄睡醒后立即返回，不久就把所有的典籍弄懂弄通了。
攻驳何休
与郑玄同时代的今文经学大师何休用十七年的时间写成了《公羊春秋解诂》一书，对《公羊》一书的内容多所发明。从他的《公羊墨守》《左氏膏肓》《谷梁废疾》三文中可见，他认为《春秋》三传中只有《公羊》义理深远，像墨子的城防一样无懈可击。而《左氏》与《谷梁》二传则存在严重的缺点，根本不值得研究。
郑玄乃针对他的观点，著《发墨守》《针膏肓》《起废疾》以驳斥之。他认为三传各有其优缺点，《公羊》并非十全十美。何休读了郑玄的文章，也带着叹服的口气说：“康成入吾室，操吾矛，以伐我乎！” 意思是说郑玄能从他的文章中找出矛盾，用他自相矛盾的说法来驳倒他的立论。郑玄对何休的批驳十分有力，经师和学者们十分惊服。据说当时京师之人称何休为“学海”，而称郑玄为“经神”，郑的声望远超过何。当时求学者不远千里投到郑玄门下者甚众，他的徒党通于天下。▲
