范质的父亲范守遇，任郑州防御判官。范质出生那天傍晚，他的母亲梦见神仙授给她一支五色笔。范质自幼聪明好学，九岁能诗文，十三岁攻读诗经，十四岁开始招生收徒做教师。
后唐长兴四年（933年），考中进士，被任为忠武军节度使推官，后迁升封丘令。
手握五彩神笔，历经后唐至宋的五朝名臣，范质依唐朝旧例，科考放榜以考官当年及第名次为重，和凝当初以十三名及第，亦取范质为十三名。后来，范质与和凝一样做到宰相，范质还受封国。因此受到时人的赞誉，称之为“传衣钵”，可谓一时之佳话。
后晋天福年间，范质用文章游说宰相桑维翰，桑很器重他，即上奏封他为监察御史。后桑维翰出镇相州时，请求朝廷让范质给他当从事。桑维翰第二次任宰相，范质迁升为主客员外郎。一年多后，召范质入朝任翰林学士，加任比部郎中、知制诰。
后汉初，加封范质为中书舍人、户部侍郎。
郭威征伐叛乱时，每次朝廷派遣使者下诏处理军事，都符合机宜。郭威问使者是谁起草的诏令，使者答称是范质。郭威叹道：“真是宰相之材啊！”郭威从邺地起兵攻向皇宫，京城纷乱，范质藏匿民间，郭威派人到处寻找，后来找到，非常高兴，当时正下大雪，郭威解下自己的袍衣让给范质穿。并命令范质起草太后诰命及商议迎湘阴公礼节，范质急速起草，很合郭威心意。于是，郭威告诉太后，任命范质为兵部侍郎、枢密副使。后周广顺初年（公元951年），郭威加拜他为中书侍郎、平章事、集贤殿大学士，第二天，又拜他兼任参知枢密院事。郊祀完毕后，升迁为左仆射、门下侍郎、平章事、监修国史。跟随郭威征伐高平回来，加官司徒、弘文馆大学士。
范质入朝为官后，仍手不释卷。有人赞赏，他说：“有相士说我今后位登宰相。如果真是这样，不学习哪来权术处理政事。”柴荣（郭威养子，即周世宗）征伐淮南，诏令多由随征的范质起草，吴中文士们没有不惊服的。范质每次下制敕，从未不合律令。朝廷每次派遣使者视察民田，巡视狱讼，范质都接见他们，向他们说明天子忧虑勤政的意图，
