刘渊自幼居于汉地,酷爱读书,痴迷汉文化,曾拜上党名士崔游为师,遍习中原的儒家经典和历史、军事著作,甚至可以“略皆诵之”,深受汉文化影响和熏陶。这一点,从刘渊七岁丧母时表现出“擗踊号叫,哀感旁邻”(《晋书》)的孝道礼仪上不难看出。在日后与太原名儒王昶、王浑、王济的密切交往中,刘渊逐渐成为一个汉化程度相当深的匈奴人。
崇尚汉文化,使刘渊倾心接受汉化;而刘渊在官场上受到的种种遭际和不公,也是逼使他主动向汉人、汉文化靠拢的一个重要因素。晋武帝时,王浑、王济等人举荐刘渊担当消灭孙吴的重任,却遭到了孔恂、杨珧等人的强烈反对,特别是谏辞中“非我族类,其心必异”(《晋书》)八个字,既刺痛了刘渊的自尊心,也反映了汉匈之间难以消除的民族隔阂。
孔恂、杨珧是朝廷重臣,代表着朝野相当一部分汉人的思想和观念,他们鄙视、仇恨胡人,更抵触像刘渊这样文韬武略的匈奴人,使刘渊屡不得志,甚至一度险遭不测。刘渊虽然有志向,有能力,有魄力,但在讲究门阀出身的魏晋时期,却很难得到汉人的支持和拥护。刘渊想成大业,想立足中原,想得到汉人支持,最好的办法就是扯起汉旗,以怀人望。
刘渊深通历史,在他看来,自秦至晋,汉人政权虽有数个,但国祚长久的只有西汉和东汉,其余皆短命而亡,就连眼前的晋朝也是摇摇欲坠。刘渊认为“汉有天下世长,恩德结于人心”,定国号为汉,可使中原民心归附。刘渊称汉皇帝,据他说还合情合理,“兄亡弟绍,不亦可乎”(《晋书》),汉匈既然约为兄弟,哥哥亡了,弟弟继承,这有什么不可呢?