建兴四年四月，也就是大约一年半以前，刘曜在大荔城下为裴该所破，一路北蹿，最终退出冯翊郡，逃到了故汉上郡境内。
上郡汉初始置——当然啦，当时面积没有后来那么大——汉自武帝伐匈奴，向北方拓殖近千里，直抵河套地区，先后设置了云中、五原、朔方等一级区划，与上郡、太原等同属并州刺史部。上郡一度范围极广，南起漆垣，北抵桢林，东近黄河，西包奢延泽——大致相当于后世的延安、榆林两个地级市。
然而到了汉季，中原大乱，西戎趁势而起，帝国西北疆域逐渐向南方收缩，逮至晋代，包括上郡在内的并州河西地区，已然尽入羌胡之手了。
刘曜北蹿后，即遁入故上郡高奴残城（在后世延安市附近），舔舐伤口，图谋东山再起。
包括上郡在内的故汉并州河西地区，如今中原人士数量已经微乎其微，基本上被氐、羌所占据，最北部还有刘虎的铁弗部。刘曜虽败，尚有二三万残兵，加上他胡汉政权雍王的号召力，想要召聚戎部，扩充势力，原本是并不为难的事情。奈何近十数年前，虚除部崛起，在故汉上郡内建立起了一个松散的大联盟，多数氐羌都俯首臣服，留给刘曜下嘴的地方实在不多啊。
尤其刘曜之与虚除，从前勉强可算为友，如今却彻底撕破了脸皮。好在刘曜尚且捏着虚除伊余为人质，他想靠这个人质从虚除部索取好处，那是痴心妄想——虚除权渠若为了儿子的安危，输人输粮于刘曜，则必然威望大堕，联盟分崩离析——然而却可以保证权渠在一定时间内不会全力来攻。
至于这一定时间是五年、十年，还是半年、一年，那就不好说了。但就理论上来说，倘若五年、十年过去，刘曜仍然无法重整旗鼓，那他迟早是被虚除吞并的命运。
想当日才抵高奴之时，刘曜就唤来亲信司马刘均，向他问计：“我一时轻敌，为裴该所破，竟被逐离中国，而至戎地，不知道可有反击之策啊？子平何以教我？”
刘均反问道：“孰谓此处为戎地？”
随即解释：“上郡汉初即设，郡治肤施尚在北方五百裡外，昔匈奴右贤王侵扰汉土，文帝遣灌婴率军抵御……”伸手朝地上一指，“便在此处，高奴，败右贤王，迫其退归草原……”
他话还没说完，刘曜却突然间压低声音，插嘴问道：“子平，我等虽从光文皇帝，绍续汉业，重建汉基，然而……我等究竟是匈奴，还是汉呢？”
刘均凝视着刘曜的眼睛，一字一顿地回答道：“我等是中国人，遑论匈奴与汉？晋人或目我为胡，其实我本匈奴别部屠各，随之南迁，数世居于并州，难道还不能算是中国人么？若不为中国人，如何建号称帝，驾驭中原百姓？此光文皇帝建号皇汉之本意也！明公慎勿别起他心，若欲复为匈奴，恐怕只能在此处，甚至更往北方去遊牧，不能复归中原了。”
刘渊不但久居并州，幼习诗书，中国化很深，而且他跟几百年前的匈奴单于不同，对于中国之大、人口之密更有了清晰的认知。汉朝建立之初，不但百废待兴，而且疆域狭小，直辖人口可能还不到千万，与雄踞草原的匈奴帝国相比，也就人口数略占上风而已。但经过多年积聚，可能到文、景之时，就已经恢复到秦代两千万的人口数了，逮西汉末年，更蹿升到五千万之巨。
此后虽然经过多次改朝换代的大乱，到西晋初年，朝廷统计在册的人口数也有一千六百万，若加上大量隐户，必在两千万以上。相对的，匈奴帝国已经彻底崩溃，包括屠各在内的匈奴各部，恐怕总人口还不到中国的一个零头。则在这种情况下，若想张胡帜以驭中原，难度是非常之大的。
因而刘渊初起兵，就自称是炎刘之外孙，建号为汉，追尊刘禅为孝怀皇帝，建汉高祖以下三祖五宗之庙。然而这一政策初始确实蛊惑了不少的晋人追从——谁叫司马家实在混蛋呢——但其后久久不能底定中原，所部又杀掠过重，中国的人心便即逐渐背离。说白了，刘曜日益感觉到“汉”这面旗子不大好使了。
在原本的历史上，刘曜在夺取了政权之后，就悍然扯掉了遮羞布，改国号为赵，以冒顿单于配天，而光文帝刘渊配上帝。虽然根据后世的研究、分析，前赵的中国化与民族融合，其实程度比称汉时更为深入，但刘曜长安政权与刘渊平阳政权不同，名义上是个彻头彻尾的胡人王朝，那是不会错的。
为什么会如此呢？刘曜为何要改国号呢？原因大概有二，一是对刘渊祖孙三代想要借尸还魂的手法不以为然，并且逐渐发觉毫无益处；二就是他对刘粲恶感日深，雅不愿直继其后。
历史虽然已被改变了，但刘曜的想法却按照惯性在持续发酵。就前者而言，平阳之势日蹙，胡汉旗号沾满了灰尘，使刘曜日益丧失信心；而就后者而言，刘粲的态度也让刘曜寒透了心。
他还在大荔城下时，就曾经多次遣使平阳，请刘粲发兵牵制晋师，但刘粲正忙着内斗——彻底扳倒刘乂，并且自己得为皇太子——根本理都不理啊。
刘曜不禁心想，你还当我是你家臣属，是光文皇帝的侄子么？你再继续这么搞下去，国家怎可能会有前途啊！
因而渐起自立之心，就趁着今天问计的机会试探刘均。然而刘均却明明白白地劝说他打消这个念头——不以中国人自居，你就没有大义名分重归中国，且若此时和平阳彻底决裂，咱们就更无胜算，迟早会被挤迫回草原上去。
刘曜闻言，不禁长叹一声，说：“我等还有复归的希望吗？”
刘均说有的，随即就为刘曜分析，说：“石公尚在河北，局势尚未糜烂，且有石公在，刘粲也不敢遽罢明公。则东西两相呼应，可摇撼平阳政局；东西两相夹辅，国家尚有希望。晋人不过回光返照而已。”
然后献计，说无论对晋人还是对咱们来说，如今最重要的就是时间。裴该虽然得胜，但不敢远追，近日听闻他南下长安，去谋夺政权去了。倘若被裴该、祖逖二人稳定了河南、关中，合力渡河而北，局势才真的不可收拾……所以，咱们绝不能让他们踏实积聚。