265年，司马炎废魏帝，建立西晋，继灭蜀后又灭吴国，统一中原，继而投入西域的经营。西晋对西域的管辖沿袭了曹魏旧制，仍在楼兰设立西域长史府，还有戊已校尉和宜禾都尉协同工作，管辖西域；在高昌设立戊已校尉，领导屯田戍守。西晋在鄯善置鄯善郡，楼兰文书还显示,鄯善则有＂长史、司马、主簿、功曹、录事、兵曹、书佐、门吏诸称＂。西域长史府设有长史、司马、主薄、从郎中、录事、兵曹、功曹、仓曹、水曹等官职。西域长史向西域各国转达中央政府和敦煌太守的命令，迎送并保护中央派往西域去慰问各国的特使，反映西域各国情况，迎送西域各国进京朝贡的使者，维护西域南道与中道商队的安全。 不过此时鲜卑壮大，所以西域多受其影响。直到咸宁元年，当时的戊己校尉马循在对右部鲜卑的战争中，大获全胜，西域才又一次进入安定时期。太康六年，西域诸国遣子入献，大宛进贡汗血马，将晋武帝比作汉武帝，司马炎老怀大慰，特地还派遣杨顒封大宛国王兰庾为大宛王，且官为＂守侍中、大都尉。＂ 晋武帝死后，先后发生＂八王之乱＂，此时，凉州大姓汉人张轨被晋朝政府封为凉州刺史，张轨到任后，立刻领兵击败当时在凉州叛乱的鲜卑族，斩首万多人，又消灭横行凉州的地方盗贼，从此安定了凉州地区的治安。 之后，鲜卑人若罗拔能侵袭凉州，张轨派军队讨伐，斩杀若罗拔能，并俘据十多万人，声名更加大振，在西北地区威名卓著。晋惠帝亦因此加张轨安西将军，封安乐乡侯，邑千户。同年，东羌校尉韩稚杀害秦州刺史张辅，图谋反叛晋朝，张轨领二万士兵准备讨伐，但先写信给韩稚劝降。韩稚一看是张轨的书信后，立即就向张轨投降。 张轨恪守儒家价值观，在处理这件事情时先报告南阳王司马模，不敢独断，司马模十分高兴，并将皇帝赐的剑送给张轨，将陇西地区交给张轨管理。张轨始终对晋朝朝廷表示忠诚，如太安三年（304年），河间王司马颙和成都王司马颖到洛阳讨伐掌权的司马乂，张轨亦曾派三千兵支援朝廷。永嘉二年（308年），刘渊部将王弥进攻洛阳，张轨派北宫纯、张纂、马鲂和阴濬等领兵入卫洛阳，北宫纯及后派百多名勇士突击王弥军，协助朝廷击退王弥。不久又在河东击败刘聪，当时京师歌谣道：＂凉州大马，横行天下。凉州鸱苕，寇贼消；鸱苕翩翩，怖杀人。＂晋怀帝司马炽嘉奖张轨的忠诚，进封他为西平郡公，张轨推辞不接受。 但洛阳最终还是被汉国大将匈奴人刘曜攻克。永嘉之乱后，洛阳和长安两大重镇都先后被汉国军队攻陷，中原和关中地区的很多百姓流入凉州避难，张轨在姑臧西北置武兴郡；又分西平郡（今青海西宁市）界置晋兴郡以收容中原流民。 在永嘉之乱后，张轨大修凉州治所姑臧（今甘肃武威市），作为凉州的州府。张轨任用有才干的凉州大姓如宋配、阴充、氾瑗和阴澹为股肱谋主，共同治理凉州。他又劝农桑，立学校，又设与州别驾同等的崇文祭酒、春秋行乡射之礼，在凉州大行儒学教化。八王之乱的时候，各地诸侯不听朝廷使命，张轨派遣使者朝贡皇帝，一年四季从不废止。在那个时代，张轨就是名副其实的齐桓公在世，尊王攘夷。 在张轨死后，张轨的亲信部下及后拥立张轨长子张寔继任了凉州牧之职。而在同时，东晋朝廷也已经建立，张寔遥尊东晋朝廷，凉州从此开始事实上的割据。在张寔之子张骏即位后，这个割据政权的势力更是达到顶峰。张骏，字公庭，从小长得奇特壮美，十岁就能写文章，还善写乐府。 他主政之后，极力扩张版图，下令与匈奴赵国作战，夺取赵国的河西地。在晋武帝时，龟兹王还遣子入侍。但在八王之乱后，中国在西域三十六国的羁縻统治一度中断。 张骏派其部将率军两千里远征塔里木盆地的龟兹王国和鄯善王国，之后西域的白人城邦国家都降服，前凉这个割据政权对西域三十六国重新实施羁縻统治。从此，西域诸国进献汗血马、火浣布、挚牛、孔雀、大象以及各种珠宝珍奇二百多种。鄯善王更是向张骏贡献女儿，这位胡姬被张骏封为美人，并且建造＂宾遐观＂让这位胡妃居住。 因为前凉远离战火，十六国的混乱时期，前凉俨然成为汉文化的重要据点。在张家父子的努力下，前凉国力雄迈，内政清明、秩序井然、经济繁荣，在前凉时期，五铢钱一直在前凉全境流通稳定，百姓不需要以物换物来进行交易。 西晋末期，长安、洛阳在八王之乱、永嘉之乱这两次战乱中尽毁，尤其是汉代的大型宫廷建筑被毁得一干二净，后来司马睿衣冠南渡，而大批人民西去投奔凉州张轨，张家父子善用其中的工匠和建筑师，大造姑臧，完善该城的市容和道路规划。后来前凉国力雄厚，张骏又在姑臧城南修筑城池，盖谦光殿，用五彩描绘，用金玉装饰，用尽了珍奇巧技。在殿的四面各盖一座殿，东面的叫宜阳青殿，春季三个月居住，礼服器物都依照东方之色；南面的叫朱阳赤殿，夏季三个月居住；西面的叫政刑白殿，秋季三个月居住；北面的叫玄武黑殿，冬季三个月居住。有凉一代，姑臧巍峨如洛阳。 前凉始祖张轨本身就是高逼格出身，＂家世孝廉，以儒学显＂，年少时师从大学者皇甫谧，又与当时著名的经学家杜预（灭吴的杜预）友善，杜预曾将自己所注《易》赠予张轨。所以张家父子主政前凉的时候，大西北的儒学研究的空气一直就很浓郁，后来西凉、北凉也一直保持了这个优秀传统。 前凉的存在保留了大量中原失传的儒家经籍，也吸引了大量中原士族投奔前凉，前凉张氏重视教育，优待士族，从而诞生了大量有优秀文学素养的知识分子，有＂少有文才，流誉远近＂的张天锡，善属文的郭瑀，被刘勰赞为＂繁而不可删＂的谢艾。儒学在前凉继续蓬勃发展，而且西凉的儒学一直保持在经学的正道上。 不像东晋的儒学最终走向曹魏时何晏和夏侯玄开创的玄学，玄学消极遁世，喜谈老庄，热衷清谈。在东晋，儒学玄学极为盛行，而儒学经学则受到了冷落。与东晋不同，在西北边境，由于张家政权的积极倡导，官学世家仍把儒经奉为主要课目，认真传授，精心研究，写出了相当数量的经学著作，如前凉学者郭瑀曾著有《春秋墨说》、《孝经错纬》多卷；祁嘉也把他钻研《孝经》的心得写成《二九神经》一书；宋纤倾毕生精力为《论语》作注，并作诗颂达数万言；阚骃曾经给王郎所著《易传》作注，其注因功力极深，为当世学者推崇，后来也成了北朝士人钻研经书的重要参考书。 历代前凉君主成功把凉州变为了世外桃源，让这个汉魏时代的边陲之地变为北方的文化中心。而后来的北魏取凉州，使得凉州保留的儒学家和儒家文化重入中原。魏孝文帝的宫廷重建编户齐民的蓝图，就离不开来自凉州经学家保存的东汉制度文献。而凉州的儒学士族也成为了高档的代名词，甚至成为后来李唐皇室的攀附对象（陇西李氏）。 经张轨奠基后，张寔、张茂兄弟在位时间不长，但也完成了保境安民的使命，使前凉成为稳定割据的一方诸侯。张骏在位时间二十二年，是前凉在位时间最长的君主，他与儿子张重华，共统治前凉近三十年，这个期间也是前凉国势达到鼎盛的黄金时代。 但承平日久之后，张骏晚年，包括张重华时期，也逐渐滋养了荒怠政事，贪图享乐之风。赶上后赵和冉魏相继灭亡，自顾不暇，仍能偏安西北。但是到符坚攻略关中，建立前秦，日益强大后，前凉的好日子也就快到头了。