前秦的主力消亡了，可是分支还在。 略阳氐人吕光是苻坚手下的一员猛将。前秦建元十九年（383），吕光奉苻坚之命，率精兵7万、轻骑5000远征西域，迫使西域30余国相继归附。 “淝水之战”后，长安告急。吕光于建元二十一年（385）以200余头骆驼满载着珍宝奇玩东返救驾。大军东返途中，被前秦凉州刺史梁熙阻挡在玉门关前。愤怒的吕光纵兵击败了梁熙，趁势夺取了战略要冲姑臧城（今甘肃武威），代理了凉州刺史。

第二年，远方传来了主子苻坚自杀的消息，吕光如丧考妣，肝肠寸断，命令所有凉州人不论老少一律为苻坚披麻戴孝，立时，一种低沉、悲凉的气氛笼罩了凉州。 行到水穷处，坐看云起时。“前秦已经无可救药，你不能也不应该就此沉沦！”擦干眼泪之后，吕光听凭心灵的指引，回应直觉的呼唤，理直气壮地自称“大将军”、“凉州牧”、“酒泉公”，以姑臧为国都，建元太安，替处于低潮的氐族建立了一个史称“后凉”的国家。

前秦太初四年（389），吕光称“三河王”。龙飞元年（396），称“大凉天王”。 一位英国人曾经告诫后人，有一个叫做“怀疑之城”的城堡，它的主人是一个叫做“绝望”的巨人。吕光之所以能够成功执政，是因为他的身边聚集了一群“旷世英才”。但他在上台后唯恐前秦的悲剧重演，开始变得疑神疑鬼，到了后期发展到了滥杀无辜的地步。

在死心塌地跟随他西征的大将杜进也惨遭杀戮之后，重臣沮渠蒙逊、段业等人纷纷逃走自立为王。 几根支柱一抽，后凉这座大厦便岌岌可危了。龙飞四年（399），吕光病逝，吕光的儿子和侄子互不服气，上演了一幕幕内讧的惨剧。庶长子吕纂发动宫廷政变，吕光的长子吕绍被迫自尽。 荒耽酒色、游猎无度的吕纂于后凉咸宁三年（401）为堂弟吕超所杀。吕超之兄吕隆即天王位后，走到了另一个极端，他天天上朝，夜夜办公，竟然通过杀豪门望族来显示自身的权威，致使许多人早晨一起床便要先摸摸自己的脑袋是否还在脖子上。

南凉和北凉相继围攻姑臧，后凉都城一斗谷子的价格飙升到了5000文，后来发展到人吃人的地步，饿死的人达10万以上。 已经形同“植物人”的后凉苟延残喘到后主吕隆神鼎三年（403），被迫向后秦姚兴投降，算来他们立国只有短短的十八年。