前有数万关中百姓为前驱，后有抛石箭雨倾泻如雨。攻城之战持续了整整五日，霸城两万守军死伤惨重。最终不得不放弃城池，退还西岸。

拿下了霸城，刘曜当即率军攻打霸上。霸上乃是长安东面门户，一旦失守，长安将直面匈奴大军的威胁。故而，霸上驻有超过三万兵马，以霸水为鸿沟，全力阻挡匈奴大军西进。

一连攻打数日，依然无法夺取霸上之地。刘曜知道长安援军正在陆续赶来，拖的时间越久，对大军越不利。

于是，刘曜留下四万步军，以及一万骑兵，交由赵染和殷凯，裹挟数万关中汉民，继续攻打霸上。

而他则暗中率领三万骑兵，北上渡渭水，奇袭高陆县。在拿下高陆县后，立即昼夜奔行，于扶风国池阳县附近，全歼从新平郡，以及扶风临近各县，驰援的地方兵马，共计上万人马。所俘获数千人，尽皆诛杀殆尽。

随后南渡泾水，杀入始平国境内，绕过始平县，直奔始平国治所槐里县。太守杨像没有料到匈奴骑兵会绕到他这边，根本没有什么防备。

很快，郡城便被攻破，杨像被俘投降，郡府数千兵马，俱为刘曜所有。

刘曜当即分出数千骑兵，命杨像配合骑兵，夺取始平武功二县，组建汉军，收拢百姓，稍后前往长安汇合。而他则率领大军渡过渭水，攻打鄠（hu)县。

不过两日，鄠县被破，刘曜当即裹挟县民，率军兵临阿城，距离长安不过二十余里。

长安大为震动，为了应对霸水东侧的匈奴大军，五万长安兵马，有三万屯于霸上。此时，城内守军只有一万余人，兵力可谓薄弱之至。

阎贾二人大恐，当即派出使者，四处请求援兵。并召回霸上兵马，全力收缩兵力，聚于长安城内。

这正中刘曜下怀，当即拿下阿城，与数万步军汇合，兵围长安城。

将长安困住之后，刘曜终于能够腾出手来，分兵四处攻略长安郡县。没过几日，杜城蓝田两县沦陷，整个京兆郡，除了长安和渭北两县，其余全部落入匈奴之手。