張鉉在婁煩關以北部署了十萬大軍，其中尉遲恭率三萬人守善陽縣，李靖則率七萬大軍駐紮在雁門郡，李靖雖然率軍北上，在紫河干掉了一萬接應突厥軍，但雁門郡依舊還有兩萬軍隊，由羅成率領。
三天前，羅成率領的兩萬大軍便已經抵達了善陽縣，和尉遲恭的軍隊匯合，魏文通奪取了婁煩關後的次日，便立刻向善陽縣送了一封鷹信，請求尉遲恭支援。
尉遲恭和羅成天不亮便率領三萬大軍南下婁煩關，婁煩關距離善陽縣並不遠，直線距離只有八十里，但如果走官道則稍遠一點，約百里左右。
中午時分，三萬隋軍抵達了東關鎮，這裡距離突厥軍大營只有三十里了，這時，幾名騎兵斥候從南面疾奔而來，爲首旅帥來到尉遲恭面前，抱拳行禮道：“啓稟尉遲將軍，婁煩關已經發生了激戰，突厥軍正大舉攻城，投入了數萬大軍，戰事十分慘烈。”
“突厥大營還有多少人？”
“大約一萬人左右。”
尉遲恭笑道：“康鞘利顯然有點沉不住氣了，六萬大軍居然投入五萬人去攻城，完全忘記了要防禦羊馬城，只有一萬人駐守，守得住嗎？”
羅成雖然被封爲虎賁郎將，但他的軍職還是要低於尉遲恭，因此羅成表現得比較低調，他笑了笑道：“康鞘利或許認爲我們不會立刻到來，對他而言，只要一天時間便能奪回婁煩關，然後再回頭對付我們。”
“羅將軍說得有道理，但婁煩關壓力太大，我們必須立刻奪取羊馬城，助魏將軍一臂之力。”
“卑職倒有一個想法。”
羅成對尉遲恭低語幾句，尉遲恭連連點頭，“這是個好策略，可以節省時間，我們就這樣辦！”
兩人當即兵分兩路，尉遲恭率領兩萬步兵直撲羊馬城，而羅成則率一萬騎兵迂迴繞到了突厥軍大營的西面。
留守突厥大營的軍隊全部由突厥部落的士兵組成，康鞘利不可能讓鐵勒人來守羊馬城，這支大軍的主將正是高開道，不過高開道雖然名義上是萬夫長，但他並不能服衆，一萬軍隊實際上是掌握在十名千夫長手中。
高開道正在羊馬城內巡視，這時有騎兵疾奔而來，緊張地稟報道：“將軍，巡哨有消息傳來，一支兩萬人的隋軍正從北面向羊馬城殺來！”
高開道大吃一驚，他立刻意識到這是善陽縣的隋軍出動了，趁突厥大軍前去猛攻婁煩關之時，前來襲擊羊馬城。
“傳令各軍準備迎戰！”
高開道立刻下達了迎戰命令，一萬突厥軍隊紛紛上馬，在羊馬城外集結，高開道又急忙派人去通報康鞘利，請求康鞘利派兵回援。
突厥大營位於桑乾水支流黃水河南岸，突厥大營在西面，而羊馬城在東面，呈狹長形部署，綿延二十餘里，其中軍營和羊馬城各佔一半，黃水河畔的羊馬城和紫河的羊馬城一樣，也是土木夯制，高約六尺，裡面飼養了數百萬頭牛羊，這便是突厥大軍南下的後勤保障，和婁煩關一樣，都是康鞘利不惜一切代價要保護的戰略資源。
此時，一萬突厥騎兵已經顧不得大營，他們迅速在羊馬城對岸集結，排列成長長的陣型，高開道還是有一點信心，對方只有兩萬步兵，而他們雖然只有一萬人，但全部是戰鬥力強大的騎兵，這一戰他們至少有六成把握戰勝對方。
兩萬隋軍也在兩裡外停住了腳步，開始迅速列陣，前排是五千弓弩手，後面則是一萬五千長矛兵，雙方都在等待着出擊的命令。
但就在這時，忽然有人指着西面大喊：“火！大營起火了。”
衆騎兵回頭，只見大營方向火光沖天，濃煙滾滾，烈焰騰空，正迅速向羊馬城方向蔓延而來。
突來的變故使得突厥騎兵一陣慌亂，隊伍有點混亂了，高開道大喊：“不要慌亂，軍營是座空營，我們要保住羊馬城！”
話音剛落，隊伍後面忽然一陣大亂，慘叫聲四起，高開道大吃一驚，回頭望去，只見羊馬城的北牆邊出現了無數的隋軍騎兵，他們已經撞破了羊城城，從數十個口子衝了出來，一邊奔馳，一邊放箭，後排的突厥騎兵死傷慘重。
突厥騎兵驚恐萬分，紛紛後退，就在這時，兩裡外的隋軍陣營內鼓聲大作，兩萬隋軍士兵齊聲吶喊，向突厥騎兵掩殺而來。
一萬突厥騎兵腹背受敵，軍心大亂，隊伍混亂不堪，軍隊的士氣也迅速消退，這時已經沒有士兵再想與隋軍決戰了，各部落的千夫長只想保存自己的實力，紛紛調轉馬頭向東撤離。
高開道急得大喊，卻沒有人理睬他，高開道萬般無奈，只得率領數十名親兵向東奔逃，剛奔出不到百步，一支隋軍騎兵從斜刺裡殺來，攔住了他們的去路。
爲首是一名年輕的隋軍大將，只見他錦袍銀盔黃銅甲，白馬銀槍玉面郎，正是大將羅成。
高開道當然認識羅成，他曾投靠羅藝，在涿郡呆了一年多，和羅成打過無數次交道，沒想到會在這裡遇到羅成，高開道一下子呆住了。
羅成也是擒賊先擒王，他早看見了突厥軍主將大旗，便鎖住了這支軍隊，但他也沒有想到，對面的突厥主將竟然是高開道，羅成半晌冷笑道：“我還以爲高將軍早死了，沒想到陰魂不散，居然混到突厥哪裡去了，今天遇到我，看來也是一個天意！”
高開道深知羅成厲害，連忙哀求道：“玉郎，看在昔日我效忠令尊的面上，放我這一次吧！”
“呸！”
羅成冷冷吐了口唾沫，“出賣民族的敗類，還敢和我套近乎，我若是你，早就一頭撞死，也免得辱沒了祖宗。”
高開道大怒，“小畜生，受死吧！”
他揮動三尖兩刃刀，催馬向羅成殺去，羅成不慌不忙，銀槍一抖，長槍如梨花暴雨般向高開道刺去，一連刺出數十槍，殺得高開道手忙腳亂，這時，長槍如閃電般向高開道胸口刺來，高開道本能的舉刀格擋，不料這只是虛招，不等高開道反應過來，長槍已經刺到了高開道脖子。
高開道只覺脖子一陣劇痛，他大叫一聲，竟被羅成挑下馬來，羅成復一槍，結果了高開道的性命，高開道屢屢從危險中逃脫，但正如那句話：不是不報，時候未到，高開道最終沒有逃過天道，死在了羅成的手中。
高開道被殺雖然並沒有影響到突厥軍隊的軍心士氣，但此時突厥軍已全線崩潰，一萬突厥騎兵是由大大小小十個突厥部落組成，每個部落首領出任千夫長，率領自己的部落士兵。
如果在殺戮搶掠之時，這些部落會團結一心，個個奮勇爭先，可一旦戰爭落敗，他們則首先考慮保存實力，逃離戰場無疑是最明智的決定。
突厥騎兵向東逃出十幾裡後又倉皇向北奔逃，羅成立刻分兵兩路，令鷹揚郎將史橫波率領五千騎兵繼續北上追殺，另外五千騎兵則蹚過黃水河，在羅成的親自率領下向婁煩關殺去。
五千隋軍騎兵一路向北追殺，追出百餘里，殺敵大半，史橫波便不再追趕，率軍返回羊馬城。。