在成功抵御突厥对太原的侵扰之后，李渊正式将起兵反隋、西取关中的计划提上日程。为确保后方稳固，他采取灵活的外交策略，以谦卑的言辞和丰厚的礼物暂时安抚了北方的突厥势力，并承诺将未来征战所得的部分财宝相赠，以此换取了战马补给，消除了南下时腹背受敌的隐忧。与此同时，李建成、李元吉等子嗣也迅速抵达太原会合，李氏家族宏图大业的帷幕就此拉开。
西河郡（今山西汾阳一带）位于太原西进关中的咽喉要道，郡丞高德儒拒绝响应李渊，成为必须拔除的障碍。六月初五，李渊将首战重任交给了长子李建成与次子李世民。此时军队初建，制度未备，二人尚未获正式封号，军中皆以“大郎”、“二郎”相称。考虑到他们年纪尚轻——李建成二十八岁，李世民仅十八岁——李渊特派太原令温大有随军参谋，以助决策。
面对新募未训的士卒，兄弟二人深知纪律的重要性。他们首先共同制定简明军法，稍作整顿便率军开拔。行军途中，李建成与李世民始终与士兵同甘共苦，饮食起居毫无特殊，遇险阻则身先士卒。时值六月，田间瓜果已熟，他们严令禁止抢夺百姓，所有物资皆公平购买。偶有士兵偷摘瓜果，二人不仅代为付款，更不予责罚，以宽仁收揽人心。
沿途百姓感其军纪严明，纷纷主动奉上饮食。对于馈赠，兄弟俩必以重礼答谢，并将所得分予众将士共享。有人进献牛肉美酒，他们则婉言谢绝：“此乃隋法所禁，义师不敢受。”这种既亲民又守法的作风，极大鼓舞了士气，也为日后唐军“仁义之师”的形象奠定了基石。
抵达西河城下后，李建成与李世民未披甲胄，亲至城前向百姓宣示义军宗旨，并允许城外民众自由入城避难。城内官民见这支军队纪律严明、善待百姓，抵抗意志早已动摇，唯有郡丞高德儒坚持不降。六月初十，攻城令下，唐军刚架起云梯，将士便奋勇争先。然而未等登城，城内官员已率兵反戈，将高德儒擒获并押送至军营前，可谓“不战而屈人之兵”。
高德儒曾因“指野鸟为鸾”谄媚隋炀帝而闻名。李建成、李世民当众斥责：“汝以伪祥取悦暴君，与赵高指鹿为马何异？义师岂容此辈！”遂只诛首恶，余者不究，对城中百姓秋毫无犯。自六月初五出兵至六月十四凯旋，往返仅九日便克西河。李渊闻捷大喜：“以此用兵，虽横行天下可也！”
这场迅速利落的胜利，不仅检验了李建成、李世民的军事与政治才能，更以极小的代价扫清了西进道路。它向天下展示了李氏父子治军的纪律、用兵的效率与收揽人心的手腕，成为唐王朝创建过程中一次至关重要的实战演练与信心奠基。此战之后，军心大振，挥师关中、问鼎天下的宏图，迈出了坚实的第一步。
