命纥单贵破坏黄河大桥，坚守蒲州（山西省永济县），召回裴文安。裴文安返抵晋阳说：“军事行动，必须诡秘神速，为的是要出敌人意料之外，大王既不亲征，我又被调返，使敌人计成，大事就会永去。”
杨谅不回答，任命王聃当蒲州刺史（山西省永济县），裴文安当晋州（山西省临汾市），薛粹当绛州（山西省新绛县），梁菩萨当潞州（山西省长治市），韦道正当韩州（山西省襄垣县），张伯英当泽州（山西省晋城市）州长。
隋炀帝派杨素率骑兵五千人，袭击王聃、纥单贵据守的蒲州，攻破。於是率步骑四万取太原。杨谅派赵子开守高壁，杨素击败他。杨谅得知消息大为恐惧，亲率大军在蒿泽（汾阳县北湖泊）布阵抵抗。不料下大雨，杨谅打算率军撤退，王頍劝谏说：“杨素孤军深入我方阵地，人困马乏，大王率领精锐部队，亲自出击，一定取得胜利。而今见到敌人就要退走，显示我们胆怯，使军心沮丧，更增加对方军队的气焰，大王千万不可回军。”杨谅不听从，退守清源（山西省清徐县）。杨素进而发动攻击，杨谅与之大战，死了一万八千人，杨谅退保并州，杨素四面包围，杨谅束手无策，请求投降。