南北朝末期，當時天下三分，梁朝則坐鎮南方。占據北方的是北魏分裂後的東魏、西魏，東魏的大權掌握在鮮卑化的漢人高歡手中，西魏的大權掌握在漢化的鮮卑人宇文泰手裡。兩魏以黃河為界，東魏占有函谷關以東的黃河中下游的廣大地區；而西魏以長安為中心，占據關中一帶。立國之初，就實力而言，東魏地廣人眾、兵精糧足；而西魏僻處關西，人稀兵少，物資匱乏。因此東魏權臣高歡幾次發動戰爭，妄圖消滅西魏，進而一統全國。
梁大同十二年（公元546）十月，東魏實際掌權人高歡，親自率領十萬大軍由晉陽出發，兵鋒直指玉璧，旨在攻占玉璧後、以此為跳板爭奪關中平原。由於玉璧是西魏在黃河岸邊針對東魏設立的堡壘，玉壁位於如今山西省稷山縣的西南邊，在軍事上對東魏的晉州威脅很大，因此，東魏把玉璧視為眼中釘、肉中刺，因此高歡表現出對這個軍事要地是勢在必得。
玉璧的守將便是西魏的并州刺史韋孝寬。為陝西西安人，出身在將門之家。他少年從軍，為人深沉機敏，溫和正直。年輕時，韋孝寬就顯示出非常出色的軍事才能。西魏時期，韋孝寬一直率軍在邊境與東魏作戰，屢立戰功。
東魏大軍到後，擺下連營數十里，將玉壁城團團包圍起來。高歡企圖引誘西魏軍出城決戰，可是對方卻不上當，只管據城固守。東魏軍連續多日猛攻，也一直不能得手。高歡的此時的對手，
高歡眼見晝夜不停的強攻也不能奏效，決定改變戰術。他選擇了玉璧城南的一座山丘，命令兵士們挑土加高，夯實，企圖人工築成一個制高點。
只要超過城牆的高度，就可以居高臨下，讓弓箭手們壓制住守城的西魏軍隊。如果再從土山上伸出橫木，架起一座天橋，就可以直接攻到城牆上。
韋孝寬馬上隨機應變，作出對策。他指揮士兵們在城牆上面對土山修築起兩座碉樓，備足了守城作戰用的兵器物資。隨著對方土山的加高，城牆上的碉樓也隨之用木料增高，一步不讓地始終控制著制高點。
高歡見這個方法不能得逞，氣得派人傳話給韋孝寬：「縱使你把樓架到天上，我也會穿過城去捉拿你。」
守城的西魏士兵突然發現城南山丘上的東魏人馬不見了。卻在城北出現了如法築山的敵軍。韋孝寬來到城北仔細觀察，他發現這些築山的的兵士只是虛張聲勢。
果然，高歡改變了戰術，集中兵力晝夜不停攻擊地勢險要的北城。當然，城北的動作是為了聲東擊西。他命令士兵們在城南向城內挖掘多條地道。
韋孝寬立刻針鋒相對地在城南挖掘壕溝，以切斷東魏軍的地道。並在壕溝中屯集重兵，每當東魏軍挖通一條地道，就遭到壕溝中守軍的還擊。
守軍還在地道口堆積木柴，發現敵軍在地道中潛伏，便將木柴塞進地道，點燃起來。在牛皮囊鼓風作用下，地道中烈火濃煙瀰漫，煙燻火燎之下，東魏士兵只得連滾帶爬地退了回去。
高歡又生出新的主意，他在士兵中選出一批能工巧匠來製造戰車。車頭和車身都包著鐵皮，眾多兵士推著這種戰車撞擊，所到之處，牆倒屋塌，即使設置柵欄也擋不住，威力簡直如同現代的坦克一般。
韋孝寬還是沒被難倒，他用布匹做成大帳幔，對著敵軍的戰車方向張開。高歡的戰車撞過來，布幔不僅遮擋住了視線，而且受到衝擊立即懸空。布幔怎麼也撞不壞，城牆也被保護住了。
高歡讓東魏軍在長竹竿上綁纏麻布，澆上膏油，點火後去焚燒布幔，企圖連玉壁城樓一起焚毀。城樓上的韋孝寬則讓兵士們在長杆上綁紮銳利的鉤刀，東魏的火杆攻擊時，城上就伸出遠遠地鉤刀去割，把點燃的麻布割落，火焰反而阻擋了東魏軍的進攻。
高歡命令築起堤壩，讓流經城內的汾水改道，以斷絕城中水源。韋孝寬便發動人力，在城內打井取水飲用。
高歡轉而再在城牆下挖掘地道，先用木柱支撐起來，然後放火燒斷木柱，使城牆崩塌。韋孝寬則在城牆崩塌處用柵欄堵住，東魏軍還是無法攻入城內。
高歡命人寫了懸賞「殺死韋孝寬者，官拜太尉，賞絹萬匹」，射進城內。韋孝寬就在反面寫上「殺死高歡者，照此賞賜」，命人再射出城去。
高歡攻城的計策想盡了，皆被韋孝寬所破。高歡黔驢技窮，高歡派人入城招降，"未聞救兵，何不降也？"韋孝寬回答道："我城池嚴固，兵食有餘，攻者自勞，守者常逸，豈有旬朔之間，已須救援？適憂爾眾有不反之危。孝寬關西男子，必不為降將軍也。"為了分化守城部隊，高歡開出賞格，射入城中：「能斬城主降者，拜太尉，封開國郡公，邑萬戶，賞帛萬匹。」韋孝寬手書其後，反射城外，："若有斬高歡者，一依此賞。"。
這會高歡真的被惹急了，他將韋孝寬的侄兒捆至城下，威逼韋孝寬投降。但韋孝寬「慷慨激揚，略無顧意。士卒莫不感勵，人有死難之心」。此時東魏軍已經苦戰六十餘日，」傷及病死者十四五」，損失7萬餘人，高歡也黔驢技窮，「智力俱困，因而發疾」。一夜「有星墜於神武（高歡）營，眾驢並鳴，士皆讋懼」，11月高歡連夜撤兵。
高歡攻城50天，始終無可奈何，反而士兵戰死和病死多達7萬人。心力交瘁的高歡急得舊病復發。
當時西魏傳言，高歡中箭負傷，岌岌可危。為了穩定軍心，高歡強作鎮定，召集群僚，命大將斛律金作《敕勒歌》，自己和之。「敕勒川，陰山下，天似穹廬，籠蓋四野。天蒼蒼，野茫茫，風吹草低見牛羊。」回到晉陽後，高歡一病不起，547年1月東魏權臣高歡最終憂鬱而死。
經此玉壁一戰，原本東魏強於西魏的形勢開始反轉，從此兩魏進入相持階段。韋孝寬也被加授驃騎大將軍，封為建忠郡公爵。
那麼為什麼說玉璧之戰影響了中國歷史的進程呢？我們來看當時的情況，東魏原本實力最強，可是經過這場慘敗後，元氣大傷，此後二十年再也沒有主動向西魏進攻。而西魏則利用這個時機，擴充實力，在短短的幾年時間內，國力得到迅速增強。玉壁之戰扭轉了「東強西弱」的局面。
後來西魏被北周取代，滅掉了北齊，統一北方。而北周的外戚楊堅奪取了皇位，建立了隋朝。之後隋朝又平定南方的陳朝，實現了天下的統一。假設玉璧之戰高歡取勝，那麼還哪有什麼隋唐，中國歷史很有可能是另外的模樣。