公元982年，也就是火烧晋阳三年之后，出于国防的需要，宋太宗命潘美在晋阳故城东北三十里汾河对岸的唐明镇新建城池。当年仅有一条小街的唐明镇，位于今天太原市西羊市街的大关帝庙一带，大南门的唐明饭店即得名于此。宋代太原城的大体位置，南到今迎泽大街北侧，北到今后小河一带，西到今新建路东侧，东到今柳巷一带，这座没有包砖的土城周长不过十一里，只有四座城门，当年周长四十二里共开二十四道城门的晋阳城此时已成为后人梦中再也难以触摸的海市蜃楼。
城池建成后，心有余悸的统治者不愿再看到“太原”、“晋阳”这样的名称，而代之以“紧州军事”，直到七十七年之后，才恢复了太原府的建制。在太原恢复旧称之前，并州州治和阳曲县治先后迁入了这座新城，民间因此有“宋前太原、晋阳一座城，宋后太原、阳曲一座城”的说法。俗话说：三十年河东，三十年河西，而太原城，则是一千年河西，一千年河东。
潘美在建设新城的时候，为了破坏太原风水，消除太原王气，取谐音以“钉”死太原龙脉，只修丁字街而不修十字街。对此，有人也做过善意的解释，说丁字街对阻遏契丹骑兵的驰骋极为有效，然而，在冷兵器时代，城池是抵御敌军的最后一道防线，一旦城防有失，守军的斗志与士气也随之崩溃，激烈的巷战只能是殉道者为壮烈结局而尽的最后努力，相对于战局已经毫无意义，所以，丁字街，只能是赵宋王朝愚昧与狭隘的表现。到1948年太原战役前夕，阎锡山军队在城中修筑巷战工事时，统计市区内仍有大小丁字街三百六十四条。直到今天，太原旧城仍然可以看到这些在城建规划中难以修复的错误，而近年来为了消除丁字街实施的交通改造工程，也因此都被冠以“打通”工程。
赵光义处心积虑地防备着太原，但他不曾想到，太原却在此后的战争中坚强地护卫着宋室江山，更令赵光义的后代们痛悔的是，如果没有毁掉晋阳，靖康之耻完全可能避免，北宋的历史也将随之改写。
太原重建一百四十多年后，以一支两千五百人的骑兵起义，女真人仅用十年时间就灭亡了建国二百余年的辽国。就在宋廷按照宋金海上之盟为全部索还包括燕云十六州在内的五代以后陷没各州而奔波交涉的时候，金太宗以北宋接纳辽军降将张觉为借口，挥师伐宋。金军的计划是兵分两路，西路军以宗翰也就是《说岳》中的粘罕为主帅，率军六万，从西京大同出发，攻占太原，东路军以另一员竭力主张攻宋的大将宗望为主帅，率军六万，自平州入燕山，直取真定，然后两路大军会师于开封城下，一举灭亡在联合攻辽的战争中被金军鄙薄蔑视的弱宋。
强盛的金朝灭亡实力强于宋朝的辽国之后，主懦臣庸的赵宋王朝面对急剧变化的外交形势却缺乏长远的战略眼光和积极的应变措施，不懂得及时缓和与西夏的关系以抽调战斗力较强的西北边防军加强北境防务，也没有在太原等二线战略要地部署机动部队。胡马南掠，完全出乎宗翰必有几场恶战的预计，还在幻想着以屈让和牺牲来换回燕云各州的宋廷猝不及防，或溃或降，节节败退，金朝西路军接连攻取了朔、武、代、忻四州。
说起北宋六贼之一的童贯，凡是看过《水浒传》的人们对他都不陌生，当时宋王朝在太原的最高官员就是被人们讽为媪相的童贯，这个深得宋徽宗宠信的宦官担任的职务是陕西、河东、河北宣抚使，负责全权统率这三个地区的军事力量，他的官邸就设在太原。除了征方腊取得胜利以外，童贯在与西夏、辽国的战争中，不懂治军却极擅隐瞒败绩、慌报军功，正是他两次伐辽的失利，使得北宋的腐败与孱弱在金军面前暴露无遗，从而萌发了南侵的野心。
其实多次出使金朝的宋将马扩早就对金兵的南侵有所察觉，并提醒童贯早做防备，仍然沉醉于以一百万燕京代租费收回幽州空城而沾沾自喜的童贯却对此充耳不闻。金军南侵前夕，曾参加燕京谈判的马扩再次前往宗翰军中商议收回蔚、应二州，狂妄的宗翰笑道：“你还在指望得到这两个州吗？山前山后都是大金朝的土地，还有什么好说的？你们把所有州县奉上赎罪，我们才可以原谅你们收纳张觉。你现在就可以回去了，我不久就会派人去宣抚司。”
马扩回太原复命后，大惊失色的童贯不是按照马扩的劝说部署应敌的防务，而是做好了南逃的准备。不久，金国使者来到太原，通报了金军已经南侵的情况，并要求宋廷割让黄河以北的土地。不知所措的童贯准备逃归京城，太原知府张孝纯劝阻道：“金人撕毁盟约，大人应当率领各路将士奋力抗敌，如果大人南归，军心必然动摇，这无异于把河东拱手送给金人呀，河东一旦失守，河北岂能保全？请大人留下来与我们共同报效国家，更何况太原地势险要，人民劲悍，金兵未必能够攻取。”厚颜无耻的童贯居然说：“我的职责是宣抚，而不是守土，如果一定要我留下，还要你们做什么？！”
十二月八日，童贯逃离太原前线，张孝纯闻迅后击掌长叹：“平时童大人何等威风，怎么一旦风云突变就心惊胆战抱头鼠窜，他还有什么面目去见天子？！”正是这个童贯，回到京城后拒不接受宋钦宗东京留守的任命而与徽宗南逃，当卫士们在一片痛哭声中阻挡浮桥请求徽宗留下时，这个逃跑将军竟然命令他的亲军胜捷军放箭，当即射倒数百人，童贯因此在舆论的一片谴责声中遭贬，流放途中被宋钦宗下诏处死。
十二月十八日，一路势如破竹的金朝西路军攻破石岭关，前锋已进抵太原城下，陕西地方部队的麟府折可求、鹿阝延刘光世等部以共计四万人的兵力救援太原，在太原城外的汾河北岸被金军击败，损失一万余人后溃散。顺便一提，折可求是名将折从阮的后人，杨业之妻折太君就是将星璀灿的折氏将门中在民间影响最大的一位，曾镇压过宋江后来被张孝纯任命为河东第二将的折可存是折家的另一位名将，此前在领兵救援雁门的途中兵败，被俘于崞县，第二年才逃归宋朝。
还没有遭遇有效抵抗的金军在太原城下受到顽强阻击，而此时的太原，仅有王禀率领的胜捷军三千人。胜捷军是童贯负责西北边防时为自己招募的一支数万人的亲军，行伍出身的王禀从一名普通的士卒逐步擢升为宣抚司的都统制，在跟随童贯镇压方腊起义后北伐辽国，败于白沟，及至童贯逃离太原，留他为副都总管负责守城。
与此同时，宋徽宗传位于儿子赵桓，是为宋钦宗。金朝东路军主帅宗望曾经率领一千五百名骑兵击败有皇帝督战的两万五千辽兵，在降将郭药师的引导下，更是纵横千里大平原如入无人之境，黄河南岸的数万宋军望风而逃，六万金军在宗望的狂笑声中，乘坐搜寻来的十几条小船，用五天五夜的时间从容渡过无人把守的黄河天堑，于靖康元年正月初八兵临开封城下。
按照金军的战略部署，西路军不仅要与东路军会师开封发起总攻，为了阻击唯一可与金军抗衡的宋朝西北边防军，防止赵宋朝廷从西路奔蜀，宗翰还负有攻取洛阳这个战略要地的重任。太原久攻不下，宗翰却不能贻误战机，只得留下部将银术可继续围困，自己则率军疾驰南下。
就在孤军深入的金朝东路军等待西路僚军的时候，懦弱无能优柔寡断的宋钦宗仍然在战与和之间徘徊不定，最后竟然接受了宗望割让太原、中山、河间三镇的退兵条件，愤而辞职的东京留守李纲被宋钦宗挽留后扣押了这份割地诏书。
不久，北宋各路勤王大军云集开封的已达二十余万，面对有利形势，头脑发热的宋钦宗没有经过周密分析与部署就草率同意了少壮派将领姚平仲“夜叩金营、生擒宗望”的作战方案，可笑的是，这样的军事机密居然在实施前三天就被泄漏。二月初一，星夜突袭的姚平仲军被严阵以待的金军击溃，姚平仲突围远遁后销声匿迹，直到几十年后才有人留下了他在四川出现的记载。劫营失败后，宋钦宗被迫全部答应宗望的退兵条件，金朝东路军于二月初九撤军北归，而已经进军到山西泽州的宗翰也在得到宋廷割地的许诺之后回师太原。
尽管宋朝使臣路允迪进城传达了割让太原的诏书，但太原军民与中山、河间两镇一样，拒绝了这份屈辱的圣旨，与恼羞成怒的金兵展开血战。出师已近半年的金朝西路军此时已是日益疲弊、粮草不济，宗翰用“锁城法”构筑重重工事将太原团团包围，留下大将银术可继续围城，自己则率领主力撤回大同。
宗翰北归后，猛将银术可扫平了太原外围州县，以偏师先后夺取文水、西都谷、祁县、太谷、盂县，并击败了救援太原的宋军地方部队樊夔、施诜、高丰部。
京师解严之后，在请战派与舆论的压力下，宋钦宗认识到太原保卫战的战略意义与三镇“国之屏蔽”的重要地位，于三月十六日下诏重新确保三镇，加封三镇官员职位，褒奖他们守城之功。
这一年五月，赵宋王朝第一次组织中央禁军救援太原，大将种师中由河北井陉西进，另外两员大将，姚平仲的养父姚古和张孝纯的儿子张灏分别从长治和汾州北上，三军互为犄角，共解太原之围。
种师中出身于世代将门之家，祖父种世衡及兄长种师道都是北宋名将，他率兵从河北井陉进入山西平定，很快就收复了寿阳、榆次，但由于姚古、张灏军没有及时策应，种师中部又返回到河北真定驻扎。
就在这个时候，重臣许翰误听谍报而做出了金军将要全线撤兵的判断，多次催促种师中进兵，甚至责备他手握重兵却逗留观望。种师中被迫留下辎重粮草，轻装出发，同时约定姚古、张灏两军分道俱进。不久，种师中部的前锋进抵距离太原二十里的石桥，中军到达寿阳的石坑，由于一路上没有遇到金军抵抗，以致这员久经沙场的老将犯了麻痹大意疏于戒备的兵家大忌。当种师中接到探马报告榆次方面有金兵袭来的消息后，误以为是金军北归的零散部队，岂料却是前来阻击的金军主力，宋军仓猝应战，五战三胜，苦苦前行。然而，惧敌怯战的姚古部将焦安节慌报军情，奏称金军主帅宗翰已经赶到，致使姚古、张灏两军逡巡不前，未能按照约定与种师中部会师。当种师中部被迫撤退到杀熊岭时，再次遭到金军重兵围攻，军粮短缺、士气低落的宋军几乎全军溃散，身边仅剩百余将士的种师中身中四创仍然裹伤力战，最终为国捐躯饮恨疆场。击溃种师中部后，金军主力从容回师，在祁县以东的盘陀击溃姚古部，在交城击溃张灏部，宋廷第一次救援太原的努力就这样在占尽优势的情况下失败了。事后，焦安节被处斩，姚古贬官于广州。
就在种师中救援太原的大军中，有一员名叫杨志的大将，作为“招安巨寇”，他曾在宣和四年跟从童贯征辽，担任先锋，杨志后来在救援太原与金兵的交战中，兵败于山西盂县，不知所终，大抵不是随败兵溃散就是阵亡于乱军之中。《水浒传》第十二回中杨志说：“洒家是三代将门之后，五侯杨令公之孙”，这一点，史无可考，但救援太原的这位杨志，应该就是小说《水浒传》中杨志的原型。
大敌当前，宋廷高层之间还在进行着激烈的政争，倾轧与排挤仍未停止，就是在这种形势下，主战派李纲以一介文臣被迫担负起第二次救援太原的重任。然而，李纲却一再受到同僚的掣肘与钦宗的疑忌，当时他能够直接指挥的士卒只有一万二千人，申请拨付100万的军需仅得到20万，不仅在京城征调战马被制止，甚至还将他征召的地方部队遣散。李纲计划先进行必要的休整训练，等做好充分准备后再行出征，却被宋钦宗斥为拒命，只得于八月初匆匆开拔。
宋朝中央政府对太原的第二次救援可谓气势汹汹，除了李纲之外，还有驻屯于沁县的解潜部，驻屯于辽州的刘部，驻屯于文水的折可求、张思政部，驻屯于南北关的范琼部，计划以兵分数路的优势兵力围歼银术可孤军深入的疲敝之师。
当年深得宋徽宗宠幸的宦官童贯手中都有数万人的亲军，但是，如此事关国家存亡的重大军事行动中，李纲上疏各路大军合兵一处统一指挥的要求却被否决，身为宣抚的李纲徒有节制诸路大军之名而无节制之实，各路将领都直接听命于远在京城的宋钦宗，各自为政，互不协同。其实只要回想宋初大将作战必须按照出征前皇帝下发的阵图来指挥的愚蠢做法，就不难理解宋钦宗的举动了。赵宋王朝的中央集权制度不仅断送了宋廷第二次对太原的救援，断送了太原，也葬送了自家一百六十余年的锦绣江山。已经出征近一年的银术可面对一盘散沙的宋军指挥若定，先是集中主力击败刘部，随即又先后击败解潜部于南北关、张思正部于文水、折可求部于子夏山，宋军被各个击破损失数万人之后，对太原的第二次救援宣告失败，李纲以“专主战议，丧师费财”的罪名被贬官。
目光短视急功近利的赵宋王朝没有吸取张觉事件的教训，又因为策反已经归降金朝的辽国旧臣而激怒了金太宗，早有蓄谋的金太宗以此为借口于八月十四日再次下诏攻宋。金军二次南侵的兵力部署和进军路线较之前一次基本不变，但针对上次东西两路未能协调呼应而置东路孤军于背靠黄河独挡二十余万宋军的险境，二次南侵着意加强东西两路的互相协同，以实现两路夹击、会师开封的战略目标，而为了实现这一目标，其战略重点，就是攻取太原打通西路。太原，再一次成为众矢之的。
在重重包围中南顾王师望穿秋水的太原守军没有盼来自己的援兵，兵临城下的却是卷土重来的宗翰大军。宋代的太原只是一座政治与战略地位都不重要的小城，物资储备极为有限，太原军民已经在严密封锁中苦苦支撑了八个多月，存粮基本用尽，士卒先是宰杀牛马骡等牲畜，后来只好烹煮弓弩皮甲以充饥，而城中百姓则只能用糠秕和干草来果腹，甚至出现了人相食的惨剧。尽管如此，太原军民依然矢志不渝，拒绝了宗瀚的数次劝降而决心以死报国。
做为一个游牧民族，女真人长于野战而短于攻坚，为了夺取太原，金军总结了攻取辽国五京时的作战经验，除了早已实施并卓有成效的“锁城法”外，还制定了一整套在当时极为先进的攻坚战术。金军运来三十座大炮，能将大于斗的炮石抛入城内，城头用于防御的敌楼屡屡被击中摧毁。北宋攻取晋阳时，就曾在城外构筑过起防护作用、名为“洞屋”的掩体工事，而金军更是建造了五十座下部安有车轮的大型机动洞屋，其作用尤如现代的装甲运输车，金军企图用它来运送土木填平护城壕。在攻城时，金军制造了集洞屋与云梯于一体兼顾防守与攻击的鹅车，这种形如鹅状的装备下安车轮，上冠皮铁，能够有效保护士卒攻城。
太原守将王禀针锋相对，对于大炮，在敌楼前设立栅墙，楼顶覆盖糠布袋，这样敌楼即使被击中也不会有大的损坏而能够迅速修复。对于填壕，宋军挖掘地道直通护城壕，等金军填满木柴后就放火焚烧使其前功尽弃。对于鹅车，宋军在城头设立了也如同鹅状的跳楼，从跳楼上将系有绳网的巨石套在鹅车顶部，使其重心上升，然后用搭钩和绳索将鹅车拉倒。
人相食，意味着这座孤城的坚守已经支撑到了极限，在金朝生力军半个月的猛攻之下，英勇顽强的太原城在坚守了二百五十多天之后，于九月初三失陷。尽管大势已去，王禀依然率领饥饿疲惫的士卒坚持巷战，背负着供奉于太原祠庙中的宋太宗御容突围出城，金兵全力追赶，身中数十枪的王禀投汾河自尽。金兵得到王禀的遗体后，宗瀚破口大骂，命令士卒策马踏为肉泥以泄其愤。城破之后，太原三十余名当地官吏壮烈殉国，金兵屠城报复，在饥饿中幸存的太原百姓几乎被屠杀一空。
太原保卫战的另一位功臣太原知府张孝纯被俘后押往云中，四年后，金朝扶立的伪齐政权建立，身陷囹圄的张孝纯违心地接受了伪职，出任尚书右丞相，他曾投书宋高宗赵构，表白自己的迫不得已，并透露了伪齐皇帝刘豫准备派遣刺客暗杀南宋君臣的计划。又过了八年，因为在与南宋的战争中屡屡失败，伪齐被金朝所废，张孝纯等人被遣返南宋，张孝纯为自己的失节而深感羞愧，自请致仕，病死于徐州。
攻陷战略重心太原之后，金朝西路军挥师南下，与东路军遥相呼应，于年底会师开封，顺利灭亡了的北宋王朝，是为“靖康之难”。
在围困太原期间，金兵一部曾驻扎于晋阳城废墟之中，当他们举头仰望太原故城巍峨的城墙时，可曾想到晋阳城如若不毁，金兵有可能攻破这座兵精粮足千古雄关吗？当徽钦二帝北狩蒙羞的时候，可曾想过这正是当年赵光义下令火烧晋阳的报应？
尽管太原的地理位置依然重要，但太原抗金战，是龙城太原在漫长的封建社会中最后一次对全国的政治、军事形势产生重要影响，从此后，太原基本没有再为封建皇朝创立过有如汉唐五代时的功勋，太原再一次影响全国形势时，已是八百年后的辛亥革命。