次日，智伯再次派遣智开去向魏桓子驹讨要土地，但魏驹并不想给。谋臣任章说：“向别人讨要土地，如果我们给了他，那么失去土地的人一定会感到恐惧，得到土地的人则会变得骄傲自大。骄傲的人会轻敌，而恐惧的人则会联合起来。如果我们让联合起来的人来等待那些自大的人，那么智氏必定会灭亡。”魏驹听了之后说：“好的。”并且将一座拥有万家之邑的城池献给了智伯。
智伯于是派他的哥哥智宵去向赵氏请求蔡、皋狼的土地。赵襄子无恤，对智伯的旧恨耿耿于怀，生气地说：“土地是我们祖先传下来的，怎么可以随便放弃？韩、魏给他们土地是他们自己愿意，我不能为了讨好别人而放弃土地！”智宵向智伯报告了赵襄子的回答，智伯非常生气，随即动用智氏军队，派人邀请韩国和魏国参战，一起攻打赵襄子。他们约定在灭掉赵国的那一天将赵襄子的土地分成三等份。韩虎和魏驹一方面是害怕智伯强大的军队，另一方面是贪婪赵国的土地，于是各自率领军队，跟从智伯一起进攻。智伯亲率中军，韩**队在右边，魏**队在左边，他们直接冲入赵府中，试图擒拿赵襄子。赵襄子的谋臣张孟谈预料到智氏军队的到来，于是跑去告诉赵襄子：“我们的军队很少，无法和敌人抗衡，主公赶紧逃难吧！”赵襄子问道：“逃到哪里比较安全呢？”张孟谈说道：“我们最好逃到晋阳去。曾经董安于在那里建造了公宫，尹铎经过管理之后，百姓受到了他数十年的宽容和恩惠，他们一定会为我们效命到死。先君临终的时候也曾经说过：‘如果将来国家有变，就要去晋阳。’主公赶紧走吧，不能再犹豫了。”赵襄子立即率领家臣张孟谈、高赫等人，向晋阳疾走。智伯则命令韩国和魏国的军队一起攻击，紧追不舍地追赶赵襄子。
说起赵襄子，他有一个家臣名叫原过，走得比较慢，落在了后面。他在半路上遇到了一个神人，一半在云雾中，只能看见上半身穿着金冠锦袍，脸也不太清楚。这个神秘人物用青竹做的两节管子交给了原过，嘱咐他：“替我向赵襄子传话。”原过追上了赵襄子，告诉了他所见的事情，并且把那个竹管交给了他。赵襄子亲自剖开了竹管，里面写着两行朱红色的字：“告诉赵襄子，我是霍山之神。我奉上帝之命，于三月丙戌之日，让你灭掉智氏。”赵襄子秘密地保守了这个消息。到了晋阳，赵襄子看到晋阳的百姓都非常感激尹铎的仁德之德，他们带着老人和小孩前来迎接赵襄子进城，并让他们驻扎在公宫里。赵襄子看到百姓这么支持他，又看到晋阳的城墙高大坚固，仓库里也充满了粮食，他的心稍微安定了一些。他立即向百姓宣布，让他们上城守望。无恤检查军器，发现戈戟都已经钝了，箭矢还不到一千，感到很不高兴。他对张孟谈说：“守城最重要的武器就是弓矢，现在箭矢只有几百，还不够分给所有人，这怎么办？”张孟谈说：“我听说董安于治理晋阳的时候，公宫的墙垣都是用荻蒿和楛楚聚起来筑成的。主公为什么不拆掉这些墙垣，来检验一下它们的虚实呢？”赵襄子派人检查城墙，果然发现它们都是用箭竿这种材料做的。赵襄子说：“现在箭矢已经足够了，但是我们没有金子来铸造更多的武器怎么办呢？”张孟谈说：“我听说董安于建造宫殿的时候，用了很多精铜做成柱子。我们可以把这些柱子卸下来，用来铸造武器，应该够用了。”
智家、韩家和魏家三国的军队到达后，分成三个大营，连成一片包围了晋阳城，使得晋阳城被围得像铁桶一样牢固。晋阳城的百姓们，有很多人自愿参战，一起到公宫请求出战命令。于是无恤召集张孟谈一起商议此事。张孟谈说：“对方的兵力众多，我们寡不敌众，战斗未必能胜利。不如我们深挖沟壑，高筑城墙，坚决不出战，等待他们的变化。韩家和魏家并没有和赵家结仇，只是被智伯所逼迫。他们两家割让土地，也不是心甘情愿的，虽然现在联合作战，但实际上心里并不一致。不出几个月，他们之间必定会有互相猜疑的事情发生，怎么可能长久呢？”无恤采纳了张孟谈的建议，亲自去安抚百姓，表明了坚决守城的决心。军队和百姓互相鼓励，即使妇女和儿童也都愿意为守城尽一份力。每当敌军接近城墙，城上的强弩就会射击他们，三家军队围困了晋阳城一年多，却始终无法攻破。智伯坐在小车上在城外巡视，感叹道：“这座城池坚固得像铁瓮一样，怎么能攻破呢？”正在闷闷不乐的时候，他来到了一个山下，看到山下的泉水源源不断地流淌，向东奔去。智伯抓来当地的居民询问，居民回答说：“这座山叫做龙山，山腹中有一块巨大的石头，像瓮一样，因此也叫做悬瓮山。晋水向东流去，与汾水汇合，这座山就是它们的发源地。”智伯问：“离城有多远？”居民回答：“从这里到城的西门，大约有十里远。”智伯登上龙山，看着晋水，又绕着城东北走了一圈，突然明白了什么，说：“我已经想到攻破这座城的办法了！”他立刻回到军营，邀请韩国和魏国的将领商议，他打算引晋水灌城。韩虎说：“晋水是向东流动的，我们怎么能让它向西流动呢？”智伯说：“我并不是想直接引晋水过来。晋水的源头在龙山，水流得很急。如果我们在龙山的北边高地上挖一条大渠，作为蓄水的地方，然后将晋水上游的水坝堵住，让水不再流向晋川，那么水势必会全部流入新挖的渠道。现在春天即将到来，雨水马上就要降下了，等到山洪爆发的时候，我们再决堤放水，把城池淹没，城中的人就都会变成鱼鳖了。”韩虎和魏驹齐声赞叹说：“这个计策真妙！”智伯说：“今天我们就要分配好任务，各自负责各自的事情。韩公你负责东路，魏公你负责南路，你们都需要日夜警惕，防止敌人突袭。我将把大本营移到龙山，同时负责西北两路，专门负责挖渠筑堤的事情。”韩虎和魏驹领命后离开了。智伯发令，让人们多准备锹和镐等挖土工具，在晋水的北面凿渠。其次将各处泉水向下流的地方，全部筑起堤坝拦截。又在渠道的左右两侧，修筑高高的堤岸，凡是山沟里流出的水，都有堤坝拦截。那泉水无处流淌，只能向北流去，全部流入新凿的渠道中。把铁栅栏和闸板逐渐添置，截住水流出口，这样水便流不走，只能增加而无减少之势。现在晋水北流的一支，名叫智伯渠，就是当时所开凿的渠道。一个月后，果然春水大涨，山洪暴发，水位突然增高，与渠道平齐。智伯让人从北面将堤坝挖开，洪水便从北面涌出，直接灌入了晋阳城。有一首诗为证：“向闻洪水汨山陵，复见壅泉灌晋城。能令阳侯添胆大，便教神禹也心惊。”