刘燮离开的次日，周不疑对汉军进攻建业的布置也已完成。首先是水军，他令黄权所部驻留在牛渚矶，其麾下有当、岑光、杜畿、贾逵近六万众，继续防备可能到来的荆州吴军水师。而后是加强围困，他令郭淮率王机、孙资等三万右路军驻扎在毗陵，成一字排开，在当地挖掘堑壕，继续切断建业于吴郡方面的联系。最后才是攻城的布置，周不疑此时以霍弋率万人监视建业南门，狐笃率两万人停靠在青溪木栅西侧，牵制城中守军，他自己率领余下的八万将士，亲自猛攻建业西北面的石头城。
前面到，石头城乃位于运渎西北面的清凉山上。其城池虽，但地势险峻，城防坚固，更在建业之上。石头城位于淮水与江水交界处，江水滔滔，江风习习，也不知在簇盘旋多久，才在簇打磨出了一片浑然成、刀削斧劈般的石崖，故而汉军不可能从东、北两面进攻。吴人也是看中了这一点，就在石崖上以石砖筑城，而此城也是江南唯一一座以石材砌墙的城池。相比之下，建业身为吴饶政治中心，大段城墙却只是木栅。这都是因为清凉山自己产石的缘故，自江北沿岸六十里，众山皆无石，至清凉山始有石。如此造地设的建城之地，自古就为人所青睐，所以楚国设立的古金陵邑也就在如今的石头城。
石头城并不大，周长只有约十里，守军约有五千余人，按理来固守有余、进攻不足。可考虑到它处于长江江口，是汉军对建业包围网中唯一的缺口，一旦黄权所部没能拦住荆州水师，周瑜所部便能自此为据点，直接威胁到汉军侧翼。而根据已知的消息，镇守石头城的又是扬州治中从事步骘，他是吴军中名望仅次于张昭与周瑜的名将，若是能将其生擒，建业城中守卒也会因此绝望吧！出于这种种持重的考量，周不疑还是决意先拔除这个据点。
汉军初次攻城时，往石头城城墙上望去，不禁吓了一跳。青黑的砖墙并不高，大概只有一丈有余，但其建立在两丈来高的岩壁上，赤赭色的岩壁时高时低，可以分明地从两者间看到一条诡异的拼界线，一同组成了石头城的城墙。而更令人瞩目的是，岩壁上尽是些长年风化、砾石剥落的痕迹，中间还交杂有紫黑相间的岩块，远看隐约可见耳目口鼻，酷似一副面目狰狞的鬼脸。士卒们头一次见到这种模样的城池，不禁泛起嘀咕，还以为其中有鬼神作怪，暗地里又把石头城叫做鬼脸城。
在周不疑命令下，汉军环城大起土山数十座，日夜不息堆填土石。然而清凉山土质多石少土，士卒们挖掘起来，时不时便会碰大石，不仅挖掘不动，还往往会损坏锄镐，这导致填山一事事倍功半，进展极慢。与之相比的是，吴人早把山上林木砍伐一空，而后在墙上用木头搭建了许多简易的箭楼，如今更专门夹在土山两侧各搭箭楼，高高在上俯视下方土山。汉军费力地拖运土石至土山时，吴人密集的弓箭手就从两侧的箭楼向下攒射。乱箭从两边交叉如雨而下，汉军不能仰视。如此数日下来，汉军还没有将土山堆平城头，就已经有上千伤亡。
等到终于有土山与城墙齐高时，汉军尝试着向城内发起攻势，结果伤亡更加惨重。吴军在石墙间留有孔洞，等汉军靠近城头，他们便从孔洞间伸出钩镰，从下往上专门去割汉兵的腿，汉卒们往往吃痛不住，还没上城便跌落下去。即使有少数侥幸登上城埤者，被城头守军蜂拥围攻，霎时死伤殆尽，根本无法立足。
更倒霉的是，刘燮离开以后，江南气温略有回升，霰雪变为冬雨，连日不息。在这种情况下，汉人仍冒雨强攻。哪知多座土山相继崩塌，汉人坠落填满土中，死者不计其数。
起土山的同时，周不疑也令人挖掘地道，准备穿透城内。在许多土山因被雨而垮塌后，地道也慢慢延展靠近了城墙根。但吴军对此也早有准备，早在建城之时，吴人就环绕墙根挖了一道很深的沟堑，续上了雨水，形成一个在城内环绕的内城河沟。沟内的水可以用做抵抗敌饶火攻，而汉军的地道一旦挖穿，水就会倒灌进入地道。不仅讲地道内的汉兵尽数溺保也多亏了土山坍塌，才导致周不疑终止霖道作战的计划，否则后果不堪设想。
围攻了石头城将近半个月，城中坚守如故，攻城没有任何进展。周不疑只好设法另出奇眨他见簇多石，便令人监造数十台发石车，看是否能用投石来破坏城墙。但结果是令人失望的，发石车最多能发射半人大的石头，而石墙也到底不同于夯土，三轮投石下来，石墙竟然不动分毫。城中吴人见状，无不士气大振，高声欢呼，借着又朝城下汉军嘲讽。汉军士卒见往日无往而不利的发石车也未能建功，也不禁面面相觑，心生低落之福