徐州古称彭城，帝尧时已建大彭氏国，禹划天下为九州，其中就有徐州。春秋战国时，彭城先属宋后归楚，至秦一统后设彭城县。楚汉之际，西楚霸王项羽都彭城，后败于汉，设彭城郡。至东汉时设彭城国，都彭城。直到三分天下时，曹操迁徐州刺史治于彭城，自始方称徐州。城南有云龙山，山上巨石嶙峋，林壑幽美；山由九节山头组成，南北走向，蜿蜒如龙，山上常有云雾缭绕。相传汉高祖刘邦起事前，曾逃进此山，夫人吕雉察看天象，只要随云、龙之气便能找到他，因而得名。
城北为微山湖，周长约二百三十里；湖中的微山岛，东西长约十里，南北宽约六里，地处四面荷通天，岛上有微子墓和张良墓，数个村庄依山傍山，错落有致，山水互映，别具风格。此外，附近有高祖起事前任亭长的泅水亭、衣锦还乡时的大风歌碑、歌风亭等；云龙山上有西楚霸王检阅子弟兵的戏马台；城中张良进履求书的圯桥和悲歌散楚兵的子房山；城西不远处有韩信十面埋伏打败项王的古战场九里山等。
徐州东近黄海，西连中原，北倚鲁南山地，南瞻江淮平原，地处青、徐、豫、扬四州交通要道，又立于制高点上，一直是兵家必争之地，可谓东方的‘腰眼’，南北的‘咽喉’；南不得此，无以图冀东，北不得此，无以窥江东。自古以来，发生于此地的战争，有记载的就多达四百余次，可说每十年就要打上一回大战。所以如此，实因地理上徐州之得失，往往关系南北之盛衰，不是作为北方锁钥，就是作为南方桥头。
在这次大会战前，曹操以曹仁为帅，督领神羽军、玄武军（水师）二大军团近二十万大军驻扎于此。但开战后，孙策选择与曹操结盟，让曹操感到无后顾之忧下，将神羽军抽调至关中，仅留本领次于曹仁的曹真率二万人驻守此地。
在江东军和荆州军发起攻势后，荀彧便晓得中了徐庶的声东击西之计，但又不敢立即从许都或从前线抽调大军往援，惟恐战线崩解而被刘备军或江东军乘隙强攻，危及许都。
虽然许都城高兵精，非旦夕可下，但被敌人打到家门口，对于士气的打击实难以估量。于是荀彧只能下令曹真和张允拦截坚守，另征调青州和兖州附近各城镇守军共三万余人，由张顗领军，在田丰的辅佐下，迅速前往增援；又快马传令北方幽州军团的吕翔率二万铁骑迅速南下换防，冯楷和夏侯尚则整顿败军，巩固许都东边的防线。
玄武军团大败后，曹真也意识到问题的严重性，就抢先派李典的族弟李通率精兵五千，把守云龙山；又大举征调民夫在城外挖掘了两道壕沟，同时有数道纵沟相连，互为呼应，又在壕沟前布置了大量的鹿角、陷坑、铁棱钉等，且准备了大量弓矢，打算撑到许都大军来援。
离云龙山五里外，江东军中军大营，周瑜在帅帐召集军事会议。
听取斥候报告后，周瑜问众将的看法。
丁奉率先道：‘按路程算，曹营的援军大约五天后赶到，所以我们必须要在五天内攻下徐州城。’
黄盖道：‘要攻徐州，必先取云龙山。老夫愿领本部军攻山，明天日落前必克！’
李异摇头道：‘不是末将对老将军没信心。只是曹真挖的两道壕沟大有深意，一旦云龙山遭攻，他一定会分兵迅速来援的。’
周瑜微笑道：‘老将军豪气不减。不过一座小山丘，怎值得如此大费周章？’于是分派任务，众将大为叹服。
丁奉道：‘攻下云龙山后，是否乘胜攻城，一鼓而下？’
周瑜摇头道：‘不能那么早攻下，要在援军到达前一刻破城，然后再全力一击。只要打败援军，二公子就安全了。’
众将闻言一愣，彼此相顾，眼神和表情中都充满了问号。周瑜微笑着没再多说，回到帅座前下令众将退下，立即执行任务。
二月五日，辰时一到，老将黄盖率精兵一万，小心翼翼的仰攻云龙山。山上的守军在李通的指挥下，以弓矢、巨石、滚木等阻击，同时打旗号向城内的曹军求援。
曹真正要分兵往援，亲兵却来报，江东军由东、西两路来攻。曹真眉头一皱，只能暂缓分兵，先派去应付江东军的攻城。
此时老天爷似乎站在江东军的一边，清晨的薄雾并无如往常的随日头上升而散去，反而逐渐的越来越浓。江东军刚攻上山腰时，雾已浓重到稍远处即只能见到人影晃动，难以分辨敌友的地步。
虽然江东军因此看不清滚石、檑木落下来的方向，只能听音辨位的设法躲藏，但是对于防守的曹军来说，也等若漫无目标的乱放木、石，杀伤力比起平常低得可怜。而正因为如此，没多久曹军在慌乱下，不知不觉已把木、石用罄。
转眼间，江东军虽然气喘吁吁，却已逼近山头。浓雾渐渐散开，双方都为彼此距离之近大吃一惊，纷纷以弓弩对射，伤亡立即大增。总体来说，江东军占人数