9月22日下午，商埠被攻城部队占领。王耀武的残余部队全部退守城内。
四9月22日，面对越来越严峻的形势，蒋介石乘飞机亲临济南城上空，凌空督战。飞机在济南城上空盘旋几圈之后，蒋介石与王耀武通了电话。蒋介石用尽可能温和的声调问：“俊才，你在哪里啊？”王耀武仰望天空回答：“我在城内指挥作战。”蒋介石说：“你已经挫败共军的数次进攻，证明你的10万将士都是党国的忠勇之士，全国军民都希望你再次创建天下奇功。”王耀武说：“学生明白。”
济南老城分内外两城，内城套在外城里，无论内城还是外城都有高大坚固的城墙。王耀武认为，攻击商埠的作战已使共军遭受严重伤亡，至少需要三至四天的准备和恢复才可能再次发动攻击。
华东野战军攻城部队确实极度疲劳，减员来不及补充，伤员还没有全被抬下去，弹药和其他攻城作战器材也消耗严重。按照一般的作战规律，虽然不至于需要休整多日，但两天还是需要的。
但是，许世友命令：持续攻击！即刻攻击！决不给王耀武喘息的时间！
9月22日黄昏，我军对济南老城的攻击不顾一切地开始了。
外城是济南城防的第二道防线。城墙由大石块和大方砖砌成，墙高8米、厚10米，城门楼是火力支撑点，城墙顶部设有母堡和子堡，城墙中部设有三层火力发射点，城墙内外均设有铁丝网。
9月22日18时30分，攻城部队东西兵团的大炮一齐开火。炮声一响，国民党守军也立即开火，轻重机枪、毒气弹和火焰喷射器全部向城墙外倾泻，外城城墙下一片火海，毒气夹杂着浓烟翻卷升腾，令人窒息。
十三纵负责攻击西南方向的永绥门，3个团齐头并进。一O九团五连爆破组在炮火的掩护下，很快在外壕爆破成功，把外城城墙炸开了一个2米宽的缺口。在团长田世兴的命令下，一营和三营的官兵蜂拥进入外城。
十纵的任务是突破永镇门和小北门，主攻部队是二十九师。永镇门是济南外城最坚固的城门，城高壕深，城楼工事密集，火力强劲。就在八十五团发动攻击的前一刻，城上数十架火焰喷射器一起发射，永镇门外顿时烈火熊熊，已经到达突击前沿的二营官兵伤亡惨重，所有的攻城器材都被烧毁。
更严重的是，团属炮兵暂时无法接近射击，只能依靠步兵的炸药包强行爆破。第一爆破组组长赵同起带领两名爆破员首先将城门外的鹿砦炸飞；接着第二、第三爆破组先后炸毁了暗堡和地堡；第四爆破组不顾一切地直扑城墙，一声巨响之后，城墙炸塌了一角。由于城墙太厚无法洞穿，爆破组只有继续往上送炸药。在倒下了数名战士之后，战士们终于把21包重370多斤的炸药堆在了城墙下。爆破队副队长苟德光冲上去点燃炸药，三丈高的城门楼终于倒塌。三排官兵在城墙上抗击着守军的反击，牢牢掌握着突破口，让后续部队向外城里猛插。
聂凤智的九纵和袁也烈的渤海纵队在城东主攻永固门。此时，永固门外还有历城和千佛山两个据点没打下来。聂凤智个人认为：绕过这两个据点直接攻击外城，这两个据点的守军不敢出击，更不敢贸然开炮，因为开炮可能会误伤他们自己的部队。聂凤智还把上级要求他们“助攻”的命令，擅自改成了“主攻”。有干部说这样擅改命令不好，聂凤智说：“先攻进济南有什么不好？东面打好了，西面才能顺利！”
于是，九纵永固门的攻击一开始就显出了不惜一切的狠劲。聂凤智有一张王牌，就是在鲁南战役中缴获的4辆15吨重的美式轻型坦克，坦克上配备有火力强劲的35毫米平射炮，而王耀武守备济南的坦克全部是陈旧落后的日式坦克。坦克开路，这在共产党军队以往的作战中极其罕见。当九纵的坦克向国民党守军冲过去的时候，守军官兵个个目瞪口呆，他们不知道共产党军队有了坦克，而且还是美式的，于是大喊：“别误会！我们是保六旅的！”见坦克不理会他们，掉头就跑。在坦克的助战下，九纵肃清了永固门的外围，然后用坦克上的平射炮把城门轰开，七十三团突击队员蜂拥而入。永固门城门太窄，坦克无法进去，步兵就用各种办法把城门凿大了。
9月23日，济南外城已被全部攻占。
王耀武的守军退守内城，而许世友的攻城部队也已经精疲力尽。
五9月23日上午9时，徐州“剿总”总司令刘峙和国民党军空军副司令王叔铭飞临济南上空，用无线电与王耀武通了话，要王坚守待援。
王耀武对他们的话已不感兴趣，只是表示自己准备孤军作战到底。随后，他让罗幸理在省府大楼内继续指挥作战，自己则转移到内城更核心的地带去。他的副参谋长等人已经在北极庙西侧的成仁寺地下室设立了一个简易指挥所。
此时，华东野战军攻城部队已伤亡过万。但野战军指挥部决定，不怕疲劳，不顾伤亡，即刻向内城发动攻击，迅速攻陷济南内城。
9月23日18时，许世友下达了攻击内城的命令。
一个小时的炮火准备之后，各纵队突击队开始强行架设浮桥，抵近济南内城城墙。
突击八连涉水过河，炸开铁丝网和城墙下的地堡后，正准备爆破城墙，国民党守军发射了燃烧弹。瞬间，突击队的电话线被炸断，人员和器材损失严重，攻击通道被重新封堵。九纵二十五师七十三团的一部从东南角一度登上城墙，但因后续部队没能跟上，登上城墙的官兵全部牺牲。
午夜时分，攻城各部队均未打开突破口，战场一时间沉寂下来。
激战关头，任何迟疑都会给战局的演变带来不可预测的后果。
攻城部队已经连续战斗七天七夜，继续攻击下去也许难以迅速奏效，但如果拖到天亮还没有成效，部队暴露在敌人飞机和火炮下，将会出现更大的伤亡。
许世友说：“我们的困难大，敌人的困难比我们更大！现在就看谁的决心硬过对方。我们要跟敌人比毅力，比顽强，比后劲。胜利往往就决定在最后的5分钟！”
