在上海，恽代英和张廷灏等于12月18日联名在上海《申报》刊登启事，严正指出西山会议派在上海设立伪中央委员会是非法的。并写信给国民党元老柳亚子，希望他能发表“公正之谠论”，以壮我声势。柳亚子立即仗义执笔，载文痛斥西山会议派反革命所为。同年底，恽代英、沈雁冰等奉国民党中央之命，重新组织国民党上海特别市党部，同西山会议派进行针锋相对的斗争。
由于中国共产党人和国民党左派的坚决斗争，“反右空气，弥漫域中”，“打倒右派”的呼声震撼中国大地，它使西山会议派声名狼藉，陷于孤立。原来打算参加西山会议或给予支持的一些右派分子如戴季陶、吴稚晖等，这时都表示不和西山会议派合作。一些列名西山会议派第二次大会的代表如叶楚伧、邵元冲等，也纷纷刊登启事表示不参加会议。这就为国民党从组织上处置西山会议派做好了舆论准备。1925年12月，召开了国民党一届四中全会。会议研究了召开国民党“二大”的有关事项，斥责了西山会议派的反革命活动，决定在“二大”上给他们以党纪处分，并决定由吴玉章负责大会筹备工作。
1926年1月1日至19日，国民党第二次全国代表大会在广州召开，出席大会的代表共278人。大会主席团由汪精卫、谭延闿、邓泽如、丁惟汾、谭平山、恩克图巴、经亨颐等7人组成。大会秘书长由吴玉章担任。大会期间，共产党人和国民党左派参加了大会的各个主要机构，承担了主要的工作，他们密切合作，共同努力，挫败了国民党右派的种种干扰和破坏，使大会开得比较成功，取得了积极的成果。
大会通过了《接受总理遗嘱决议案》、《中国国民党第二次全国代表大会宣言》，以及关于对外政策、工人运动、农民运动等一系列重要决议案，重申了国民党“一大”确定的打倒帝国主义和封建军阀、官僚买办阶级的革命纲领，决定进一步贯彻执行孙中山联俄、联共、扶助农工的三大政策。
大会强烈谴责了西山会议派的分裂行为。大会秘书处共收到弹劾西山会议案60多件，经提案审查委员会审查后，大会正式通过了《弹劾西山会议决议案》，决定给西山会议派分子作出如下的处分：（1）谢持、邹鲁永远开除党籍；（2）居正、石青阳、石瑛、茅祖权、覃振、傅汝霖、沈定一、叶楚伧、邵元冲、林森、张继、张知本等12人提出警告，如不接受警告即开除党籍。（3）大会训令戴季陶猛省，不可再误。
大会在对西山会议派及其他反动分子实施党纪制裁的同时，还进一步重申了党的纪律，强调指出：“森严的纪律，为党的生命所寄托。以后凡违反总理遗嘱，第一二次全国代表大会中央各党部之决议者，应依总章之规定惩戒之。”这不但对国民党右派是个沉重的打击，而且在一定程度上克服了国民党长期以来纪律松弛、组织涣散的现象，使孙中山逝世后被动摇了的国民党的基础又重新稳定下来。
国民党“二大”的基本方面是正确的。正如《共产国际执行委员会第六次扩大会议决议案》指出的：“国民党第二次全国代表大会（1926年1月）谴责了这个右翼，肯定了国民党必须同共产党人结成战斗联盟，从而确定了国民党和广州政府的革命活动方针，使国民党保证得到无产阶级的革命支持。”但在选举上向右派作了极大的让步。结果，在中央执委中，中派、右派占了很大比重，在监委中，右派更是占了绝对优势。尤其是，原来连中央候补委员都不是的蒋介石，当选为正式中央委员，随后又当选为中央常委，成为国民党的主要领导人之一。这就为蒋介石后来纂夺革命领导权提供了有利条件。陈独秀等人不懂得，共产党要取得革命的领导权，首先必须掌握对国民党自身的领导权。因为在当时的中国不能在国民党内取得领导作用，则无产阶级便不能在全国取得领导作用。他们幻想以片面的退让换取“团结”，自愿放弃对国民党的领导权，其结果只会助长右派的反动气焰，而使“团结”归于破灭，造成了极严重的后果。
