1927年8月1日，张国焘以中共中央特派代表身份，在江西南昌主持武装起义，代行政治局职权。张国焘曲解了党中央关于“起义要慎重”的意见，要求重新讨论起义。愤怒的李立三和周恩来拍案而起。当时，知道起义秘密的人已过百，一些起义部队正在调动，起义已经无法阻止。最终，张国焘只得服从多数。
“张国焘'假传圣旨'差点葬送南昌起义”成为国内史学界的常见观点，但是张国焘至死都声称他“为了遵守纪律，曾不折不扣转达了共产国际的旨意”。68年后，小哈里森·索尔兹伯里在他的《长征--前所未闻的故事》一书中也清晰地认定张不是“假传圣旨”。
1928年，中共奉共产国际之命在苏联召开第六次代表大会。六大之后，张国焘被共产国际无限期留在苏联“学习”，纠正他的“机会主义倾向”。
1931年，刚从苏联回国的中共中央政治局常委张国焘，赴鄂豫皖根据地，主持党政军全面工作。张国焘将红军游击队加以整组，在湖北黄安建立了红四方面军，破格提拔当时仅为副军长的徐向前担任方面军总指挥，陈昌浩担任总政委。
在张国焘的主持指挥下，红四方面军越战越强，根据地日益扩大，成为三大根据地和三支主力红军中发展最快最强的一支。红四方面军和鄂豫皖的老人们至今还记得“跟着张主席，天天打胜仗”的歌谣。
建设红军的同时，张国焘也曾大搞“肃反”运动。这场“整肃”杀害了红四军多少人，至今没有一个具体的数字，仅1931年11月22日陈昌浩在《彭杨学校报告肃反经过》一文内就承认：“这次共计肃清改逆一千人，富农及一切不好的分子计一千五六百人。”
徐向前在《历史的回顾》中记述：“将近三个月的'肃反'，肃掉了两千五百名以上的红军指战员。”而当时的红四军不过1.5万人，还有数字是：12个团杀掉了六千人！
张国焘主持的“肃反”不仅杀人数量过多，刑讯逼供也非常残酷。杨克武少将在回忆“肃反”那段经历时说：“张国焘搞'肃反'时，我在四方面军政治科任科长，专搞'肃反'，杀了一些人。刑罚也是很残酷的，如灌辣椒水、手指头钉竹签子、站火砖、捆绑吊打等等，苦打成招。那时生活艰苦，战士们打地主的东西，在一起吃一顿饱饭，说这是'吃喝委员会'。仗没打好，说是对反革命手软。”几个月的“肃反”使张国焘在红四方面军的地位无可撼动。
1935年，张国焘反对中央红军北上建立川陕甘苏区根据地的决定。他在毛泽东率领一方面军北上后，率部南下川康，另立“中央”。这期间，张国焘发给陈昌浩的一封“武力解决”中央红军的密电，成为其分裂红军的原罪证据。关于这份密电中的内容，张本人至死不承认，所有当事人的回忆也是说法不一，后来关键人物叶剑英也只说电文“语气很强硬”。
而关于张国焘后来放弃另立“中央”的原因，有学者研究认为，是多种因素作用的结果，包括朱德等人的坚决抵制、康北地区恶劣的生存环境、共产国际的干预与调解、中共中央的正确策略等。
借祭扫黄帝陵叛党
红军长征到达陕西省北部的陕甘宁根据地。延安发起了大规模批判张国焘运动，无数的罪名和帽子扣在张国焘头上，毛泽东甚至在延安公开羞辱张国焘。有一回看戏，演的是唐僧取经的内容。毛泽东突然对身边的一个民主人士说：“唐僧西天取经谁最坚定？唐僧。谁最动摇？猪八戒。”接着他指着坐在他左边只隔一个座位的张国焘，说：“他就是长征路上的猪八戒。”张国焘闻言大怒，哐啷一下站起来，向剧场外走去，骂道：“无耻。”毛泽东面不改色。面对这些羞辱，张国焘痛苦不堪，心灰意懒。
这时候，在苏联就企图排挤和取代张国焘的王明从苏联回国，王明迫不及待地下令枪杀了张国焘手下的三位红四方面军高级干部，罪名是“托派”。王明在与张国焘谈话中说：“你不是'托派'，不过受'托派'利用。”张国焘更加惶惶不可终日。
1938年4月5日，张国焘在赴陕西中部祭扫黄帝陵之后，登上了国民党方面的汽车扬长而去。周恩来等人百般劝阻无果，张国焘叛党终成事实。张在自己的退党声明中说：“这个共产党已经不是我毕生向往和为之浴血奋斗的那个党了！”
1949年前，张国焘携全家前往台湾，但未能继续在军统任职，后隐居香港，1968年移居加拿大，晚年张国焘靠给美国人写回忆录为生。关于他的死，大陆有一种流传很广的说法：这位中共创始人因无人照顾，冻死于加拿大多伦多的一家养老院，其夫人辗转求助于蒋经国，才凑足了丧葬费用。但也有人指出，在加拿大这种福利健全的国家如果发生这样的事情，这家养老院将面临巨额赔偿和法律问责，所以此事不实。无论怎样，1979年12月，82岁的张国焘离开人世，死前叮嘱儿子，他的墓要朝向东南。
