马歇尔将军不知道这些事，他很快又奔向他的第二和第三个目标。
1946年2月15日，政治协商会议下设的一个军事委员会签订了一个协议，这个委员会包括国共双方的代表及马歇尔将军。根据协议，在以后的12个月中，要对军队进行改编。政府军减至90个师，共产党的军队减至18个师。再过6个月，还要分别减至50个师和10个师。当时，蒋介石建议，裁军应由三人委员会进行监督，并且应该有美国人在场。共产党拒绝了这个建议。
在政治方面，蒋介石于1月10日召开了政治协商会议，会上讨论了召开国民大会及制定一部永久性的民主宪法的具体计划。在这些会上，共产党对政府的建议都表示赞同，这使马歇尔觉得，和平已近在咫尺。
这时候，蒋介石的儿子蒋经国正在莫斯科，他是应斯大林的邀请去过圣诞节的。他曾与这位苏联的领导人进行过两次会谈。
斯大林表示，他希望中国和苏联之间、国民党和共产党之间能和平相处。他还提议，蒋经国的父亲应在莫斯科或中苏边境上的某个地方与他进行一次会谈。
这一邀请使蒋介石处于进退两难的尴尬境地。如果他接受邀请，其结果可能是建立一个美国政府所要求的联合政府，并“完全依靠苏联”。如果不接受邀请，使斯大林失望，那么斯大林也许会更加无保留地支持中国共产党。
他去问马歇尔，得到的回答是：“凡是有助于改善中苏关系的事情我都支持。”
3月13日，马歇尔将军回到了华盛顿，深信自己已经完成了上述三项使命，接下来的目标便是善后工作了。但是，他离开中国的时候，心里肯定还是有疑虑的。
因为3月8日，他接到了使馆二秘雷蒙德·勒登写的一份备忘录，请他注意东北的共产党人日益增长的敌对态度。并说．他怀疑中国共产党已同苏联联合起来。
马歇尔将军此时回美国，实在大不是时候了。
3月7日，苏联人已开始从东北南部撤退，但他们没有宣布这个情况。他们刚一撤走，中共就开进去了。消息传到蒋介石那里，他便立即决定不顾共产党军队的抵抗，占领苏均撤退的每一座城市。但是，这已不可能了。4月15日，周恩来宣布东北进入“全面敌对”的状态。停战就此夭折。共产党占领了长春、哈尔滨和齐齐哈尔，更重要的是，他们还占领了四平街，这样，他们便有力量堵住蒋介石向东北派驻的军队。
4月18日，马歇尔的政策已乱了套。这时他回到了中国。19日（应为5月19日——译注）。国民党大举进攻，占领了四平街，并追击林彪的后撤部队。
从军事角度上看，1946年5、6月份在东北发生的一系列事件，就已决定了国民党军队在内战后期不可避免的大溃败。在这个阶段，苏联没有向共产党提供军用物资。除了步枪之外，共产党的大部分装备都是从政府军兵器库里夺来的。
斯大林在莫斯科权衡了时局之后，决定请蒋介石到莫斯科来会谈，以讨论对东北的重新安排；新的安排将把美国人排除在外。斯大林知道美国根本不会在乎被人排挤在东北之外，他们关心的事主要是避免过多地卷入。
不出斯大林所料，马歇尔将军和杜鲁门总统都强烈要求蒋介石接受斯大林的邀请；然而他们也有重重顾虑，他们担心东北将来会纳入苏联的经济。
他们认为，斯大林的这一建议增加了国共双方在既没有美国也没有苏联介入的情况下联合统治东北的可能性。于是，马歇尔便加倍努力地劝说蒋介石与共产党建立一个联合政府。
然而，蒋介石对于这些建议置若罔闻。他很清楚——虽然美国人还没有明白——他的政府和美国政府之间已不可能制定出对付苏联的共同策略。因此，他作出了一项重大的决定——“必要的话，将单独抵抗苏联的侵略”。他不会同意“建立联合政府”而使中国受到削弱。于是，他拒绝了斯大林的邀请。
蒋介石这个决定的直接后果，是使他陷入了一个更加困难的境地。
起初，斯大林虽为中国共产党进入东北打开了方便之门，但他们已运走了东北的重要工业设备，没有让中国共产党得到这个工业基地，而且在武器弹药方面也几乎没有给共产党提供什么援助。
可是现在，斯大林突然改变了做法。在随后的几个月中，苏联送给中国共产党1，226支枪和369辆坦克，这些都是由日本生产的。另外还提供了300，000支步枪，4，836架机关枪和2，300辆机动车辆。总而言之，所援助的武器和装备可以武装一支五、六十万人的军队，此外，中国共产党的原莫斯科的领导人李立三也于1946年冬至1947年派回中国，以便将100，000北朝鲜军队并入林彪的队伍。
由于中国共产党的军队需要经过训练才能掌握这些新式的现代化武器，所以，这些大规模的军事援助起初并没有起到什么决定性的作用。但是后来，这些援助使共产党获得了压倒国民党的优势。
4月18日，马歇尔回到中国那天，也是四平街战役打得正激烈的时候，（时间有误，四平战役发生在5月份——译注）。他试图劝说蒋介石停止进攻，但是没有奏效。蒋介石看到胜利在望，再怎么劝他停战他也不会回头。
5月，蒋介石赶到沈阳指挥战斗。29日，他收到了马歇尔在一封怒气冲冲的信中的威胁——除非马上停止战斗，否则他将退出调解。
当马歇尔在重庆向周恩来解释这些情况时，周恩来意味深长地说：“他们那时正站在中国历史的转折点上。”对此，周恩来心中十分清楚，虽然马歇尔还不明白，这位调解人后来在6月23日又与周恩来进行了一次会谈，当他听到共产党的这位代表指责他在中国实行“双重政策”时，他大吃一惊，周恩来说美国一面支持国民党，一面又假装调解。凡是熟悉共产党的谈判之道的人都会明白，他们在谈判中变换口气意味着什么。但是，马歇尔并不明白，他只把这些话当成了对他个人的指责。
谈判仍在继续，6月26日，国共在东北达成了一个停火协定。
尽管双方在7月1日都宣布这个停火协定将无限期地延长，但是，人们很快就看出，它和前一个协定一样不起作用。4日。蒋介石宣布国民大会将于11月12日举行。
7日，苏联和中国共产党同时发表宣言，谴责美国支持蒋介石政府。这就是周恩来在变换口气时要传达给马歇尔的信息。
此时，蒋介石已经明白继续谈判已没有任何意义，而马歇尔及他的上司们却没能看到这一点。
蒋介石命令他的军队开始进攻，到9月中旬，华北的主要铁路干线已在国民党的控制之下，共产党的军队撤退到山东和山西的山区里。这时，蒋介石瞄准了一个更大目标，即张家口，这个地方有着重要的象征意义和战略意义。说它具有象征意义，是因为苏联曾将此城交给中国共产党，共产党曾准备将其首府从延安移到这里。它的战略地位在于，它是中国北部与西伯利亚的通道口。
为此，共产党向马歇尔将军提出了抗议，并说如果国民党军队不停止行动，他们将中断与政府的谈判。蒋介石置马歇尔的调解于下顾，使马歇尔越来越恼火，他强迫蒋介石停止攻占张家口的行动。但蒋介石根本听不进去，最后终于占领了这座城市。
马歇尔勃然大怒，这时，他给了蒋介石及其政府和军队重重一击，他劝美国政府对中国政府实行全面的武器禁运。
“美国找了一个似是而非的借口，即这些军用物资只能提供给联合政府。美国政府表示，如果禁运“最符合美国的利益”，就可以实行禁运。
然而，这一事关重大的决定既没有公开宣布，也没有通报蒋介石，蒋介石头一次听到这个消息是在8月30日，这天他得知，美国方面已拒绝签发向中国提供武器的出口许可。他还不知道，禁运早就从7月29日开始生效了。一直到第二年5月26日，禁运才正式取消；实际上，美国直到1948年11月才重新开始向中国中央政府提供武器。
在这个重大的打击面前，蒋介石只得无可奈何地承认，他现在已无法继续进攻。
10月10日双十节，张家口失守，同一天，蒋介石在一年一度的双十节演说中宣布，他准备继续通过调解和协商，寻找解决问题的办法。
此时，马歇尔又天真地以为成功在望了。但是，他没有考虑到共产党，他们明白地表示，他们对通过谈判解决问题已不抱希望。他们要求政府的军队在中原撤回到1月13日的位置，在东北则撤到6月7日的位置。
这些要求使马歇尔左右为难，他对周恩来说，他觉得自己的调解工作“没有效果”。他接着说：“我已对你说过，如果中国共产党认为他们无法相信我是公正的，他们只需要说一声。我马上就走。现在你们已经这样说了，我马上离开这里，去南京。
11月15日蒋介石召集的国民大会在南京召开，共产党和民主同盟都没有出席。16日，周恩来指责南京召开国民大会、并要求马歇尔将军提供交通，将他和其他中共代表送回延安。
现在，除了蒋介石之外，马歇尔将军已无人可谈了，他们两人于12月1日进行了一次会谈，双方的分歧已无法弥补。
马歇尔严厉地指责蒋介石用军事行动破坏了他的调解工作，并指责他把70％的预算用于军费，使国家经济陷于崩溃，这样做只会为共产主义的蔓延提供肥沃的上壤。
蒋介石回答说：共产党从来就没打算与国民党合作，在苏联的影响下，他们的目的就是要搞垮政府。唯一的办法只有消灭共产党的军队，这需要八到十个月，至于经济形势，他无比自信地说，不会有崩溃的危险，因为中国是农业经济。谈到这里，两个人不欢而散。
事情发展到这个地步，蒋介石显然不再理会马歇尔将军了。
他自行其是，于11月27日向“国民大会”提交了一部宪法草案，这个草案于1946年圣诞节那天通过，从表面上看，这部宪法处处都是按孙中山的希望制定的，它规定，一切公民和种族都是平等的；实行全民不记名投票；二十岁以上的男女享有选举权；保障权利和自由；总统六年选举一次；只许连任一次等等。
遵照孙中山的临终遗言，政府将分五个部门，即行政、立法、司法，监察和考选部门。大会同意宪法于一年之后生效。中共和民盟没有参加宪法的制定。除了国民党之外，只有两个很小的党派参加了宪法的制定工作，即青年党和张嘉森领导的民主社会党。
就中国大陆当时的情形而言，这部宪法的规定形同虚设。
在国民党被赶到台湾之后，这些规定才在那里或多或少地得到了某种程度上的执行。
看到事情已毫无希望，马歇尔将军要求将他召回。
1947年1月7日，他回到美国，担任国务卿。
当天，他发表了一份长篇的“个人声明”，说他的失败主要是因为国民党和共产党对对方都有着“几乎无法解除的怀疑”。两党都是由极端分子操纵的，国民党里的是“一批反动派”，共产党里的则是“顽固的共产主义分子”。
他认为，在共产党里，有一批开明派，特别是那些年轻人，“他们是因为憎恶地方政府的腐败才转向共产党的，”他们会把中国人民的利益放在共产主义思想之上。
他的声明中没有提到苏联，似乎中共从这一年开始出现的强硬态度，与斯大林放弃与美国合作，帮助中共壮大军队的决定毫无关系。
美国对马歇尔使命的失败作了许多反省，这些反省包括马歇尔将军自己的观点，已得到了广泛的传播。但是，中国方面的解释虽然没有引起那么大的注意，但却对马歇尔失败的原因作出了具有新意的分析。
国民党和共产党提出的条件是无法调和的，这就象两条平行线，永远走不到一起。双方都没接受美国调解人的意见。
在谈判中共产党比它的对手更成功一些。国民党的谈判代表并不是些举足轻重的人物。他们的负责人张治中在军方在党内都没有什么人支持，蒋介石对他也不太信任。他的一个姓张的助手，虽然说是代表着CC系，但他的话却代表不了CC系，他得听命于陈家兄弟，并向他们请示。另一位是邵力子，他没有什么作用，挑选他去谈判是因为他有一个“温和派”的名声。这三个人都不能直接找到蒋介石，只能通过张群间接地向他汇报。
张治中深知，美国希望问题能和平解决，于是他便利用这种希望，常把马歇尔的眼光引向过于乐观的和平前景。
就他个人而言，他是赞成联合政府的。他认为自己将在这样一个政府中起到举足轻重的作用。
在整个谈判过程中，陈立夫和他的CC系在宣传上一直不停地攻击共产党，他们质问谈判会有什么作用。
在宣传战线上，共产党无疑在每个方面都比国民党聪明。
共产党的代表因住在梅园5号，离国民政府大楼只有几百码远（这幢楼在推行宪政之后改为总统办公楼）。中共代表团成为中外记者唯一的消息来源。周恩来对要求进行评论的记者总是有求必应。
埃里克一周有一次早上三点去拜访他，周恩来毫不拖延地接待了他。他的发言人王炳南等也对记者十分热情。从南京发出的有关和谈的消息都是以共产党的说法为根据的，这么说毫不过分。
具有讽刺意味的是，就连国民党的传声筒中央新闻社和《中央日报》，都要靠共产党提供和谈的消息。之所以如此，是因为谈判被认为是秘密的，而且国民党的谈判代表和发言人都害怕说出什么让蒋介石不高兴的话，实在躲不过了，他们才会同意接见记者，但却拒绝发言。这使共产党一方控制了消息报道。
