4月7日，在赵世炎、汪寿华主持下，上海总工会召开各工会代表大会，就工人武装问题作出明确决议：“现在纠察队的组织和训练已渐次就绪，此后更当加紧训练，并严明纪律。”为了对付突然事变，周恩来、赵世炎对工人纠察队作了具体部署，要求纠察队通宵值班，加强戒备，以战斗来保卫胜利果实。慑于工人手里拥有武器，蒋介石暗中筹做发动政变的各种准备，而在表面上却不动声色，甚至使用欺骗与麻痹的手段。在不同的场合，蒋介石多次“诚恳”地赞扬上海工人响应北伐军举行的总同盟罢工。
4月6日，蒋介石甚至派人给工人纠察队亲赠“共同奋斗”锦旗一面。蒋介石的“友善”举动，麻痹了在斗争中还缺乏经验的上海工人阶级。殊不知，一个充满杀机的行动正策划于密室之中。
蒋介石磨刀霍霍，各帝国主义特别是日本帝国主义者为其在华利益考虑，竭力阻碍中国革命，对蒋介石政变给予了极大的支持和配合。4月8日，日本军舰“出云号”上的800名士兵悍然登上上海租界，并排队游行。更为猖獗的是，日本军队竟然在北四川路奥迪安戏院的屋顶架设机枪，枪口对着中国百姓。尤其不能容忍的是，4月10日下午，日本海军50余人从北四川路突然闯入华界鸿庆坊，将该坊四周围住，持着上了刺刀的枪，直奔37号2楼海员工会理货部及3楼联德总会进行搜索，临走抓走了20多人，与此同时，各帝国主义国家在上海驻兵已达20000余人，数十艘军舰在海上游曳。一时间，上海滩风声鹤唳，人心惶惶。有帝国主义作后盾，蒋介石更加有恃无恐，
9日，蒋介石颁布了《战时戒严条令》，严禁集会、罢工、游行，并任命白崇禧，周凤歧为上海戒严司令部的正、副司令。一切布置就绪后，蒋介石留下亲信杨虎、陈群在上海“督沪”，自己则避往南京。
4月11日，他在南京正式下达密令：“已光复各省一律实行清党。”于是，一场罪恶的屠杀降临到了上海工人和共产党人的身上。
11日深夜到12日凌晨，在蒋介石的策划下，上海青帮流氓头子黄金荣、杜月笙、张啸指使的大批便衣党徒，身着统一的蓝布工装裤，臂上缠着白布黑“工”字标志，手持盒子枪，从租界顷巢出动，向上海总工会会所、工人纠察队总指挥处，商务印书馆印刷所等处放枪，骤然间南市、闸北等区枪声不断，划破了宁静的夜空。工人纠察队立即予以还击。正在这时，大批26军部队开到，将攻打工人纠察总部及各分部的流氓缴械。工人纠察队看到这种情形，开门将前来“调解”的26军迎入。谁知，军队刚一入门，立刻就变了脸色，说：“他们的枪械已经缴了，你们的枪械也得缴下来。”这样，工人纠察队员也被收缴了全部武装。在这场突然袭击中，有60人牺牲于革命营垒内部的卑鄙屠杀，220人受伤，26军占领了工人纠察队总部及分部。
4月12日清晨，各厂工人听到纠察队被缴械的消息，按捺不住心中的愤怒，纷纷集会抗议。中午，闸北和南市的群众分别召开万人市民大会。会后，闸北数万名工人拥往湖州会馆，夺回了原先设置在那里的上海总工会会所；南市群众则冒雨到东路军总指挥部请愿。13日上午10点，总工会在闸北青云路广场召开了有10万人参加的群众大会。会后，群众整队出发，徒步到宝山路天主堂26军二师司令部请愿，要求释放被拘工友，抚恤死难烈士家属，交还纠察队枪械。下午1时，当队伍行至宝山路三德里附近时，早已埋伏在那里的26军士兵分头冲出，轻重武器向手无寸铁的游行队伍一齐开火，由于游行队伍密集，当场即有100多人被打死，伤者不计其数，时值大雨滂沱，宝山路顿时尸横遍野，血流成河，令人惨不忍睹。为了消灭罪证，疯狂的刽子手立即用卡车将尸首拖至郊区掩埋，其中尚有不少的重伤者在呻吟中被横拖竖拽，生生活埋。下午4时，南市由6000名工人组成的示威游行队伍也惨遭血腥屠杀。随后，上海总工会被封闭，上海特别市政府被强行解散。
从4月12日到15日，仅仅4天的时间里，上海有300多工人被杀，500多人被捕，5000多人下落不明，大批共产党员和革命者倒在了血泊之中。这就是蒋介石发动的震惊中外的“四一二”反革命政变。
4月18日，上海的共产党人与革命人民的尸骨未寒，血迹未干，蒋介石便在南京成立了代表大地主大资产阶级的“国民政府”，登上了最高统治的“宝座”。在蒋介石的独裁统治下，上海一片白色恐怖，任何反抗的言论举动都会招致杀身之祸。由此，上海革命跌入最黑暗的十年低谷之中。蒋介石的血腥大屠杀，深刻地教育了中国共产党与上海工人阶级：在刽子手面前，任何妥协和请愿都无济于事的，对待反动派，只有进行针锋相对的斗争。于是，在中国共产党的领导下，上海的工人阶级和广大人民在极度危难之中，向以蒋介石为代表的新军阀展开了不屈的斗争。
从4月13日下午起，上海各区各工厂的几十万工人在各级工会的发动下再次举行罢工。14日起，中共上海区委，上海总工会等机关陆续转入地下，积极开展活动。许多共产党员和工人领袖，坚持战斗，直至为革命事业流尽最后一滴血。
