赵世炎本人在莫斯科受过军训，有一定军事基础，他只要一有空，就会在深夜里悄悄地来到秘密训练点，亲自教授工人如何射击和组织战斗队形。
1927年2月18日，北伐军攻占杭州，第二天其前锋到达嘉兴，直逼上海。孙传芳的势力已成风中之烛，他被迫与过去的老冤家奉系讲和，并打算率部撤到苏北，将沪宁一线地盘交给张宗昌的奉鲁联军接管。
就在孙军正在退走，奉、鲁军尚未到达之际，江浙区委在上海发动了总同盟罢工，2月19日，上海总工会的总罢工令一发出，就得到十五万工人的呼应，至第四天，罢工人数已增至三十六万。整个上海迅速陷入瘫痪，就连平时熙熙攘攘的南京路，也因几家大百货公司关门停营，显得十分冷清。
上海警备司令李宝章原为孙传芳手下的一名旅长，因镇压夏超以及上海工人武装起义有“功”，才得以坐上了新交椅，没承想屁股尚未坐热，就被将了一军，顿时怒火中烧。他当即派出大刀队到各处沿街巡逻，这些大刀队每十多人为一小队，队前有一人手里高举令箭，其余每人拿着一把明晃晃的大刀，只要见到发传单或喊口号的人，就当街砍杀。
某次，一些人在戏院门口看上演剧目的说明书，大刀队误认为他们是在阅读革命传单，冲上去便挥刀乱砍，结果当场砍死砍伤多人。浦东有个沿街叫卖的小贩，口呼“卖大饼”，大刀队说他是在喊“打败兵”的口号，上去一刀就给戳死了。
大刀队杀了人还不准收尸，名曰“暴尸示众”。当时仅仅在闸北火车站附近的电线杆上，便挂了好几颗血淋淋的脑袋，上海街头一片阴森恐怖的气氛，行人见之莫不色变。
李宝章不分青红皂白的滥杀措施大大激怒了上海民众。从总罢工的第二天起，就不断发生工人向军警夺取武器的事件，总同盟罢工在第三天也开始转为武装起义。
绝不是失败
相比于第一次武装起义，赵世炎这次准备得应该说比较充分。他曾专门派纱厂女工、共产党员朱英如侦察敌情，并且告诉朱英如具体应该如何侦察：不要一本正经，要故意装扮成一个浪荡的女人，脚上穿拖鞋，嘴上叼香烟那种。
朱英如在外面转了一圈，回来就向赵世炎报告。赵世炎听后仍觉得侦察得不够细致，他除替朱英如纠正拿香烟的姿势外，又再次派她到各处打探动静。
这时海军的“建威”“建康”号军舰正停泊于黄浦江上。和第一次起义时一样，海军士兵中也发展了地下党员，赵世炎派人送信给他们，让他们到时首先控制军舰的指挥权，然后开炮轰击上海的重要军事目标，以炮声作为起义的信号。
汪寿华看到了信，认为海军里面的地下党要完成规定任务十分不易，有掉脑袋的危险。他对赵世炎说：“这个命令是催命的文书，成功了是英雄，不成功这些同志的命就完啦。”
赵世炎的态度很坚决果断：“革命嘛，就是这样，要么我们革了敌人的命，要么敌人革了我们的头！”
1927年2月22日晚，“建威”“建康”依约开炮，看上去似乎挺顺利，没有出什么岔子，可是接下来就不行了。
按照起义计划，海军起义士兵应在军舰上准备好枪械，由浦东的工人纠察队派汽船去取，浦东纠察队拿到枪械后，再过江与其他纠察队会合。起义开始后，汽船却并未能够按原定时间开出，浦东纠察队以为计划有变，大部分人都离开了码头，等到汽船姗姗来迟，已于事无补。
在缺少浦东纠察队参与的情况下，其他纠察队没有占领兵工厂等要害部门的足够力量，只能分散地袭击地方警察署。其中负责攻打飞虹路香烟桥警署的纠察队武器十分缺乏，没有枪，仅有大刀和土制炸弹。
这种土制炸弹来自大学生的发明，是把旧的香烟罐头利用起来，在里面塞炸药、石子和玻璃碎片。如果警署防范严密，纠察队仅靠这些简陋的武器是攻不进去的，但是有些警署较为疏忽，香烟桥警署的警察平时都不带枪，长枪被统一锁在一起，等上司下达命令才能使用。
起义前，起义指挥部经过事先侦察，已经弄清了该警署的枪支究竟放在什么地方，由何人负责保管，以及房门钥匙由何人掌握。按照指挥部提供的情报，纠察队先扔了一阵土炸弹，把警察吓住，接着便直接冲进存放枪支的地方取枪。而后的事情对于纠察队而言就简单了，因为一旦枪支在手，占领警署乃是轻而易举的一件事。
只是这样的成功仅局限于小范围，难以形成大的声势，更无法对起义军舰进行接应。祸不单行，起义军舰上所射出的炮弹又有几发落进了法租界，在法国海军的威逼下，军舰被迫撤离。
看到起义已无成功的可能，为避免损失过重，中共中央和江浙区委召开联席会议，决定停止起义。
面对两次起义都相继失败的事实，赵世炎等人并未气馁，他们认为两次起义尤其第二次起义实际上是一次必要的演习，“绝不是失败，更不是毫无结果”。它们给起义者提供的经验和教训，“超过了五卅（指五卅运动）以来所有的经验与教训之总和”。
一个月后，上海工人起义再次迎来了机会。张宗昌奉张作霖之命，派部将毕庶澄前来上海，接替原在上海的李宝章。
毕庶澄仅仅随身带来一个三千人的旅，既要对外抵御北伐军，又要在内防范工人武装起义，哪里摆布得开，更别说初来乍到，人生地不熟，军心严重不稳了。
实事求是地说，在这种情况下，北伐军要通过进攻来占领上海并非没有把握，但时任北伐军总司令的蒋介石想兵不血刃地拿下上海，他派毕庶澄的同乡前去劝降，表示只要毕庶澄归顺国民政府，可以委任其为军长。
毕庶澄本无心投蒋，但他知道自己打不过北伐军，为了能够继续在上海这个繁华之地待下去，就投机了一把，对蒋介石送过来的乌纱帽未加拒绝。
在蒋介石看来，没有拒绝也就是接受了，或起码是在考虑接受，于是便向北伐军下令暂不进攻上海。
国民党不动手，共产党可就要动手了。因为有了两次起义的经验教训，第三次武装起义的组织准备工作做得特别扎实。
中共中央和江浙区委共同成立了特别委员会（特委），作为起义的最高决策机关，成员一共八人，除陈独秀外，其余七人都很年轻，其中罗亦农二十五岁，赵世炎和汪寿华二十六岁，周恩来算比较大了，也才二十九岁。
这些小伙子个个才华横溢，精力充沛，他们往往白天开会，晚上决议，第二天就能将相应决定传达到执行者手中，效率非常之高。
我们现在缺什么
在特委下面，专设有宣传、军事两个委员会。前两次武装起义都被认为宣传不够，宣传委员会（特别宣委）专攻这一薄弱环节，他们针对上海本地不同阶层的民众，制定了不同的宣传口号和策略。
南下的鲁军使用军票，将军费分摊到普通市民身上，特别宣委就向一般市民和商人提出口号“反对鲁军使用军票”。两次武装起义都有工友死伤，特别宣委在对工人进行宣传时，便强调要“为死者报仇，建市民政府”。
军事委员会（特别军委）以周恩来为主，赵世炎等人为辅。周恩来本身的职务是中央军委书记，那个时候，中共有三种组织形式，分别是共青团、党委和军委，这三种组织形式可谓一层比一层严格，换句话说，中央军委在组织上比党团还要严密。凡军委成员一律不编入普通支部，原则上军委成员和他们的工作也都不会让普通党员知道，因此很多党员都对军委不太了解。
周恩来能够担任这么重要的组织的一把手，与其过往履历是分不开的。
那年他与赵世炎等一同旅欧，回国后即担任了黄埔军校政治部主任。周恩来不仅熟悉军事，而且在黄埔学生乃至北伐军中也有较高的威望。
特别军委一成立，周恩来即从已到达浙江的北伐军中调来共产党员侯镜如，让他分管工人纠察队的训练。侯镜如是黄埔第一期毕业生，参加过东征、北伐，有一定的军事知识和经验，在他的调教下，一段时间后，已经有一千八百名纠察队员可以较好地使用武器了。
毫无疑问，武器以及夺取武器在武装起义中占据着相当重要的位置。可是在第二次武装起义时，却有许多人没有认识到这一点，一些工人虽然占领了警署，但也只不过是捣毁署内的家具而已，枪械连碰都没碰一下。
必须像攻占香烟桥警署那样组织起来，未来的起义才能取得成功。在周恩来、赵世炎的领导下，特别军委对上海八个区的工人纠察队实行了统一的编制和组织，工人集中的区均设立了纠察队总指挥部，下设大队、中队和小队，总指挥由特委统一指派，大队以下指挥则由受过军事训练的工人担任。
经过重新编组，以往纠察队中组织分散、指挥混乱的状况终于得到彻底改变。
第二次武装起义后，闸北工商界为了维护自身的安全，征得上海驻军同意，建立了一种名为保卫团的武装组织。周恩来和赵世炎知道后，便分别动员一些未暴露身份的纠察队员加入。
有的纠察队员开始想不通，说保卫团是保卫资本家的，我们难道去保卫资本家？周恩来听了哈哈一笑，问他：“我们现在缺什么？”
队员回答缺枪支和弹药。
周恩来说，保卫团不但有枪支弹药，还有合法身份呢，纠察队打进去后，正好可以掩护军事训练以及其他起义准备工作。
有的队员虽然明知这是一计，但又认为自己是党员，加入保卫团会搞臭名声，日后被群众看不起。赵世炎耐心解释，告诉他们即便群众一时产生一些误会，日后也会得到澄清，“是铁是钢，时间和事实会给我们做证的，一时有些误会，对于革命者来说，又算得了什么？”
经过动员，纠察队先后有一百多人参加保卫团，有人还当了班排长。他们白天公开参加训练，学习军事知识，晚上再把枪带回家，用于训练其余的纠察队员。
因为有了保卫团这层外衣，连起义准备阶段的武器搬运都变得方便多了。有一次，周恩来准备了两只皮箱，里面放的全是手枪、盒子炮和子弹。
加入保卫团的纠察队员任其祥等人奉命带着这两只皮箱，乘一辆小汽车，从位于法租界的军委机关出发，送往指定地点。
任其祥等人都穿着保卫团的制服，外面罩一大褂。等汽车一离开法租界，进入华界，他们便马上把外面的大褂脱掉，露出制服。在路边站岗的警察原想“抄靶子”（旧上海用语，即警察搜身），一看是保卫团的人，也就抬手放行了。
中途，小汽车被上海警备司令部的小汽车盯上了，而且一直紧随不舍。
在这种情况下，他们干脆将小汽车先直接开到保卫团团部。盯梢的汽车见状没了脾气，不得不怏怏离去。
当然保卫团的制服也不是万能的，而且有时情况紧急，制服也未必穿在身上，这时候就得靠点随机应变的能力和胆量了。
一天傍晚，任其祥雇了一辆汽车，准备将一箱武器送交共和新路的工人纠察队队部。路上突然遇到一位包探（旧上海租界的密探），拦着汽车要进行检查。
包探整天在上海滩的各个旮旯里转悠，方方面面的人都认识。他认出任其祥是商务印书馆的工人，便厉声喝问道：“你到啥地方去？”
任其祥非常冷静地回答：“到车站！”随后指了指箱子说：“你要不要看？这是一箱手榴弹。”
包探不知真假，反倒了，忙说：“好，你走吧。”
实际上，任其祥当时已握紧了衣袋里藏着的手枪，准备万不得已就给他来一下子。
汽车接着开到共和新路的弄堂口，发现有两个警察站在那里。任其祥疑心是队部出了问题，但此时他已经下车，不好再走，于是只得硬着头皮走进弄口。
到了队部门口，任其祥用暗号敲了敲门，幸好开门的是自己人，证明队部并未被发现或遭到破坏。
箱子还在车上，但警察仍在弄口看着。有人建议再坐汽车到街上兜一圈，等警察走后再抬箱子，可问题是马上要戒严了，汽车没法在街上兜风。
没有其他办法，大家把牙一咬，当着警察的面，大着胆子把箱子抬进了队部。奇怪的是，警察居然熟视无睹，就像没看到一样，大概他们也预感到暴风雨将至，不愿再继续招恨惹怨了。
秋风扫落叶
两次起义的经历对发动者来说，是值得反复盘点的一笔财富。回想起来，第一次起义是在不知道夏超溃败，又误信北伐军已攻克九江的情况下发动的，第二次起义是在总同盟罢工开始后第三天才发动的，两次起义在启动时间的选择上都不恰当，因此贻误了良机，直接导致起义失败。
大家认为举行第三次起义一定要把握好时机。经过集体讨论，产生了三个标准：北伐军攻下松江，北伐军攻下苏州，鲁军撤退。特委确定，三个标准只要满足其一，就立即发动起义。
1927年3月中旬，见毕庶澄仍然在犹豫观望，北伐军开始向上海进军，并在松江与毕庶澄部展开激战。毕庶澄部从实力来说，根本难以抵挡，只是因为下了雨，松江至苏州一线河道泛滥，才暂时给北伐军前进制造了一些障碍。
显然，北伐军打下松江只是早一天晚一天的事了，起义时机已完全成熟，罗亦农果断下达了第三次武装起义的预备动员令。
第二次起义是先罢工后起义，由此出现了起义后指挥混乱，工人找不到指挥者，甚至有的工人在罢工后就一哄而散的情况。这次罗亦农特别提出：“既然已经宣传为暴动而罢工，罢工后就要组织工人立即冲上街头，夺取武装，转入起义。”也就是说，罢工和起义将连续进行，中间不会有太长的时间间隔。