1925年，陈云加入中国共产党。五年后，25岁的陈云在中共六届三中全会上，被补选为中央候补委员。1931年9月，陈云成为中共临时中央政治局委员。1934年1月，在中共六届五中全会上，陈云被选为中央政治局委员、中共中央书记处书记。这时的陈云，还不满29岁，党龄仅有九年。

1919年，陈云在其老师张行恭的帮助下，来到上海商务印书馆当学徒。从青浦来到上海，这是陈云人生中迈出的最为重要的一步。在这里，陈云接触到了中国共产党，走上了革命的道路。五卅惨案爆发后，陈云同商务印书馆的大多数职工一起，参加了罢市游行，还参加了“募捐办报”和义卖《公理日报》等活动。这时的陈云虽“还只是一个随资本家罢市的店员”，但他在运动中的突出表现，引起了中共中央临时党团组织的注意。在组织罢工运动中，陈云与其他积极分子连续开了三次秘密会议，对罢工应具备的条件进行反复研究。经仔细分析，陈云等人将罢工定在“秋销关头发动”。罢工开始后，资本家企图利用群众中的复杂关系分化工人队伍。陈云及时发现并向罢工工人揭露了资本家的阴谋诡计。同时，针对罢工队伍中的各种对象，陈云采取相应灵活的措施团结他们。他将低薪职工、青年工人视为罢工的中坚力量，还尽力去争取那些可能被资本家拉拢而又有群众影响的中间分子，对那些已被资本家利用的工人，则利用群众的力量晓以大义，使其悔过。大罢工时，陈云并不是共产党员，但已在工人中间颇具领袖风范。在青年人当中，陈云非常具有号召力，即“在青年店员中对我平常的品行的影响很好，有信仰和号召力的人”。在陈云正确领导下，罢工最终取得了胜利，“随即由董亦湘和恽雨棠介绍”，刚满20岁的陈云光荣地加入了中国共产党。

1926年10月到1927年3月，陈云作为中国共产党基层工会骨干分子成员，参加了迎接北伐军进入上海的上海工人三次武装起义。第三次武装起义胜利后不久，蒋介石便在上海发动“四一二”反革命政变。此时的陈云政治立场坚定，丝毫没有被眼前的困难吓倒。其实，从1927年开始，资本家就扣除了陈云的退职金，后来连他应得的工资也被扣除。没有了收入，陈云一家的生活十分窘迫。对此，陈云回忆说：“当我在参加革命后资本家威胁我时，我想到吃饭问题会发生危害，但立即又想到：怕什么？手足健全的人到处去得，可以到黄埔军校，可以卖大饼油条，只要立志革命，不怕没饭吃，归根结底只有推翻现在的社会制度以后，大家才有饭吃。”1927年下半年到1928年初，陈云赴家乡练塘地区领导农民武装暴动，指导练塘地区的工人运动。在练塘城隍庙，陈云参加了练塘镇南北货茶食业职工召开的工会成立大会以及酒酱业工会会议。在会上，陈云就工会组织、工人团结、为争取改善工人待遇等问题发表演讲，激励他们为维护广大工人的利益而斗争。1926年，为贯彻中共中央特别会议关于加紧在农民中工作的精神，陈云与同在上海工作学习的进步青年高尔松、高尔柏等24人成立青浦旅沪学友会，开展多种形式的革命活动，激发练塘周围地区的农民反抗土豪劣绅的热情，为1928年小蒸、枫泾地区农民武装暴动做好思想、组织准备。大革命失败后，受中共江苏省委派遣，陈云回到家乡练塘镇领导农民运动。1927年下半年到1928年初，陈云领导的练塘地区农民武装暴动，终因敌强我弱而失利，但影响传遍江、浙、沪地区，扩大了共产党在上海、浙江、江苏农村的力量。暴动失利后，陈云等24人遭到通缉。在白色恐怖中，陈云不顾个人安危，转移秘密文件，保护党员干部，并寄语被捕的同志革命要有不怕牺牲的精神。在练塘农民武装暴动中，陈云的沉着机智、英勇顽强、不畏强暴、不怕牺牲、坚持斗争的精神，彰显了一名优秀共产党人非凡的胆略和才能。1930年9月24日至9月28日，中共六届三中全会在上海召开，陈云列席会议。会议补选七名中央委员、八名候补中央委员，25岁的陈云凭其在领导工农运动中的出色表现，被补选为候补中央委员。

1931年4月，中央政治局候补委员、中央特科负责人顾顺章叛变，给在上海的中央机关和中央领导人的安全造成极大威胁。危急关头，陈云协助周恩来果断采取紧急措施，抢在敌人大搜捕前，把中央机关和工作人员转移走，使国民党特务企图利用顾顺章摧毁中共中央的计划落空。为了将顾顺章叛变的消息散发出去，陈云连夜派人找印刷厂，在事发两小时后将顾顺章的照片制版翻印100多张，分送上海各级党组织，通知他们按照片做好对顾顺章的防范。1931年6月22日，中共中央政治局主席、中共中央政治局常务委员会主席向忠发被捕叛变。先后遭受顾顺章、向忠发叛变事件后，为了保障党中央的安全，党组织对负责中央安全工作的中共特科领导人进行了调整：陈云由中央特科重要成员调整为特科的重要领导者。临危受命的陈云挑起了重建中央特科的重担。如何尽快使特科从困境中摆脱出来，开辟新的工作局面，成为摆在陈云面前最为棘手的问题。陈云是上海本地人，十分了解当地情况。他通过各种关系，在上海开了很多合法的商铺，以开铺子做买卖的方式来掩护特科工作。对于陈云的这一做法，连共产国际的代表都称赞道：“这个人不简单。”由于顾顺章、向忠发的先后叛变，中共中央在上海处境艰难，当时留在上海的中共中央委员和中共中央政治局委员巳不足半数。“1931年9月下旬，根据共产国际远东局的提议，并报经共产国际批准，中共临时中央政治局在上海成立。临时中央由博古、张闻天、康生、陈云、卢福坦、李竹声六人组成”。就这样，26岁的陈云成了中共临时中央政治局委员。当时，共产国际作为各国共产党的指导中心，很长一段时间对中国共产党具有绝对的权威性。在共产国际的指导下，中共召开八七会议，确定了发动工农暴动，武装反抗国民党政权的方针。按八七会议确定的方针，中共江苏省委动员上海的共产党到外县去发动农民，组织秋收暴动。对此，陈云曾回忆说：“我即报名，经过区委康生允许，即与省委王若飞同志商量，派我回青浦练塘去作农民运动。”1928年11月24日，陈云在中共江苏省第二次代表大会第七次会议上，做了《江苏农民运动的趋势和今后的斗争》的报告。

1930年3月周恩来赴莫斯科后，党中央工作由李立三主持。由于受共产国际的影响，中共党内形成了以李立三为代表的“左”倾冒险主义。1930年12月，共产国际东方部副部长米夫来到上海，在他的提议下召开了中共六届四中全会。会议通过米夫起草的《四中全会决议案》明确指出：“右倾依然是党内目前主要危险。”随后，便开始了王明“左”倾教条主义在中共党内长达四年的统治。对这段历史，陈云曾说：“那时，我们很无知，跟着走，对那么大的事业没有好好想想。”1933年，临时中央被迫迁往中央革命根据地首府瑞金。同年9月，蒋介石发动第五次“围剿”，中央革命根据地受到严重威胁。紧急时刻，中共中央在江西瑞金召开中共六届五中全会，选举博古、张闻天、周恩来、王稼祥、项英、陈云、王明、康生、任弼时、张国焘、毛泽东11人为中共中央政治局委员，还选出了“中共中央书记处（同时是中共中央政治局常务委员会）；书记（常务委员）五人，即博古、张闻天、周恩来、项英、陈云”。

大革命失败后，中共召开紧急会议，成立了新的中央领导机构。因为共产国际对各国共产党在组织上、思想上有很大的干预权，这次会议上，共产国际代表提出改组中共领导层、要增加工农的成分的意见。随后，由共产国际代表提名，工人党员向忠发直接当选为中央政治局委员。而且，在中共六大会议上选举出的36名中央委员中，工人占据了21人。当时的工人党员存在的普遍问题就是文化水平低，但陈云是例外。陈云在进入上海商务印书馆之前，已是高小文化程度，后在商务印书馆得到很大提高。对此，陈云曾经回忆说：“应该说在商务时期，对我在文化上的得益很大，全部‘童话’‘旧小说’‘少年丛书’都看了，有时也可翻翻杂志。同时我自信也是很用功的一个人，练字，上夜校（商务办的），读英文。”1919年12月至1927年4月，陈云在商务印书馆工作期间，不仅有机会阅读大量书籍，而且接触了很多文化名人、学者专家，如商务印书馆老板张元济、王云五，还有当时担任翻译的沈雁冰。此外，陈云当时在商务印书馆发行所工作，每天需要往外寄书。寄书时，陈云必须在牛皮纸上用毛笔书写收书人的姓名与地址，从而练就了陈云的书法具有飘逸秀美的特点。所以，陈云的文化水平帮助他在工人领袖中脱颖而出。

青年陈云迅速升任中共中央领导人，与大革命失败后中共中央领导机构迁往上海租界也有很大关系。上海属于吴方言区，外地人一时间很难学会这种方言，所以中共中央机关要“扎根”上海，就必须吸收上海本地人进入中央领导层，以便在上海疏通各种关系，开展革命工作。陈云不仅是上海本地人，而且文化素质、革命的实践及革命的信仰等各方面条件，都符合担任中央领导人的要求。可以说，青年陈云占了“天时、地利、人和”，进入中共中央领导层也就是顺理成章的事了。