4月底5月初，中共中央召集在广州的党、团负责干部，举行工作会议，讨论党对第一次全国劳动大会和社会主义青年团第一次全国代表大会的方针，以及对国民党的态度问题时。陈独秀、张国焘、张太雷、林伯渠、谭平山等20多人参加了会议，少共国际代表达林也参加了会议。
会上，陈独秀报告了劳动和青年两个大会的重要意义和国共关系问题。在讨论党对孙中山同陈炯明的矛盾的态度问题时，引起热烈的争论，林伯渠主张支持孙中山。林伯渠是当时兼有国民党和共产党党籍的人，1919年10月他协助孙中山把中华革命党改组为中国国民党。1921年1月，他经好友李大钊、陈独秀介绍，加入了上海共产党发起组。加入共产党后，仍协助孙中山工作，因此，他对孙中山比较了解和信任，认为孙中山的三民主义和北伐主张都是值得钦佩的，国共合作应以与孙中山先生合作为中心。
谭平山等人在陈炯明的广东省政府任职，要求支持陈炯明。他们赞扬陈炯明“同情社会主义”，认为孙、陈不和，是由于陈受到孙先生左右人的排挤。
陈独秀在作结论时，主张党应与国民党所有革命分子合作，国民党内部既有斗争，我们现在应先观察清楚，再作决定。会议接受了陈独秀的意见。
会议提出共产党加入国民党的问题，并进行了长时间的争论。达林发言要求共产党整体加入国民党，结成反帝民族革命统一战线。张太雷等也认为，在反帝的资产阶级民主革命阶段，与小资产阶级结成广泛的统一战线是必要的。张国焘此时思想有些变化，反对和小资产阶级联合。陈独秀动摇不定，但在长时间的讨论以后，他认识到了统一战线的必要性。大多数人同意了统一战线的策略，但没有通过决议，会议决定会后继续讨论。
会议之后党积极制定民主革命的纲领，陈独秀受党的委托，起草了《中国共产党对时局的主张》，经中央批准，发表在《先驱》上。
1922年7月16日到23日，中国共产党在上海召开了第二次全国代表大会。出席代表大会的代表，不是民主选举产生，而是由中共中央局提名或协商确定。中央局提出请李大钊出席会议，李大钊因北大校务繁忙，委托邓中夏和高君宇出席。“二大”代表计有：陈独秀、张国焘、李达、蔡和森、向警予、高君宇、项英、邓中夏、张太雷、王尽美、邓恩铭、施存统等12人，代表着全国195名党员。
“二大”正式制定了党的民主革命纲领，并通过了陈独秀起草的《中国共产党第二次全国代表大会宣言》。《宣言》分析了国际国内政治形势，阐明了中国革命的性质、任务和动力；制定了党的最低纲领和最高纲领。为了实现党的最低纲领，“二大”通过了《关于民主的联合战线决议案》，决议规定：“共产党应该出来联合全国革新党派，组织民主的联合战线，以扫清封建军阀推翻帝国主义压迫，建立真正民主政治的独立国家为职志。”并提出邀请国民党及社会主义青年团在适当地点开一次代表会议，会商建立联合战线问题。
“二大”虽然赞成与国民党建立联合战线，但关于联合的方式，仍然坚持两党平行联合，不同意共产党加入国民党。而孙中山不同意两党平行联合，因此，国共合作问题没有真正解决。
“二大”刚刚闭幕，上海法租界当局又逮捕了陈独秀。这次逮捕陈独秀，与“二大”会议有一定的关系。虽然“二大”接受了“一大”开会期间法国巡捕闯进会场搜查的教训，多次改变会议地点，并少开大会，多开小组会议，敌人暗探没能摸清底细，“二大”会议便已结束。但敌人暗探杨某利用造谣中伤手法，说陈独秀得了俄罗斯的巨款，向陈独秀的朋友董、白二君示意要敲竹杠。陈独秀十分贫困，无钱被敲，只好挺身就捕。
陈独秀被捕事件，使进步团体极为愤慨。自治同志会、新中国会、共存社、改造同盟、马克思主义研究会、少年中国学会、非宗教大同盟、非基督教学生同盟、中国社会主义青年团、马克思学说研究会等10个革新团体，联合发表宣言，反对法国人的横暴。蔡元培、李石曾亦联名致电法领事，并面访法公使，要求释放陈独秀。
8月18日下午，被关押10天的陈独秀获释出狱。陈独秀出狱不久，便隐蔽起来。
“二大”以后不久，马林在莫斯科拿到共产国际的指示，准备从莫斯科返回上海时，苏俄政府决定派著名的外交家、苏俄政府副外交人民委员越飞访问中国，于是，马林便同越飞一起返回中国，于8月21日到达北京。马林立即从北京转赴上海。
马林从中共中央那里了解到“二大”通过的各项决定后，他批评联合战线是空洞的、不能实现的左倾思想。他说，孙中山不会赞成联合战线，只会要求中共党员参加进国民党里去；共产国际赞成共产党员加入国民党的办法，这是实现联合战线的可行途径。他提议中共中央不妨再召集一次会议。
此时，李大钊由北京到达上海，由于他和马林没有参加“二大”，现在马林提出了不同意见，大家正好从长计议。因而中央决定在杭州西湖举行一次中央特别会议。
8月29日，中央委员陈独秀、李大钊、张国焘、蔡和森、高君宇，以及共产国际代表马林和翻译张太雷7人，来到杭州西湖。中央特别会议在书记陈独秀主持下开会。马林提议共产党加入国民党组织，力言国民党不是一个资产阶级政党，而是各阶级联合的党，无产阶级应该加入去改进这一党，以推动革命。
5位中央委员一致反对马林的提案，他们说，党内联合乃混合了阶级组织和牵制了我们的独立政策。马林没有一个支持者，便提出中国党是否服从国际决议，用共产国际压制中共中央。致使陈独秀、李大钊等人表示：如果这是共产国际不可改变的决定，我们应当服从，至多只能申述我们不赞同的意见。于是作出决定，劝说全体党员加入国民党。
此时，孙中山因陈炯明叛变而离开广州，住在上海。这次严重的失败，使他陷入极大的苦闷和绝望之中。陈独秀向上海的国民党总部负责人张继表示：陈炯明现已背叛革命，共产党即与他断绝关系，并一致声讨。共产党将不因孙先生受到暂时挫折而改变同他合作的立场，反而将更积极地反对一切支持陈炯明的反动言论和行动。对广东方面个别党员支持陈炯明的错误态度，已在设法纠正。共产党向孙中山伸出友谊之手，热情地鼓励和支持他重新振作起来。孙中山深刻地总结了过去的经验教训，作出了伟大的转变。
中共中央致函广州支部负责人谭平山等，要求他们立即脱离与陈炯明的一切关系，转而支持孙中山。但广州一些共产党人，反对中央对陈炯明的政策，并拟离党而组织广东共产党。中央再次去信对他们进行严厉指责，并严重警告陈公博、谭植棠2人，如不立即改变态度，将受到开除党籍的处分。负着广州书记责任的谭平山，如仍优容放纵，将同样受到严重处分。陈独秀、李大钊的这3位学生，没有完全执行他们的老师、中央领导人的提示，谭植棠终于被开除出党，陈公博在受到严重警告后，也退出共产党，谭平山则被撤销了广州党的负责人职务。
中央委员蔡和森在共产党的刊物《向导》周报上公开发表文章，指责陈炯明，他说：“民国九年，陈炯明在漳州的时候，曾在精神上和实际上赞助社会主义运动，并为民主革命努力。彼时社会主义者与之发生关系，是极应当并且是光明磊落的行为。故陈炯明和民主革命势力回到广东以后，社会主义者陈独秀曾到广州去办教育，这也是极应当的，也是极光明磊落的行为。可是现在不但一切社会主义者不应与他合作，就是一切民主主义者和全国人民再没有一个可与他合作的。”
孙中山在上海经常看《向导》周报，他对蔡和森的文章极感兴趣，特别是对蔡和森不久前发表的《统一，借债，与国民党》一文，赞叹不已。他反复阅读文章中的那段话：
为中国人民根本祸患的就是国际帝国主义与封建的旧势力，30年以来的民国革命运动，就是由这两种东西刺激起来的。所以国民党过去的生命在革命，今后的生命还是革命。为使这种革命运动贯彻成功，便要一面与民众亲切的结合，一面与苏俄为不二的同盟，大着胆子明白的反抗以上两种恶势办，使革命潮流一天一天高涨，革命行动一天一天丰富，勿以民众力弱而与之疏隔，勿以善邻势微而不与接近，勿因一时之利害而忘远大。
孙中山此时虽然不认识蔡和森，但他对共产党内有这样出类拔萃的人才而兴奋不已。
中共杭州西湖特别会议散会之后，李大钊同陈独秀等立即回上海。孙中山曾通过林伯渠传达他迫切希望会见李大钊这位共产党的大理论家，他说：
“昔日大钊先生介绍共产国际代表马林和我相见，提出一是要一个能联合各革命阶级，尤其是工农大众的政党，二是要有真正的革命武装，要办军官学校，是非常中肯之见。我翻阅了不少时人的论著，尤其对大钊先生的政见颇感兴趣，并迫切和他面谈。”
现在中央已作出决定，要求共产党员加入国民党，李大钊会见孙中山的时机完全成熟，他们一回到上海，立即通知既是共产党员又是国民党员的林伯渠，安排李大钊同孙中山会面。
林伯渠接到指示后，戴着一副博士眼镜走进孙中山的住宅，微笑着对他说道：
“仲甫先生通知我，说守常先生来到上海。问您何时安排和他见面？”
孙中山激动地说：“你立即坐上我的轿车去把李先生请来。”
孙中山平时很少坐耶辆华侨赠送给他的黑色轿车。现在让司机开车，请林伯渠一同去陈独秀住所迎接李大钊。
李大钊在林伯渠的陪同下，驱车来到孙中山的住所。孙中山将李大钊迎进楼上的小会客厅，让李大钊坐下，便说：
“久闻守常先生大名，今日请你到寒舍来，就国事问题向您请教。”
“先生乃革命元勋！你的功德已载入史册，所倡导三民主义逐渐深入民心，既然承蒙先生的厚爱，我自当推心置腹。”
李大钊谦诚地回道。
“我为复兴中华民国，奔波已有30余载，路途坎坷，险滩百座，至今未达目的。今天，很想听听大钊先生高见。”
李大钊简单地分析了全国军阀割据，祖国不能统一之后，旋即说：
“中国祸乱的根本原因，在于帝国主义与封建军阀。中国共产党提出打倒帝国主义，打倒军阀的革命主张。欲达革命胜利之目的，首先要建立一个有坚实群众基础的革命政党；其次在采取革命手段上，必须依靠真正的革命力量。”
孙中山深沉地说：“先生所见，洞若观火，也击中我的心病，快翔实地谈谈。”
李大钊直言道：“政党是执行革命任务的中坚力量，纵观先生组建国民党的历史，及其成分，不能充当此任！容我直言：在民国成立前，先生的党曾领导了辛亥革命，表现出一个向上发展时期革命党的朝气。但是由于这个党本身的弱点，当时也无法引导革命走向胜利。辛亥革命后，孙先生的革命事业一再受挫，而一批官僚、政客和军阀混入了国民党，原来的党员也有发生蜕变的。不少人入党只是为做官发财，无视党纪，组织系统形同虚设，几乎是一盘散沙……”
李大钊侃侃而谈，孙中山觉得不无道理，迫不及待地问：“守常先生对本党的弊病看得如此清楚，谅必也有医治之良方？”
李大钊说：“孙先生的国民党必须经过彻底改造。没有这个改造，国民党不仅不可能继续在中国革命中发挥作用，而且本身也会因为内部的各种腐败因素的膨胀而死亡。”
“我未尝不想迅速改变自己领导的党的这种状况。早在1914年，我在日本东京就把国民党改组为中华革命党；1919年，我又将中华革命党改组为中国国民党，并公布了规约32条，还创办了《建设》杂志，其目的都是想振奋本党的革命精神。可是直到现在，也没有产生过效果。”
“孙先生依靠的依然是国民党的那批旧人，作为革命的指导思想也不十分明确。今天革命事业中的客观形势，需要发动反帝反封建的民主革命，国民党要担当革命任务，必须要加进新的血液。”
孙中山对这一新的提法，很感兴趣：“何谓新的血液？”
“就是无产阶级的力量，国民党要同共产党建立联合战线。”
孙中山望着李大钊问：“联合共产党？”
“对，联合共产党。”李大钊接着谈了中共“二大”和杭州西湖特别会议关于建立国共联合战线的意见。
孙中山走过来，热忱地握着李大钊的手说：“守常先生，我诚恳地希望您能够在这方面帮助我，不瞒您说，国民党内像您这样的人才，我一个也没有发现。”
“我是个教书的，承蒙孙先生器重，我愿以共产党人的立场，与孙先生合作，共同革命。”李大钊有些激动地说。
孙中山顿时非常高兴，道：“好！守常先生，我现在以中国国民党总理的身分，邀请您加入本党。”
“谢谢孙先生！不过，我已经是第三国际的一名共产党员了，党籍是不能脱掉的。”
“这不打紧，您尽管一面作第三国际的党员，一面加入本党，帮助我来实现中国革命大业，我们携手合作，并肩奋斗。”
李大钊严肃地说：“我感谢孙先生的信任，但不知加入国民党需要履行什么手续？”
“手续简单，由我主盟，你的同乡张继作介绍，填写一张入党志愿书就行了！”
“好吧。我同意加入先生的国民党，做一名跨党的国民党党员。”
于是，李大钊当即便加入了国民党。
陈独秀、张太雷、蔡和森、张国焘、俞秀松等等也相继加入国民党。
孙中山同李大钊、陈独秀等常在一起，研究中国革命的经验教训，讨论振兴国民党以振兴中国之问题。他们有时连续数小时，畅谈不厌，几乎忘食。
马林也以苏联特使越飞的代表身份多次访问孙中山，同他讨论中苏关系问题，并研究中苏合作的具体方式。孙中山欢迎苏联对他的帮助，欢迎共产党人同他合作。
在共产国际和中国共产党的帮助下，孙中山不但积极采取联合苏俄的新步骤，而且也加快了同中国共产党人合作的步伐。
9月4日，孙中山召集了上海的各省国民党负责党员张继等53人开会，陈独秀、马林等均应邀参加会议，座谈如何改进国民党的问题，孙中山在会上解释了联俄联共的政策，与会者一致赞成国民党的改组计划。
9月6日，孙中山指定丁惟芬、覃振、陈独秀、陈树人、茅祖权、张秋白、田桐、吕志伊、管鹏等9人组成“国民党改进方略”起草委员会，经过一个月的工作，起草委员会拟定了国民党的党纲和总章草案，经过孙中山修正定稿。
11月15日和12月16日，孙中山连续两次召集有国民党各省代表和共产党人参加的会议，审议草拟的党纲、党章和由胡汉民、汪精卫起草的《国民党宣言》，于1923年元旦正式发表。
宣言发表的第二天，国民党总部又召集在沪党员大会，孙中山在会上发表了长篇讲话，强调党的进行，当以宣传为重。宣传的结果，便是要召致许多好人来和本党做事。宣传的效力，大抵比军队还大。俄国五六年来，革命成功，也就是宣传得力，其力量不但及于国内，并且推及国外。
会议根据孙中山的要求，推荐了改进后的党中央干部人员，共产党人陈独秀被委任为参议，林伯渠被委任为总务部副部长，张太雷担任宣传部干事。
陈独秀正在帮助孙中山改组国民党之际，接到共产国际的通知，同刘仁静等一起赴苏俄，参加共产国际第四次代表大会，11月8日到达莫斯科。会上，共产国际政治书记拉狄克发言，对中国共产党进行了颇为严厉的指责。他警告中国同志：“不要过高估计你们的力量”，要“走出孔夫子式的共产主义学者书斋，到群众中去！”拉狄克的指责不符合实际，中国共产党一成立便十分注意工人运动。
拉狄克的发言代表共产国际。共产国际对中国的指导意见，来自在中国活动的马林。马林和越飞联合起草了《我们在殖民地半殖民地国家、特别是在中国工作的有关问题》的提纲，由马林带往莫斯科向国际和苏联政府报告。他们提出，为了帮助中国实现统一，必须使中国最大的真正的政党国民党成为一个群众性政党。苏俄的帮助只能给予国民党。
苏共理论家布哈林根据马林和越飞的报告起草了《关于中国共产党与国民党的关系问题的诀议》。《决议》经共产国际执委会通过。布哈林起草的这个《决议》接受了马林和越飞的大部分意见，但强调共产党必须保持自己政治上的独立性，很不彻底地纠正了马林、越飞等人的某些错误。
陈独秀在共产国际“四大”闭幕之后，同翟秋白一起回国，1923年1月10日抵达北京，2月20日回到上海。
苏俄代表越飞在北京，同上海的孙中山的代表，互相访问和交换书信。孙中山曾派张继去会见越飞。经过张继的联系，1923年1月17日，越飞从北京南下，来到上海，去莫利爱路29号孙中山的住宅，首次同孙中山会面，倾谈颇久。此后，双方经过几次会谈，于1月26日联名发表了著名的《孙文越飞宣言》：
“越飞君此次在沪，曾与孙逸仙博士谈数次，关于中俄关系各重要事件，意见一致，而以下列数端尤著：
（一）孙逸仙博士以为共产党主义组织甚至苏维埃制度，事实上均不能引用于中国，因中国并无可使此项共产主义或苏维埃制度实施成功之情形存在之故。此项见解，越飞君完全同感，且以为中国最重要最迫切之问题，乃在民国的统一之成功，与完全国家的独立之获得。关于此项大事业，越飞君并向孙博士保证，中国当得到俄国国民最挚热之同情，且可以俄国援助为依赖。
（二）为明了此等地位起见，孙逸仙博士要求越飞君再度切实声明1920年9月27日俄国对中国通牒中所列之原则。越飞君当即重新确认此项原则，并向孙博士切实宣称：俄国政府准备且愿意根据俄国抛弃帝政时代对华一切条约及强夺权利之基础，另行开始中俄交涉。上述各条约中，包括关于中东铁路之各项条约及协定在内（关于此路之管理，上述通牒中第7条曾特别叙述之）。
（三）因承认全部中东铁路问题，只能于适当之中俄会议始克满意解决，故孙逸仙博士以为就目前的实际情况，宜于该路之管理之上，觅一相当办法，且与越飞君同意现行铁路管理法，只能由中俄两国政府不加成见，协商暂时改组。但不得损害两方之真实权利及特别利益。同时，孙逸仙博士以为此点应与张作霖将军商洽。
（四）越飞君向孙逸仙博士切实宣称（孙博士对此层完全满意）：俄国现政府决无亦从无欲在外蒙实施帝国主义政策，或使其脱离中国之意思与目的。孙博士因此以为俄国军队不必立时由外蒙撤退，缘为中国实际利益与必要计，中国北京政府庸弱无能，无力阻止因俄兵撤退后白俄反对赤俄之阴谋与敌对行为之发生，而酿成一种较目下尤为严重之局面。
越飞君与孙博士以最为亲挚与有礼之情形相别，彼将于离日本之际，重来中国南方访问，然后赴北京。”
1月27日，越飞即以疗养为名，乘轮渡日。随后，孙中山派廖仲恺前往日本，与越飞继续商讨实现宣言的具体办法。双方在日本热海进行了一个多月的会谈，就苏俄援助中国革命、创设军官学校、建立革命军队以及改组国民党、实行国共合作等问题，详细地交换了意见。