1941年1月4日，皖南新四军军部直属部队等9千余人遭到国民党7个师约8万人的突然袭击。在英勇抵抗后，新四军军长叶挺被俘，副军长项英、参谋长周子昆、政治部主任袁国平等先后遇难。在震惊中外的皖南事变发生后，蒋介石及其国民党受到了全国各界的一致谴责。
此后，蒋介石在日记中谈到皖南事变时，曾表示白崇禧希望将共产党一网打尽，但是他还是希望给共产党、新四军留一条生路。当然，蒋介石在日子中这么表述，有可能是为自己授意发动皖南事变而狡辩。在对待共产党上，蒋介石的态度是不断变化的。在1927年的“四一二”政变后，蒋介石多次围剿共产党和红军。不过，在1934年时，当日本逐渐暴露出前面侵华的野心时，蒋介石认为对日抗战不仅要恢复中国和苏联之间的关系，还需要与共产党进行联合。不过，在共同抗日和攘外必先安内之间，蒋介石当时的心态还是非常矛盾的。在1934年—1935年，蒋介石尝试过与共产党间接谈判，并派人会见了毛主席。
1936年12月12日，西安事变爆发，在毛泽东、周恩来等人的斡旋下，西安事变得到合并解决。可以这么说，倘若没有西安事变的话，蒋介石极有可能会继续攻击共产党人。虽然他明白抗日需要联合共产党的力量，但是，那是不到万不得已的时候。在此之前，蒋介石依然一意孤行，命令东北军向陕北苏区进犯。而西安事变后，蒋介石更多的还是被迫联合中共抗日。
1937年7月7日夜，卢沟桥事变爆发。在此期间，蒋介石逐渐明白抗日战争要调动中国的一切力量，包括联合中共的力量。在日记中，蒋介石写道：
日本人希望我当屠杀共产党的刽子手。我绝对不能上他们的当，屠杀共产党不等于是替日本人当刽子手吗？
1938年，在国民党临时全国代表大会上，蒋介石针对公共关系提出了“以大事小”的原则。也即国民党是“大党”，而共产党包括其他民主党派人士则为“小党”。在此原则上，蒋介石恢复了毛泽东、周恩来等人的国民党党籍，并邀请朱德这位八路军司令参加国防会议等。种种迹象说明，蒋介石面对强大的日本军队，希望联合共产党的力量。
但是，随着时间的推移，蒋介石对待中共的态度又发生了变化。在八路军日益得到人民拥护的背景下，蒋介石曾对周恩来说道：国共两党联合抗战关系到中华民族的兴亡，为了更加团结和统一，希望将国共合并成为“国民革命同盟会”。对此，在周恩来将情况告知给毛泽东后。中共表示为了抗日战争的大局，同意蒋介石担任这个同盟会的主席，不过，中国共产党绝对要保留。
在重庆时，蒋介石再一次和周恩来等中共领导人表达了两党合并的意愿，甚至丧心病狂的鼓动周恩来等人退出共产党，并许诺高官等待遇。当然，蒋介石的诱惑自然遭到了周恩来等人的严词拒绝。与此同时，八路军在华北地区展露出不断壮大的势头，并逐渐在对抗日本上发挥着中流砥柱的作用。由此，蒋介石越来越担忧中共的威胁，并制定了限制共产党的方针，以致于发动了皖南事变等错误行动，严重损伤了抗日统一战线的团结。