在公元前209年，秦末农民起义爆发，陈胜、吴广率领起义军攻占了陈(现在河南淮阳)以后，陈胜建立了“张楚”政权，和秦朝公开对立。这时，沛县的县令也想响应来继续掌握沛县的政权，萧何和曹参当时都是县令手下的主要官吏，他们劝县令将本县流亡在外的人召集回来，一来可以增加力量，二来也可以杜绝后患。
县令觉得有理，便让刘邦的挚友樊哙把刘邦找回来，刘邦便带人往回赶。这边的县令却又后悔了，害怕刘邦回来不好控制，弄不好还会被刘邦所杀，等于是引狼入室。所以，他命令将城门关闭，还准备捉拿萧何和曹参。萧何和曹参闻讯赶忙逃到了城外，刘邦将信射进城中，鼓动城中的百姓起来杀掉出尔反尔的县令，大家一起保卫家乡。
百姓对平时就不太体恤他们的县令很不满，杀了县令后开城门迎进刘邦，又推举他为沛公，领导大家起事。刘邦便顺从民意，设祭坛，自称赤帝的儿子，领导民众举起了反秦大旗。
这一年已经是秦二世元年的九月，刘邦也有四十八岁了。
秦末农民战争中还有一支强大的力量，这就是原来楚国贵族的后代项羽和叔叔项梁，他们在吴中(现在江苏的吴县)起兵，兵力很快达到了近万人。在项梁死后，项羽决定和刘邦一起西进关中。
开始时，刘邦也不太顺利，但经过几次战役，刘邦步步西进，最后终于兵临城下，到达了咸阳东边不远处的灞上(现在西安东)，秦王子婴见大势已去，只得献城投降，将玉玺亲手交给了刘邦，秦王朝至此灭亡。