隋末天下大乱时，由于李密在屡次作战中所发挥的作用较大，隋军投降后，李密在瓦岗军中的声威大振。翟让自觉不如李密，于是翟让推李密为瓦岗军首领，上尊号为“魏公”。李密则任翟让为司徒。而在让位之时，翟让的哥哥却从中阻拦。他不得已杀瓦岗军旧主翟让，引发内部不稳，被隋军屡败。