淮人。胡惟庸在朱元璋手下混了十二年也才做到县主簿，但是，后来由于李善长的援引，很快被提拔到了中书省参知政事，而后又代替汪广洋出任中书省左丞，杨宪死后，胡惟庸逐步得宠，朱元璋问策于刘伯温关于宰相的人选时已经把胡惟庸列在其中，这还是洪武三年之前的事情，可见，胡惟庸当时在朱元璋的眼中的地位了。

但是，包括胡惟庸、李善长在内都不明白朱元璋的本意，朱元璋其实早就不想设置宰相了，他之所以让李善长罢相，贬逐汪广洋，并不是为了给胡惟庸腾出空间，而是给自己兼任宰相制造口实，这点只有聪明的汪广洋读懂了，所以，朱元璋让他回来做右丞相以钳制胡惟庸的时候，汪广洋只是喝酒，不问政务，联系到汪广洋之前的“屡献忠谋”，几乎很难令人理解，而实际上，汪广洋看透了朱元璋的本意，也正为此，朱元璋后来才下决心整死汪广洋。

胡惟庸之所以被提拔重用，并不完全是李善长的功劳，朱元璋在用人行政上从来都是不肯假手与人的，何况像宰相这样重要的位置，朱元璋虽然依靠淮西集团起家，但是，一旦大功告成，这个羽翼丰满的政治军事集团就成为朱元璋在背的芒刺，必欲除之而后快。李善长是淮西集团的文臣的头子，经年经营地盘，已经形成了独特的政治势力，所以，朱元璋虽然口头上说善长“功甚大，宜进封大国。”而暗中则指使汪广洋、陈宁弹劾李善长，败坏李善长的政治声誉。胡惟庸不过是朱元璋原来帐下的一个文书，朱元璋正是看中了胡惟庸并无党羽而且又是李善长阵营的力量，才决定把胡惟庸抬起来以制约善长的，然而，他没有想到胡惟庸居然不能体会皇帝的本意不过是想把宰相变成高级秘书、帮办的宏伟战略意图，反而加紧和李善长搞好个人关系，这让朱元璋不能不紧张，不能不恼火，不能不重视了。史称胡惟庸“尝以曲谨当上意，宠遇日盛，独相数岁，生杀黜陟，或不奏径行。内外诸司上封事，必先取阅