胡济是荆州义阳郡人，曾任蜀汉丞相诸葛亮的主簿，与诸葛亮有着亲密友好的关系。
胡济为人不避嫌疑，敢于直言，多次向诸葛亮进谏，诸葛亮将他与崔州平、徐庶及董和相提并论，认为他们都是能适时规劝自己过失的诤友。胡济后任行中参军，昭武中郎将。
公元231年(建兴九年)二月，蜀汉丞相诸葛亮第四次北伐曹魏。六月，因粮草不继，汉军退回蜀中。八月，北伐大军退还后，负责粮草运输的李严弄虚作假，想逃脱责任，胡济与诸葛亮共同上书蜀汉后主刘禅请求罢黜李严。
公元234年(建兴十二年)，诸葛亮逝世，胡济被任命为中典军，并受封成阳亭侯。胡济与蜀汉重臣董允、费祎有一定交情，曾一起约时游宴。后升为中监军、前将军。后来蜀汉镇北大将军、汉中都督王平逝世后蜀汉朝廷以胡济继王平为汉中都督，授予节符，遥领兖州刺史。此后胡济又升任为镇西大将军。
公元256年(延熙十九年)春，蜀汉大将军姜维北伐曹魏，与时任镇西大将军的胡济约好在上邽会合，但胡济并没有领军赴约，使得姜维最终在段谷被魏将邓艾大败，折兵数万人，姜维因此事自贬为后将军，但是没见任何关于胡济的处分，相反，胡济升任右骠骑将军。后来魏灭蜀后胡济的记载不详，多半已经投降。