在吴国，子胥察知公子光有野心，就向他推荐了剑客专诸，专诸向公子光说此时可杀僚而自立。于是公子光埋下伏兵，备酒请僚。专诸在鱼肚中藏匕首，入内刺杀了僚，公子光自立为王，即为阖闾。后阖闾召来子胥，赐以官职，与他共商国是。
阖闾九年（公元前506年），吴国攻入楚国都城郢，楚昭王出逃。伍子胥随军入郢，找不到昭王，就掘开平王的坟墓，挖出他的尸体，抽打了300鞭，心中仇恨才稍稍平息。申包胥原是子胥的好友，子胥逃离楚国时曾誓灭楚国，而包胥则说要保卫它。这时申包胥逃到山中，派人对子胥说：“你也太过分了吧！我听说人可胜天，天也能毁灭人。您曾是楚王臣下，您父亲也是楚王旧臣，现在鞭打死人，这岂不是太不讲理了！”子胥对来人说：“帮我向包胥道歉。我来日无多，就像太阳将落，但路途还远，所以倒行逆施。”夫差继位后，伍子胥曾多次劝他灭掉越国以绝后患，夫差一直不听。夫差执意攻齐，并派子胥出使齐国，子胥就把自己的儿子托付给齐国的鲍牧。伯嚭乘机向夫差进谗说子胥怀有异心，劝夫差杀掉他。于是伍子胥被赐剑自杀，当时，他狠狠地说：“在我的坟上种上梓树，使它长大能做棺材。把我的眼睛挖出来挂在吴国东门上，好让我亲眼看到吴国被越国消灭。”