吴国要征讨齐国，伍子胥哭着进谏：“我听说勾践能和老百姓同甘共苦，这个人不除去，一定是我吴国的心头大患，大王真是打错了对象，你应该先去攻打越国。”
这时，傲慢无度的夫差哪里能听进去这样的话，就攻打齐，得胜而归。他从战场回来后，讽刺伍子胥：“我要是听你的，在家里睡大觉，哪里会有今天的胜利？”
但是，伍子胥非常冷静，他说：“大王不要高兴得太早了。”
这句话差点没把这傲慢的国王气死，夫差就大骂伍子胥，说他倚老卖老。
伍子胥看到自己一腔报国之愿不能实现，就要拔刀自杀，幸亏大臣们及时赶到救了他。
这些事情越国人都看在眼里。文种说：“夫差太骄纵了，我们可以试着向他借一些粮食，看他对越国的态度。”
勾践认为他的办法不错，就派文种到吴国去。文种来到夫差的面前，以越国遭受粮荒为由，要吴国借一点粮食给他们。夫差觉得这是小事，就准备答应，可是伍子胥却不同意，但是吴王认为他老了，不中用了，就根本不听他的劝告，借了很多粮食给越国。
伍子胥慨叹道：“三年后，吴国将会变为一堆废墟。”这话给伯嚭听到了，就在夫差面前说他的坏话。
夫差初时还不相信，后来逢同也加入污蔑他的行列，夫差就信以为真了。他怕伍子胥作乱，就把他派到齐国去出使。伍子胥感到自己一腔报国愿望不能施展，又想到夫差一定会加害于他，在到齐国之后，就找到他的一个好朋友鲍牧，将自己的儿子托付给他教养。
伯嚭等又利用这一问题大做文章，在夫差面前离间他们的关系，夫差听到后大发雷霆，说：“这老儿真要背叛我了。”等到伍子胥从齐国回来，就派人赐给他一把“属镂”剑，让他自己结果自己。
伍子胥拿着那把剑，知道他所预料的事到了，他来到夫差面前，大笑不止，夫差被他吓得向后退了几步，颤抖地说：“你死到临头，还笑什么？”
伍子胥道：“我笑你这个昏君不明真相。我帮助你父亲成就了霸业，又拥你为王，你当初要把江山分一半给我，我没接受，可没过多久，你就听信谗言，要加害于我。我老了，死又何足惜，我为我们吴国的未来在心里痛哭。你这个昏君，吴国就要毁在了你的手中了。”
夫差脸色铁青，说：“快快把这个老头儿推下去杀了。”
伍子胥举起“属镂”剑，喝退了上前来杀他的人，对旁边他的下人说：“我死后，把我的眼睛挖下来，挂在都城的东门上，我要亲眼看看越国的将士是怎样攻进我心爱的国家的。”
说罢，他向着自己的胸膛猛地一刺，躺在了血泊中。一颗伟大的心脏停止了跳动。
民间有许多传说，说到伍子胥为国家和人民做过许多好事，人民爱戴他，民间五月端午向水里扔粽子，有的说是为了祭祀屈原，有的却说是为了祭祀伍子胥。
