不久，羊祜便与世长辞了。荆襄军民闻讯之后，无不悲痛欲绝，就连东吴将士也为其落泪。不仅如此，襄阳的百姓为了纪念他，还特意在羊祜生前最喜欢游憩的岘山上刻下石碑，建起了庙宇，并按时祭祀。由于当地的百姓每次看到石碑时都会忍不住地伤心落泪，因此，那块石碑又被后人称之为“堕泪碑”。在羊祜死后两年，晋武帝便用羊祜生前遗留下来的计谋平定了东吴。当群臣向晋武帝称贺，晋武帝却端着酒杯流着泪说道：“这一切都是羊太傅的功劳啊！”
羊祜以其自身的德行和操守赢得了上至国君、下至黎民百姓的一致肯定，因此，在做人方面他是成功的。由此也可以看出，一个人若想获得成功，首先要有良好的德行和操守，因为，这是做一切大事的前提和基础。
【中庸政道】以身作则的朱元璋