佩服于慎行操守的事，是国本之争中于慎行的表现：此时，万历的长子朱常洛已经九岁，是妃子所出——但这个妃子原本不过一名宫女，万历当时也只是临时起兴，谁知就珠胎暗结。实际上万历不喜欢此妃和她这个儿子，他想立的是郑妃所生的皇次子。
但是在大明，名分是极其重要的，“有嫡立嫡，无嫡立长”早已深入人心，万历自己也是这种思想的受益者。皇后无子则无嫡出，但立长又轮不到郑贵妃所生的皇次子，万历不好把这一想法明说，故而迟迟不立太子。
满朝文武见皇长子日渐长大，不能正位进学，当然非常着急。于是自万历十七年起，不断有人提出立储问题，请万历早建东宫。
于慎行身为礼部尚书，对此事当然义不容辞。他连疏极谏，言辞颇为激烈，万历非常生气，再三降下严旨，贵备于慎行“以东宫要挟皇上。”
于慎行回答说:“册立之事，是臣部职掌，我如果不说，是为失职。请皇上速决大计，我宁可弃官归里。”态度极其强硬，丝毫不肯妥协，因为在于慎行看来，原则就是原则，原则问题不容谈判。
万历当然更不高兴了，大骂于慎行“疑上”、“淆乱国本”，把礼部大小官员都停了傣禄。偏巧正在此时，发生了山东乡试泄题事件，于慎行身为礼部尚书，虽然是科考的主要领导，但说起来只是有一定的领导责任，可于慎行仍然毫不犹豫地引咎辞职。
万历十九年九月，于慎行的辞职获万历批准，于慎行遂归隐故乡。他家居十余年，朝野上下多次荐他出山，万历皆不同意。直到万历三十五年，东宫已立、国本已定，廷推内阁大臣时，于慎行名列七位候选人之首。万历见势不可违，才命他以原官加太子少保兼东阁大学士入阁办事。但这时候，于慎行已经重病缠身，只能勉强到京觐见。不数日，卒于京华官邸，年六十三岁。于慎行死后，赠太子太保，谥文定。