尽管拓跋濬到目前为止总体上表现还算不错，但还是免不了会有瑕疵。这不就在太安四年（公元458年，大明二年）三月丙辰日（十二日），发生了一件事。

当时拓跋濬在巡视完后返回平城，然后开始兴建太华殿。恰好此时，给事中郭善明十分喜欢阿谀奉承、投机取巧，老想呈显自己的才能，于是劝拓跋濬大肆兴筑宫殿。拓跋濬一度也被说得心里颇为痒痒。这时一位老臣站了出来劝谏拓跋濬。

此人正是高允，高允是出了名的刚正不阿，之前在拓跋焘诛杀崔浩时就有所体现。这一次他对拓跋濬准备大兴土提出了自己的看法：“太祖当初兴建城池街市时，一定是让人们利用农闲的时节。现在我们国家已经建立很久了，永安前殿足够朝会时使用。宴请、歇息，有西堂、温室也足够了，紫楼也足可以用来登高远眺。”

拓跋浚历史的真实身份（拓跋浚的妻子是谁）

紧接着高允又说道：“即便现在要扩大建设工程，也应该慢慢进行，不能仓猝行事。我核算了一下工程量，要抽调劳役二万人，如果其中还有老弱病残又得多增加一倍，工期起码也得半年才可以完工。一个农夫不种田，就会有人挨饿，何况现在是动用四万人，劳力和费用是无法计算的。这是陛下您所应该留心的事。”拓跋濬听他这么说，也只能接受了。

事实上这也不是高允第一次这么做了。高允喜欢直言相谏，朝廷内但凡有什么做得不对的，他就立刻请求晋见皇帝。拓跋濬也是虚心接纳，常常屏退左右侍从，单独一人和他商谈。有时，二人从早到晚相谈，甚至一连几天都不出来，各位大臣不知道他们谈些什么。有时，高允说话时言词激烈、切中要害，就连拓跋濬也听不下去，就命令左右侍从把高允搀扶下去，但是他始终对高允很好。

大臣中有人看不下去了，于是上书表述高允这样做的得失，谁知拓跋濬看完后对大臣们说：“君王和父亲是完全一样的。父亲有错，儿子为什么不把它写在纸上，在大庭广众之中进行劝谏，而偏偏私下在隐蔽之处劝谏？这难道不是不想让他父亲的罪恶昭彰在外，让天下人都知道吗？至于说臣子侍奉君主，又何尝不是这样？君主有了什么过失，作为臣子，不能够当面直言劝谏，却要上书进行公开指责，这是想要使君主的短处昭彰于世，显示他自己的正直，这难道是一名忠君之臣所应该做的事吗？像高允那样的人，才是地地道道的忠君之臣。朕有了过失，他没有不当面直接批评的，甚至有时有些话，朕已经难以接受，但高允并不回避。朕由此知道了自己的过失，但天下人却不知道，难道这不能说是忠心吗？”

尽管高允颇受恩宠，但他此时的官职还是著作郎，二十七年从来没有升过官。拓跋濬为此对各大臣说：“你们这些人虽然每天手持刀箭，站在朕旁边侍侯，却不过是白白地站着，没有一个人劝谏过我一句话。而只是在看到我心情高兴时，要求赏赐一官半爵，现在，你们全都没有什么功劳，却做了王公。高允仅用一枝笔辅佐治理国家几十年了，他的贡献不小，可他仍然不过是个郎官，你们这些人难道不感到惭愧吗？”于是，提升高允为中书令。

事实上高允不仅长时间没有升官，生活也十分贫困。当时北魏文武百官们都没有俸禄，高允为了维持生计，常让他的儿子们上山砍柴。司徒步六孤丽（陆丽）将这一情况反馈给了拓跋濬，拓跋濬听后十分惊讶地说：“你为什么不早说？偏偏看朕重用了高允，才告诉我说他穷。”于是当天，拓跋濬亲自来到高允家，看见高允家里只有几间草房，几床粗布被褥和用旧麻絮做的棉袍，厨房里也只有一些青菜和盐。拓跋濬忍不住叹息，赏赐给高允家五百匹绢帛，一千斛粟米，任命高允的长子高悦为长乐太守。尽管高允竭力推辞，但拓跋濬不同意。

拓跋濬很器重高允，平时经常称高允为令公，而不叫他的名字。也正是有了这样的君臣关系，北魏才能迅速摆脱混乱重新走上正轨。