唐朝中前期，可谓名相辈出。可是自从安史之乱后，唐朝政局，遭到后世赞誉的宰相寥寥无几，而崔祐甫则是其间一位。

　　崔祐甫身世于其时的高门大族博陵崔氏，自幼勤奋好学，年轻时经过科举考中进士，步入宦途。他“性刚直，无所容受，遇事不回”，性格耿直不平，遇事不愿回头。

　　唐代宗时期，崔祐甫担任中书舍人，与宰相常衮不好，两人屡次发作争执。有一次，陇右节度使朱泚军中发作猫鼠同乳的怪事，向朝廷奏称祥瑞，常衮便带领群臣道贺。崔祐甫却认为：“猫的职责是捕鼠，为人除害。可现在猫不捕鼠，反而哺乳老鼠，是失其本性，不能守职。就如同官吏不惩办违法之人，边将不反抗侵略之敌。这并不是什么祥瑞，反倒应该因而检讨朝政的得失。”代宗附和崔祐甫的说法，常衮由此对崔祐甫恨之入骨。

　　到了代宗逝世时，崔祐甫与常衮之间的关系进一步恶化，崔祐甫也因而而因祸得福。

　　常衮感激代宗的知遇之恩，认为代宗的丧礼应该在礼制的基础上隆重举行。而崔祐甫则认为全国并不安靖，代宗的丧礼应该悉数从简，尽量不给朝廷和百姓增加担负。两人为此争执不下，常衮便向刚刚即位的唐德宗弹劾崔祐甫，说他小看国家礼仪典制，恳求将其贬为潮州刺史。德宗认为处置过重，就改贬崔祐甫为河南少尹。

　　依据此前的常规，几位宰相轮流处理日常业务，如有宰相轮休，若非重要的诏令，不需奉告其他宰相，由值勤宰相代其署名。加之常衮把握实权，而同为宰相的郭子仪、朱泚一般不参预朝政，所以常衮贬黜崔祐甫时并未咨询他们的定见，就替代郭子仪、朱泚在诏书上署了名。

　　比及贬黜崔祐甫的诏书宣布之后，郭子仪、朱泚都不赞同，入宫觐见德宗，表明崔祐甫不该被贬。“德宗大骇，谓衮诬罔”，德宗这才知道其他宰相并不知情，他也不知道这种做法是朝廷常规，因而认为常衮欺君罔上。德宗十分愤怒，下令“两换其职”，让常衮和崔祐甫对调官职，将常衮贬为河南少尹，崔祐甫则顶替常衮的职位，被任命为门下侍郞、同平章事，成为了宰相。

　　崔祐甫刚刚离京不远，便被召回了朝中，就任宰相。其时德宗正在服丧，将政务悉数托付给崔祐甫，对他信赖有加，他提出的建议无有不允。崔祐甫干事公允，足智多谋，得以充分发挥自己的政治才干。

　　崔祐甫一改之前只重视门第和科举的任官办法，选拔官员不避亲疏，重视才干优劣，只要是人才便加以委任。德宗曾问崔祐甫：“很多人都说你选用的官员多是亲友素交，这是为何?”崔祐甫回答说：“选用官员必须熟知他们的才干和品德，若不与其相识，怎么能知道真实情况。”唐德宗深认为然。

　　其时，神策军使王驾鹤把握禁军十余年，权倾表里，专横嚣张。德宗继位后，想免除王驾鹤的兵权，但又怕他发动暴乱。崔祐甫便把王驾鹤召来说话，成心拖延时间，而顶替王驾鹤的人这时早已到军中就任了。比及王驾鹤知道后，现已力不从心。