杜黄裳年轻时考中进士，又中制举宏辞科，受到宰相杜鸿渐的器重，被朔方节度使郭子仪辟为从事。大历十三年(778年)，郭子仪入朝，命杜黄裳留守朔方，主持军务。李怀光趁机矫诏，欲诛杀大将温儒雅等人，以取代郭子仪。杜黄裳辨认出诏书乃是伪造，质问李怀光，使其阴谋未能得逞。
升任宰相
唐德宗贞元年间，杜黄裳入朝，担任侍御史，因与宠臣裴延龄不睦，十年未得升迁。永贞元年(805年)，唐顺宗继位，杜黄裳因女婿韦执谊拜相，得以升任太子宾客，后改任太常寺卿。
当时，唐顺宗病重，不能理政。翰林学士王叔文当权，与韦执谊等人进行政治改革。杜黄裳加以反对，主张由皇太子李纯监国。韦执谊劝道：“您怎能刚升官就谈论禁中之事。”杜黄裳怒道：“我受三朝厚恩，怎能因一个官职便出卖自己。”
同年七月，唐顺宗命太子李纯监国，主持朝政，并擢升杜黄裳为门下侍郎、同中书门下平章事。八月，唐顺宗称太上皇，退居兴庆宫，并册立太子李纯为皇帝，是为唐宪宗，杜黄裳充任册立副使。唐顺宗去世后，杜黄裳又充任丧葬礼仪使。
力主平藩
元和元年(806年)，夏绥银节度使韩全义入朝。杜黄裳认为韩全义奸邪谄媚，毫无建树，勒令其致仕退休，任命李演为节度使。夏绥留后杨惠琳举兵拒命，被部将张承金斩杀。
不久，西川节度副使刘辟叛乱。朝臣都认为蜀地险要，易守难攻，不主张出兵讨伐，只有杜黄裳主战。他要求罢免宦官监军，将军事委托给神策军使高崇文，并在朝中决策战略。西川平定后，百官朝贺，唐宪宗对杜黄裳道：“这都是你的功劳啊。”
后来，杜黄裳与唐宪宗提到节度使任命问题，奏道：“德宗皇帝姑息藩镇，使的藩镇将帅权力膨胀，朝廷政令难行。陛下应吸取教训，严整法度，削弱藩镇权力，加强中央集权。”唐宪宗深以为然。杜黄裳又道：“为君者应修己任贤，掌握大政纲领。只要用人得当，责其尽职，有功必赏，有罪必罚，谁还敢不尽力?”唐宪宗听取了他的建议，着力整顿朝纲，扫灭齐蔡叛军，收复两河一带，使贞元以来的动乱局势有所改变。
晚年生活
杜黄裳虽有治国之才，但不拘小节，因而未能久居相位。元和二年(807年)，杜黄裳出镇河中府(治今山西永济)，担任检校司空、同平章事、河中尹、河中晋绛慈隰节度使，加封邠国公。
元和三年(808年)，杜黄裳病逝，终年七十一岁，追赠司徒，谥号为宣。元和八年(813年)，御史台上奏宪宗，揭发杜黄裳曾接受高崇文的贿赂，杜黄裳之子杜载在受审时承认属实。唐宪宗念及杜黄裳之功，不予追究，并将杜载释放。
会昌六年(846年)十月，杜黄裳与裴度、李愬、高崇文等配享宪宗庭庙。
惨绿少年
潘孟阳担任户部侍郎，其母刘夫人对他道：“以你的才干坐上丞郎之位，我怕早晚会出事。”潘孟阳再三宽慰，夫人道：“你把同僚请来，让我看看。”客人到后，夫人躲在帘后观察，对儿子道：“他们都是和你一类的人，我用不着担忧了。末座身穿惨绿(浅绿)衣服的少年是谁?”潘孟阳道：“补阙杜黄裳。”刘夫人道：“这个人跟别人都不一样，将来一定是位有名的卿相。”后人便用“惨绿少年”来形容风度翩翩的青年男子。
敝乘拒贿
淄青节度使李师古对杜黄裳非常忌惮，命干吏带着几千贯钱和一辆价值上千贯的车子，去贿赂杜黄裳。干吏在杜黄裳家的门外观察了几天，看到院中抬出一顶绿色的轿子，跟着两个青衣褴褛的婢女。他得知轿中是宰相夫人后，急忙返回淄青，告知李师古。李师古遂放弃贿赂杜黄裳的计划，终生不敢对杜黄裳失礼。
宰相肚量
杜黄裳为卿士时，女婿韦执谊对他很不尊重。后来，韦执谊获罪，杜黄裳却全力营救。韦执谊病死岭外，他又上表皇帝，请求将其灵柩运回安葬。
杜黄裳一次患病求医，医士因失误用错了药，使得他病情加重，但他始终都没有生气发怒。
