颜杲卿最初因父亲关系而得官，性情刚直，做官有才干。唐玄宗开元(713年—741年)年间，任魏州录事参军。颜杲卿能做到纲举目张，治理政事可称第一。
起兵讨贼
天宝十四载(755年)，代理常山太守 ，当时安禄山为河北、河东采访使，常山郡正在安禄山的管辖中。同年十一月，安史之乱爆发，安禄山在范阳起兵反叛。十二月十二日，攻陷东都洛阳。
颜杲卿忠诚之心感慨奋发，担心叛贼马上侵犯潼关，那就会危及宗庙社稷。当时他的堂弟颜真卿任平原郡太守，事前听说安禄山谋反，暗中收养死士，招抚豪强大族，共商抵御叛军的计谋。叛乱爆发后，颜真卿派遣使者来告诉颜杲卿，共同商议组织义军，分兵牵制叛军，阻断其归路，以减缓叛军西进的步伐。颜杲卿便与长史袁履谦、前真定县令贾深、前内丘县丞张通幽等人，谋划打开土门县(今陕西富平)形成从背面攻击叛军的行动。当时安禄山派李钦凑、高邈率军五千镇守土门。颜杲卿想杀掉李钦凑，以便打开进攻土门的路。当时，李钦凑所部隶属于常山郡，正好李钦凑派高邈前往幽州还未返回，颜杲卿便派官员召李钦凑到郡里商量事情。十二月二十二日夜晚，李钦凑到达郡治所，颜杲卿把他安置在旅馆里。在李钦凑大醉后，颜杲卿便命袁履谦与参军冯虔、县尉李栖默、杂役小吏翟万德等人将其斩杀。半夜，袁履谦带了李钦凑的首级来见颜杲卿，两人相对垂泪 ，“且喜且泣”。这天晚上，稿城县尉崔安石报告高邈回到了蒲城，颜杲卿立即命令冯虔、翟万德与崔安石杀掉高邈。第二天早晨，高邈的几个骑兵随从先到稿城驿站，崔安石先将这几个人杀死。不久高邈也到了，崔安石骗他道：“太守准备了酒筵舞乐在旅舍中等你。”高邈刚刚靠近厅前下马，冯虔等人就把他擒获。同日，叛将何千年从东都洛阳来赵郡，冯虔、翟万德在醴泉驿站埋下伏兵，何千年一到，又把他也捉住了。当天捆绑了两个叛将回到郡治所。颜杲卿派他的儿子安平县尉颜泉明以及贾深、张通幽、翟万德，用木盒装上李钦凑的首级，并押送两个叛将至京城。 到了太原，节度使王承业留下了颜泉明、贾深等人，扣下了颜杲卿的表状，自己呈递表章献上叛将，当作自己的功劳。玄宗不知内情，提升王承业为大将军，下属牙将获赏赐的有一百多人。不久后，玄宗获知颜杲卿的功劳，加授他为卫尉卿兼御史大夫。
颜杲卿斩杀叛将以后，收兵训练士卒，便发檄文传告河北(黄河以北)各郡县，说朝廷任命荣王李琬为河北兵马大元帅、哥舒翰为副元帅，统领大军三十万，即将出兵土门。各郡县听说后，都杀掉叛军守将，远近响应，共有十五个郡都被唐军所驻守。这时安禄山派使者传送东都留守李憕、留台御史中丞卢奕的首级，以警示河北各地。传到平原郡时，颜真卿杀死叛军使者，收好李憕等人的首级。清池县尉贾载也斩了叛军所任命的景城郡守刘玄道，传送他的头到达平原郡。饶阳郡守卢全诚也依托其郡起兵，与颜真卿会合 。当时常山、平原二郡军威大振。安禄山正自行率领军队向西进犯，已经到了陕县，听说河北有变立即回师，于是命史思明、蔡希德率军北渡黄河。
城陷殉难
天宝十五载(756年)正月，史思明攻打常山郡。颜杲卿向王承业求救未果，只得昼夜防守，拼死作战。但城内兵员短少，寡不敌众，御敌物资全部用完。正月八日，城池陷落，颜杲卿、袁履谦被叛军俘获，送到洛阳。史思明攻下常山郡后，接着攻打其他诸郡，邺县、广平郡、巨鹿郡、赵郡、上谷郡、博陵县、文安县、魏郡、信都地区，又都被叛军所占领。
安禄山见了颜杲卿，当面斥责他说：“你从前是我把你从范阳户曹任上奏请为判官，于是得以任光禄、太常二丞，便用你代理常山太守，我什么事有负你而背叛我?”颜杲卿怒目而视，对答道：“我家世代为唐朝大臣，永远信守忠义，即使得你奏请署官，难道还应跟着你反叛吗?况且你本是营州一个牧羊的羯族奴隶，因窃取皇帝的恩宠，才有今天，天子又有什么事有负于你而你竟反叛朝廷呢?”安禄山非常愤怒，命人绑颜杲卿于天津桥柱上，肢解并吃他的肉，颜杲卿骂不绝口，叛贼钩断了他的舌头，说：“看你还能骂吗?”颜杲卿在含糊不清的骂声中遇害，时年六十五岁。这天，颜杲卿的幼子颜诞、侄子颜诩以及袁履谦，都被先截去了手脚。袁履谦见何千年的弟弟在旁边，便含血喷他的脸，于是又被更为残忍地施行碎割，过路的人见了都为之流泪。
身殁名存
张通幽因为他的兄长辅佐安禄山，在宰相杨国忠面前说颜杲卿的坏话，所以朝廷没有及时封赠颜杲卿。唐肃宗在凤翔时，颜真卿上表为颜杲卿辩冤，时值张通幽为普安太守，太上皇将其杖杀。李光弼、郭子仪收复常山，把颜杲卿、袁履谦两家亲属数百人释放出狱，厚赠钱物，让他们治丧。
乾元元年(758年)
五月，肃宗追赠颜杲卿为太子太保，定谥号为忠节，追封其妻崔氏为清河郡夫人。起初，博士裴郁认为颜杲卿不在朝执政，只给谥号为忠，参加讨论的人为之不平，所以用忠节两字作为谥号。
大历十四年(779年)，唐代宗评定“至德已来将相，功效明着”之人，颜杲卿等八人被定为第一等。
建中三年(782年)三月，唐德宗加赠颜杲卿为司徒。
当初，颜杲卿被杀，首级在大街上示众，没有敢收葬的。有一个叫张凑的人，得到了颜杲卿的头发，拿着去拜见太上皇。这天晚上，肃宗梦见了颜杲卿，醒后为之设祭。后来张凑将头发归还颜杲卿的妻子崔氏，崔氏有点怀疑，而头发看起来像在动。之后，颜泉明买下颜杲卿的遗体，将要安葬，从行刑的刽子手得知，颜杲卿死时一脚先被砍断，与袁履谦埋在一起。经刽子手指引，颜泉明找到了残缺的一脚，遂葬于长安凤栖原。颜季明与卢逖在同一墓穴安葬。
