Né dans le comté d'Orange en 1792, Mangum fut diplômé de l'Université de Caroline du NOrd en 1815, etudia le droit et fut admis au barreau en 1817. Il entama une carrière locale à la chambre de basse de son état avant être choisi comme juge de la cour supérieure de justice. En 1823, il fut élu au congrès, servant du premier septembre de cette année-là jusqu'au 18 mars 1826, date à laquelle il demissionna pour reprendre son poste de juge.

De 1831 à 1836, il fut nommé au sénat des Etats Unis comme Whig jusqu'au moment où il démissionna suivant les instructions de sa législature. Il déclina un poste au congrès et reçut la même année (en 1836) les 11 mandats électoraux de la Caroline du Sud dans l'élection présidentielle.

En 1840, les Whigs arrivèrent au pouvoir dans son état et il fut de nouveau envoyé au sénat pour complèter le terme de Bedford Brown, démissionnaire. Il y fut réélu à six reprises, accomplissant son mandat de décembre 1840 jusqu'au 3 mars 1853. Pendant la plupart de sa période parlementaire, Mangum se comporta comme un des principaux leaders du Parti Whig. Cette reconnaissance le fit élire comme Président Pro tempore du Sénat Américain le 31 mai 1842 à la démission du titulaire, Sam Southard du New Jersey.

A la fin de son mandat, en 1853, Mangum se retira de la vie politique. Sa mort survint à la suite d'une dépression nerveuse provoquée par le décès de son fils unique à la première bataille de Bull Run, le 21 juillet 1861.