Arthur entra à Union College, Schenectady, état de New York à l'age de 15 ans. Ayant obtenu son diplôme en 1848, il étudia le droit à domicile et gangna sa vie comme professeur à North Pownal dans le Vermont . Il termina sa formation dans une étude à New York. Admis au barreau en 1853, il créa sa propre étude et s'installa à son compte deux ans plus tard.

Abolitionniste modéré, il défendit plusieurs esclaves fugitifs et devint rapidement un membre actif du parti républicain de New York. A son échelle, il participa à la réélection d'Edwin D. Morgan comme gouverneur de New York. Durant la guerre de Sécession, il fut l'intendant général, chargé de fournir toute la logistique aux volontaires. Le patron de la machine politique du parti républicain se nommait à l'époque Roscoe Congkling. Grâce à lui, Arthur obtint le poste de responsable en chef des douanes du port de New York.A la suite d'un conflit avec l'administration Hayes, il quitta son poste en 1878. Arthur fut un des 306 délégués à accorder son soutien à Ulysse Grant à la convention républicaine de1880 jusqu'au dernier scrutin. Pour concilier les tendances,Arthur fut alors choisi comme candidat à la vice-présidence, aux côtés de James A. Garfield, candidat vainqueur pour le ticket républicain.

Lorsque le président Garfield fut assassiné le 19 septembre 1881, il lui succéda à la Maison Blanche. Durant son mandat, il usa, à plusieurs reprises, de son droit de veto, notamment contre une loi d'exclusion des Chinois. A mi mandat , les élections de 1882 apportèrent une majorité démocrate à la chambre. Au même moment, il pesa de tout son poids pour soutenir le candidat républicain , Charles J. Folger au poste de gouveneur de N.Y. L'échec de ce dernier contre l'obscur maire de Buffalo, Grover Cleveland, diminua considérablement son influence et rendit du même coup hautement improbable l'hypothèse de sa propre succession au poste de président.

Arthur gardait l'espoir de représenter le parti républicain. A la convention de 1884, il dut se résoudre à accepter sa défaite : au quatrième tour de scrutin, James G. Blaine fut désigné par 541 bulletins contre 207 au président sortant. Blaine perdit l'élection contre Cleveland. A l'échéance de son mandat, Arthur se retira à New York où il mourut un an et demi plus tard, en 1886 de maladie.