Calhoun reçut une solide formation juridique, fut admis au barreau mais abandonna bien vite sa profession pour se consacrer à une occupation de planteur et d'homme d'état. Ardent Republicain jeffersonien, il appela au conflit avec la Grande Bretagne dès 1807. Elu à la chambre des représentants en 1811, il s'y comporta comme un des principaux lieutenants d'Henry Clay, assura la fonction de leader de la majorité. Après la guerre, Calhoun fut président de la comission chargé de la mise en place de la seconde Banque des Etats Unis.

Appelé en 1816 au cabinet par la président Monroe, il y occupa le poste de secrétaire de la guerre. Il y gagna rapidement la reconnaissance des parlementaires et fut considéré comme un des leaders du parti démocrate républicain .Dévoré par les ambitions personnelles, Calhoun regardait avec insistance vers la présidence.

En 1824, il fut élu vice-président sous John Quincy Adams et fut réélu en 1828 sous Andrew Jackson. Bien vite à partir de 1830, des divergences se firent jour entre le vice-président et le président, Calhoun défendant une stricte application de la constitution et la pleine souveraineté des états. D'autre part , Calhoun réaffirma son attachement à cette "institution spécifique" au sud , l'esclavage qui était en but aux attaques de la majorité nordiste du congrès. Au grand regret de Calhoun, ses propos ne trouvèrent pas un écho suffisant, même auprès de Jefferson Davis qui était pourtant partisan du droit pour un état à la sécession. Peu avant la fin de son mandat, en 1832, Calhoun démissiona de sa charge de vice-président et entra au sénat.

Les vingt dernières années de sa vie furent consacrées à tenter d'unifier le Sud. En vain.... Ses tentatives intellectuelles pour justifier l'esclavage ne firent qu'accroitre dans les états libres un sentiment hostile au sud. En fin de carrière , John Caldwell Calhoun fit un retour remarqué au premier plan, occupant le poste de secrétaire d'Etat dans le Cabinet Tyler en 1844-1845. Peu avant sa mort, il occupait encore le poste de président de la comission des finances au sénat.