Avocat de formation , John Bell alterna carrière politique locale et exercice de sa profession jusqu'en 1827. A cette date, il décida de franchir le pas et de poser sa candidature à la chambre des représentants. Il passa le cap avec succès, éliminant Felix Grundy qui avait pourtant le soutien d'Andrew Jackson, candidat à la présidence.

De 1827 à 1841, il fut élu pendant six législatures consécutives, dont dix ans comme président de la comission des affaires indiennes. Au cours de cette période essentielle de sa carrière, il devint undes fondateurs du Parti Whig, remporta le poste de speaker de la chambre contre le démocrate James K Polk. En 1836, il adopta le point de vue que l'esclavage devait être aboli dans le district de Colombia.

En 1841, Le président Harrison le nomma comme son secrétaire à la Guerre mais il demissionna la même année . De 1841 à 1847, Bell se retira de la vie publique. En 1847, il remporta l'election sénatoriale du Tenessee et occupa le poste pendant six législatures consécutives (1847-1859).

Bien que lui-même propriétaire d'esclaves, il ne prit jamais position en publique sur l'extension de l'esclavage dans les nouveaux terrritoires, cela afin de préserver l'Union.

En 186O, il fut condidat de l'Union Constitutionnelle pour la présidentielle au moment où les efforts pour limiter l'extension de l'esclavage menaçaient de propulser les Etats du Sud hors de l'Union. Il recueillit les votes du Tennesse, du Kentucky et de la Virginie soit 39 Mandats électoraux.

Au lendemain de la défaite, Bell prit position en faveur des états confédérés et se retira de la vie publique.