John Campbell naquit à Édimbourg en mars 1766. Il perdit son père à deux ans et sa mère à six ans, et fut élevé par un oncle. Il étudia à la Royal High School, aux côtés du futur écrivain Walter Scott, et travailla comme apprenti orfèvre avant de se consacrer au ministère chrétien.
À Édimbourg, il fonda la Société des Traités Religieux d’Écosse en 1793. Dans les années suivantes, aux côtés du prédicateur itinérant James Haldane, il contribua aussi à multiplier rapidement les écoles du dimanche dans la région. Il devint pasteur de la chapelle congrégationaliste de Kingsland, à Londres, en 1802, et se servit de la chaire pour éveiller l’intérêt pour les missions en Afrique, alors pratiquement inconnue des Anglais.
En 1812, déjà directeur de la Société Missionnaire de Londres, il fut envoyé au Cap de Bonne-Espérance pour inspecter les stations de la mission dans le sud de l’Afrique. Il partit du Cap en 1813 et parcourut des milliers de kilomètres à travers Bethelsdorp, Graaff-Reinet, Griquatown et le territoire des Batlhaping, dirigés par le chef Mothibi.
De retour à Londres, il publia Travels in South Africa (1815), l’un des premiers récits détaillés sur les peuples de l’intérieur de la région correspondant aujourd’hui au Botswana et à l’Afrique du Sud. Le livre suscita un grand intérêt du public britannique pour les missions africaines.
Entre 1819 et 1821, il fit un second voyage, cette fois accompagné du missionnaire John Philip. Lors de cette visite, il orienta le jeune Robert Moffat à commencer un travail parmi le peuple batswana. Moffat s’installa d’abord à Dithakong (aussi appelée Lattakoo) et ce n’est que des années plus tard, en 1825, qu’il transféra la station à Kuruman, qui deviendrait l’un des postes missionnaires les plus influents du sud de l’Afrique au XIXe siècle.
Comme beaucoup de missionnaires de sa génération, Campbell mêlait l’annonce de l’évangile à une confiance presque aveugle envers la civilisation européenne, traitant les coutumes africaines comme un retard à corriger. Des historiens du XIXe siècle, comme George McCall Theal, relevaient déjà une autre limite de Campbell en tant qu’écrivain : la naïveté et la crédulité de ses récits, qui rendaient peu fiable une bonne partie de ce qu’il décrivait sur des épisodes auxquels il n’avait pas assisté lui-même. Ces deux points sont aujourd’hui reconnus comme des limites historiques de son œuvre.
De retour en Angleterre, il devint l’un des premiers écrivains à produire de la littérature missionnaire pour enfants, en plus de diriger pendant des années la revue The Youth’s Magazine. Ses récits de voyage contribuèrent à éveiller chez toute une génération l’intérêt pour l’évangélisation du continent africain.
Campbell mourut à Londres le 4 avril 1840, à 74 ans, après des décennies consacrées à la cause des missions.