John Brown è nato il 9 maggio 1800 a Torrington, Connecticut. Era il quarto degli otto figli di Owen Brown (1771-1856) e Ruth Mills (1772-1808) e nipote del capitano John Brown (1728-1776). Gli antenati di Brown erano puritani inglesi del XVII secolo.
Nel 1805 la famiglia si trasferì a Hudson, Ohio. [] Owen Brown aprì una conceria qui. [] Hudson aveva un sacco di attività contro la schiavitù. Owen ne faceva parte. Owen forniva una casa sicura ai fuggitivi della ferrovia sotterranea. [] Non c'era un liceo a Hudson a quel tempo, così John studiò alla scuola dell'abolizionista Elizur Wright. Elizur Wright era il padre di Elizur Wright, nella vicina Tallmadge. []
Il padre di Ulysses S. Grant, Jesse R. Grant, era l'apprendista di Owen Brown.
All'età di 16 anni, Brown lasciò la sua famiglia e andò a Plainfield, Massachusetts. Si è unito a un programma di preparazione. Poco dopo, andò alla Morris Academy a Litchfield, Connecticut.
Nel 1820, Brown sposò Dianthe Lusk. Il loro primo figlio, John Jr, è nato 13 mesi dopo. Nel 1825, alla ricerca di un posto più sicuro (per gli schiavi fuggitivi), Brown e la sua famiglia si trasferirono a New Richmond, Pennsylvania. Acquistò 200 acri (81 ettari) di terreno. Ne liberò un ottavo e costruì una capanna, un fienile e una conceria. La conceria aveva una stanza segreta per nascondere gli schiavi in fuga. Il sito della conceria John Brown è stato inserito nel 1978 nel Registro Nazionale dei luoghi storici. Era "una tappa importante della ferrovia [sotterranea], segnando il suo posto nella storia dal 1825 al 1835". Durante quel periodo, "Brown aiutò circa 2.500 schiavi a fuggire".
Nel 1829, alcune famiglie bianche chiesero a Brown di aiutarle a rimuovere i nativi americani che cacciavano ogni anno nella zona. Brown disse loro: "Non avrò niente a che fare con [un tale] atto meschino". Vorrei [piuttosto] prendere la mia pistola e aiutarvi [a rimuovere] dal Paese". Per tutta la vita, Brown ha mantenuto rapporti pacifici con i suoi vicini nativi americani. A volte andava con loro a caccia, e li invitava a mangiare a casa sua.
Nel 1831, uno dei suoi figli morì. Brown si ammalò, e i suoi affari iniziarono ad andare male. Questo fece sì che Brown avesse un sacco di debiti. Nell'estate del 1832, poco dopo la morte di un figlio appena nato, sua moglie Dianthe morì. L'unica famiglia che gli era rimasta erano i suoi figli John Jr., Jason, Owen e Ruth. (Altri tre dei loro figli morirono prima di diventare adulti) Il 14 giugno 1833, Brown sposò la sedicenne Mary Ann Day (15 aprile 1817 - 1° maggio 1884). Era della contea di Washington, New York. Avevano 13 figli; quelli vivi alla morte di John Brown erano Salmon, Annie, Sarah ed Ellen.
Nel 1836, Brown trasferì la sua famiglia a Franklin Mills, Ohio (ora noto come Kent). Lì, prese in prestito del denaro per comprare dei terreni nella zona. Costruì e gestì una conceria lungo il fiume Cuyahoga. Il suo socio era Zenas Kent.
Nel 1837, quando venne a sapere che Elijah P. Lovejoy era stato ucciso, Brown promise: "Qui, davanti a Dio, [con i testimoni intorno a me], da [ora in poi], io (dedico la mia vita alla distruzione della schiavitù!
Credeva fortemente nel cristianesimo. Credeva che i cristiani dovessero trattare le persone allo stesso modo, indipendentemente dal colore della pelle. Molti cristiani bianchi in America in questo periodo non erano d'accordo con questo.