FW de Klerk è nato a Johannesburg nel 1936. È il figlio di Johannes de Klerk (1903-1979) e di Hendrina Cornelia de Klerk (1904-2001), che morì appena quattro mesi prima della morte della sua ex figlia Marike Willemse e di suo fratello Wimpie de Klerk (1928-2009). La sua famiglia, il cui nome deriva dal cognome francese "Le Clerc", "Le Clercq" o "de Clercq" è di origine ugonotta. Si stabilì nel paese nel 1686, pochi mesi dopo la Revoca dell'editto di Nantes, e partecipò a vari eventi della storia afrikaner. I loro antenati parteciparono al Grande Trek sul treno guidato da Piet Retief per liberarsi del dominio britannico. Nel 1838, tre membri della famiglia Klerk furono anche uccisi con Retief nel King Kraal di Zulu, Dingane. Più tardi, durante la Seconda Guerra Boera (1899-1902), il nonno FW di Klerk fu catturato due volte dai britannici prima di essere un membro fondatore del Partito Nazionale nel 1914, insieme a James Barry Hertzog. Secondo il genealogista Keith Meintjies e confermato da FW di Klerk, quest'ultimo è anche in accordo con Krotoa (Eva), una femmina Khoi, che servì come interprete per i coloni olandesi durante la fondazione della Colonia della Testa.
Membro della Chiesa riformata olandese, FW di Klerk, è il figlio più giovane, Jan Klerk, il capo della scuola e ministro con vari portafogli (1954-1969) e presidente del Senato (1969-1976), il nipote di JG Strijdom, il capo del governo del Sud Africa 1954 fino al 1958. Suo fratello maggiore Wimpie de Klerk è un analista politico e cofondatore del Partito Democratico nel 1989.
Scuola superiore a Krugersdorp, un sobborgo di Johannesburg, FW da Klerk ha una laurea con lode presso l'Università di Potchefstroom nel 1958. Nel 1959 ha sposato Marike Willemse (1937-2001), con cui crescerà tre figli adottati). La coppia, F. W. e Marike de Klerk, ha divorziato nel 1998.
Durante gli studi universitari, si unì al Partito Nazionale e divenne membro di Broderbond.
Un avvocato di Vereeniging, nel sud del Transvaal, rifiutò nel 1972 il posto di diritto pubblico all'Università di Potchefstroom per candidarsi alle elezioni generali.