I Promoucaes furono il primo popolo che popolò Pichilemu. Erano cacciatori raccoglitori e pescatori.
Nel 1887, il presidente José Manuel Balmaceda decretò Pichilemu come porto minore.
José Toribio Medina fece le sue prime indagini archeologiche a Pichilemu, e pubblicò nel 1908 Los Restos Indígenas de Pichilemu. Lì dice che Pedro de Valdivia diede delle terre in quello che oggi è il Cile centrale a Juan Gómez de Almagro il 24 febbraio 1544. Pichilemu si trovava tra le zone del Palloquierbico, Topocalma e Gulaquien.
Il nome Pichilemu deriva dalle parole Mapudungún pichi (piccolo) e lemu (foresta).
Alcuni dei primi proprietari di terreni di Pichilemu furono la famiglia Ortúzar. Daniel Ortúzar è conosciuto come uno dei fondatori del villaggio originale di Pichilemu. La famiglia di Ortúzar Cuevas, dell'hacienda San Antonio de Petrel, fece un molo marittimo a metà del secolo che fu come porto di pesca per alcuni anni. Costruirono anche case lungo il molo su quello che oggi è il viale Ortúzar. Più recentemente, altri grandi proprietari terrieri sono Pedro Pavez Polanco e l'Hacienda di San Antonio de Petrel. Nel 1891, durante la guerra civile cilena, Daniel Ortúzar e il prete di Alcones furono fatti prigionieri da Pichilemu attraverso il molo. Durante la guerra, il bacino fu bruciato. Dopo la guerra civile, Pichilemu ottenne il suo nome formale e il suo status. Il presidente Jorge Montt e il suo ministro, Manuel José Irarrázabal, la città fu ufficialmente fondata il 22 dicembre 1891.
Pichilemu è diventata la capitale storica della provincia chiamata Cardenal Caro che prende il nome dal primo cardinale della Chiesa cattolica cilena. Suo padre fu il primo sindaco della città.
Agustín Ross Edwards fu uno scrittore, deputato, ministro e politico cileno. Ross era molto ricco e basandosi sul suo background europeo, comprò un terreno di 300 ettari e lo chiamò "La Posada" (inglese: The Inn), o Fondo Petren, nel 1885. Ross progettò un luogo urbano di alto valore ambientale e paesaggistico, trasformando "La Posada" in un hotel (Great Hotel Pichilemu, più tardi Hotel Ross, o Ross Hotel), e costruendo un casinò, argini, muri di pietra, un balcone di fronte alla spiaggia. Inoltre, costruì un parco e una foresta di più di 10 ettari. Agustín Ross trasformò Pichilemu in una città di villeggiatura estiva per gli abitanti di Santiago. Alcuni dei suoi edifici furono nominati Monumenti Nazionali.