La banda di Ben Hall derubava i viaggiatori sulle strade, le carrozze postali, le scorte d'oro, gli alberghi, le fattorie e ha persino rapinato intere città. La polizia sembrava non essere in grado di fermare la banda. All'inizio la gente pensava che fosse divertente, che la polizia venisse fatta passare per stupida. Gilbert e John O'Meally fecero la prima rapina in banca alla luce del giorno in Australia nel luglio 1863. Cavalcarono nella città di Carcoar e cercarono di prendere i soldi dalla banca. L'uomo che lavorava in banca afferrò la sua pistola e sparò due volte. Gilbert e O'Meally uscirono di corsa dalla banca, salirono rapidamente a cavallo e si allontanarono.
Ma man mano che il numero di rapine continuava, la gente si spaventava e voleva che il governo facesse qualcosa. Nel 1864, Gilbert uccise un poliziotto, il sergente Edmund Parry, durante una rapina vicino a Jugiong. La ricerca di Gilbert da parte della polizia divenne urgente.
A Springfield, vicino a Goulburn, Gilbert tentò di rapinare quattro giovani fratelli. I ragazzi spararono con le loro pistole e tennero indietro i bushranger. Gilbert cercò di sparare ad uno dei ragazzi, ma il suo cavallo da corsa rubato (chiamato "Young Waverly") si mise in mezzo. Il cavallo morì immediatamente e Gilbert rimase intrappolato sotto il cavallo morto. La gente pensava che questo fosse molto divertente; un pericoloso bushranger che veniva fatto passare per pazzo da un gruppo di ragazzi.
Nel 1865 un altro poliziotto fu ucciso da un altro membro della banda, John Dunn. I membri della banda furono dichiarati fuorilegge. Questo significava che potevano essere uccisi da chiunque in qualsiasi momento. La polizia uccise Ben Hall vicino a Forbes il 5 maggio 1865. Il 13 maggio 1865 Gilbert e Dunn andarono a nascondersi a casa di John Kelly (il nonno di Dunn). Kelly disse alla polizia di Binalong dove si nascondevano i due bushranger in modo da poter ottenere i soldi della ricompensa. La polizia andò alla casa, ma Gilbert e Dunn uscirono da una finestra e corsero fino a Billabong Creek per fuggire nel bush. L'agente King fu colpito al piede e Dunn al braccio. Gilbert fu colpito a morte quando si fermò per sparare all'agente John Bright. Dopo un'inchiesta per stabilire come morì, fu sepolto a Binalong, nel campo dove la polizia teneva i suoi cavalli. Gilbert era un cattivo criminale. Aveva partecipato a 630 rapine. Dunn fuggì ma fu catturato sei mesi dopo. Fu impiccato a Sydney nel marzo 1866.