Cel mai mic dintre cei 9 copii ai lui Edward si Sarah, Herbert, s-a nascut la Nottingham, Mansfield Road n.129, pe data de 24.01.1870.

     A invatat meserie in fabricile de dantela care facusera faimos orasul Nottingham in intreaga lume dar in acelasi timp era pasionat de fotbal.

     La varsta de 13 ani a luat parte la fondarea unui mic club dedicat lui Garibaldi, ai carui membri purtau tricouri traditionale de culoare rosie. Ulterior a evoluat ca amator pentru cluburile locale Notts Olimpice si St. Andrews, chiar daca in Anglia deja se practica un fotbal profesionist.

     In anul 1891 a ajuns la Torino, la insistenta industriasului italo-elvetian Edoardo Bosio, pentru a implementa si utiliza primele razboaie de tesut mecanice produse in Anglia.

     Impreuna cu conationalii Gordon Savage si Henry Goodley si sustinut de Edoardo Bosio, pune bazele primului club de fotbal din Italia - "International Fooball Club din Torino". Sub culorile acestui club disputa finalele primelor 2 editii(1898, 1899), pierzandu-le in fata echipei dr. Spensley, "Genoa Cricket and Football Club".


     Datorita notorietatii sale, organizeaza in 1898, in Italia, prima confruntare internationala intre o selectionata de straini si reprezentanta Elvetiei.

     In acelasi an se muta la Milano impreuna cu Samuel Richard Davies, unde lucreaza la firmele de textile sub comanda lui Antonio Dubini, Guido Valerio si Giulio Cederna.

     In urma celei de-a doua finale pierdute, Kilpin il anunta pe capitanul genovezilor, Edoardo Pasteur : "E ultima data cand castigati! Voi construi o echipa la Milano care va va invinge!".

     Astfel, pe data de 16 decembrie 1899, impreuna cu conationalii sai Samuel Richard Davies, Penvhyn Liewellyn Neville, Kurt Lees, Mildmay, Barnett si Hayes si milanezii Piero Pirelli, Alberto Pirelli, Daniele Angeloni, Francesco Angeloni, Guido Valerio, Antonio Dubini si Giulio Cederna, infiinteaza "Milan Cricket and Football Club", care va deveni, sub numele de Associazione Calcio Milan, cel mai titrat club din lume.