Klubben bildades 1881 som "Watford Rovers". Dessa blir 1890 en del av "West Herts Club" (Namnet Herts kommer från Hertfordshire, där Watford ligger).  1897 blir de professionella. I staden fanns även "Watford St Mary's", men det blir svårt för båda klubbarna att överleva som professionella, därför övertar West Herts  verksamheten och ändrar klubbens namn till det nuvarande. 1920 fick de plats i den nystartade tredjedivisionen. Elton John blir vicepresident i klubben 1973 och med honom kommer stora framgångar med bl a en andraplats i ligan och spel i UEFA-cupen.