Klubben bildades 1867 av The Wednesday Cricket Club. Wednesday kommer sig av att det var den dag när de lokala arbetarna tog en halv dag ledig för att spela matcher. De kallades från början The Wednesday FC och färgerna var redan från början blått och vitt. 1882 blev fotbollsklubben en enskild förening. 1892 blev de medlemmar i högsta ligan när den utökades med två lag. 1929 lade man till Sheffield i klubbnamnet. Smeknamnet var för övrigt "The Blades" från början (vilket alltså lokalkonkurrenten United numera kallas), men i början av 1900-talet togs det fram en uggla som maskot för att anknyta till stadsdelen Owlerton där Hillsborough ligger.