Johnny Horn en James Scanlan begonnen Holy Goat eind 2020 in Dundee. Horn was archeoloog, brouwde daarna bij The Hanging Bat, 71 Brewing en Vault City, dat hij in 2018 mee oprichtte. Scanlan werkte in de gamesindustrie en maakte geluid voor tv en film; hij doet de verkoop en tekent de etiketten.
Holy Goat maakt bieren met gemengde gisting en rijping op hout. Met een eigen methode met brettanomyces-gist rijpen de bieren meestal drie tot vier maanden. De naam verwijst naar de 'geitige' geur die wilde gist kan geven, en knipoogt ook naar heavy metal. Ongeveer een derde van de verkoop gaat naar het buitenland, onder meer naar Nederland.