Pigface foram formados a partir da turnê The Mind Is A Terrible Thing To Taste dos Ministry, que produziu o álbum e vídeo In Case You Didn't Feel Like Showing Up. Para a turné, Al Jourgensen trouxe Atkins, Nivek Ogre e Chris Connelly.Também na turné estava Rieflin.
Depois de terminada a turnéc Atkins e Rieflin decidiram continuar a trabalharem juntos nasceu os Pigface, formação com muitos músicos experimentais.Trent Reznor foi um dos primeiros parceiros. As dezenas de colaboradores que gravam e tocam com o Pigface- M. Gira, Frank Black, Flea, Chris Connely, Trent Reznor, Lesley Rankine, Fuzz, Flour, Andrew Weiss, Paul Raven, Mary Byker, e Genesis P. Orridge, certrtificaram que cada álbum, e cada canção tenha um estilo diferente e único.
Mais tarde Rieflin, saiu do Pigface, deixando Atkins no comando.Todos os shows da turné dos Pigface primeiro foram gravadas em DAT (fita de áudio digital, tecnologia de gravação superior introduzida em meados dos anos 1980). Atkins reuniu
-as no álbum ao vivo Welcome to Mexico,1991. Reunir um bloco específico de musicos, ganhando permissão das editoras envolvidos foi difícil. Juntando-se ao longo do caminho para um show ou dois, membros dos Silverfish, Front Line Assembly, Devo, e GWAR.
Em 1992, a etiqueta de Atkins Invisible lança Fook, o segundo disco de estúdio. O line-up consistia em Atkins, Mary Byker (from Gaye Bykers on Acid), Ogre, Connelly, En Esch, Flour, Tucker, Raven, Lesley Rankine dos Silverfish, Rollins Band, Chris Haskett ,Andrew Weiss, Sean Joyce, e David Sims dos Jesus Lizard.
Os Pigface cresceram até alcançar o status de culto, entre os fãs mais dedicados das bandas de grandes editoras, alguns membros da imprensa começaram a se referir como um "supergrupo". Atkins manifestou opiniões contraditórias sobre o uso do termo. "Somos um "super grupo, não um bando de velhos dinossauros já rodado em tanques de oxigênio tentando recuperar glórias antigas desbotadas".
Atkins foi responsável por outros lançamentos, tanto pela percussão e produção de Genesis P. Orridge, fundador dos seminais Throbbing Gristle e Psychic TV, Jello Biafra Dead Kennedys, Flea Red Hot Chili Peppers, e as girl-popsters japonesas Shonen Knife.
De facto, a noção de uma porta giratória constantemente de músicos convidados indo e vindo, tanto no estúdio e no palco para criar um estilo que sempre vai mudando e evoluindo detém muita apelação, embora no caso dos Pigface, os resultados têm sido muito esquizofrênicos e casuais para viver a promessa. Enquanto álbuns como Gub eNotes Thee Underground,alcançaram o status de clássico, principalmente devido à força de canções como "Suck" e "Asphole", para não mencionar as contribuições a partir de praticamente todo mundo é na música industrial além de uma clara falta de coesão, de modo a fazer soar os Pigface de indefinível. Alguns vêem isso como uma virtude, outros um empecilho.
Com o sexto album intitulado Pigface 6 continuam a trilhar o caminho de jam band que forjou para si durante mais de duas décadas. Como sempre, a música é um amálgama dos músicos individuais estilos e gostos, que se juntam para criar o que é realmente uma colecção de faixas individuais bem trabalhadas, tudo com o líder Martin Atkins na poderosa percussão como a espinha dorsal que mantém tudo isto junto.