Carcariass foi criada em 1995, em França. O nome da banda vem de Carcharodon Carcharias, o nome latino para o grande tubarão branco. Os músicos do grupos são franceses e suíços.
Em 1995 foi gravada a primeira demo da banda. Esta demo de 20 minutos proporcionou à banda algum reconhecimento e alguns concertos para a banda italiana Sadist.
Em Fevereiro de 1997 é lançado o primeiro álbum, Hell On Earth.
Em Setembro do ano seguinte é lançado o segundo álbum, Sideral Torment.
Killing Process, o terceiro álbum, foi lançado em 2002. Este álbum contou com inúmeros concertos de promoção.
O grupo tem desempenhado na Europa, com grupos como Cradle of Filth, Impaled Nazarene ou Alastis.
Em Janeiro de 2004 o guitarrista Jérome Lachenal é contratado como segundo guitarrista.