Formados em 1967 em Cleveland, por Jimmy Fox (bateria), Tom Criss (baixo) e o legendário Joe Walsh (guitarra e voz), se lançaram ao mundo com o "Yer Album". Depois Dale Peters entra no lugar de Criss e a banda, principalmente Walsh, chama a atenção de Pete Townshend (guitarrista do Who) que os convida para abrir a tour do "Who's Next". Nisso a banda já estava em seu terceiro álbum, "Thirds".
Joe ainda lançaria mais três discos com a Gang antes de partir para carreira solo em 73. Anos mais tarde, ele se juntaria aos Eagles. Para substituí-lo foi colocado o guitarrista Don Troiano na guitarra e Roy Kenny (voz). Com esse 'line up' lançam "Passing Thru". Mas logo, Troiano deixa a banda e no seu lugar entra o excelente Tommy Bolin. Gravam mais dois álbuns e abrem para o Deep Purple.
Em 74, insatisfeito com o direcionamento musical do Deep Purple no álbum Stormbringer, o guitarrista Ritchie Blackmore deixa a banda e o tecladista Jon Lord convida Bolin para de juntar ao Purple para o "Come Taste The Band". Em 75, Bolin anuncia sua saída em definitivo e o James Gang acaba.
Fox e Peters ainda tentam um retorno com os músicos Bubba Keith e Dick Shack, mas não se passava de uma Farewell Tour, lançando apenas mais um disco. Em 76, coincidentemente com o Deep Purple, o James Gang também se desfaz. Bolin que já tinha dois discos solos morre de overdose, no dia 04 de dezembro de 1976. Joe Walsh, cada vez mais envolvido com os Eagles, demonstra que se torna cada vez mais difícil uma possível volta.
