Na década de '60, a PLAAF(Força Aérea do Exército de Libertação Popular) notou que as ameaças ocidentais agora atacavam em envelopes de voo totalmente fora daquele que os caças J-7(MiG-21F13 copiado) podiam cobrir. Para isso, foi abera uma concorrência entre a Chengdu e a Sheniyang para um caça-interceptador para combrir altitudes maiores e dotado de mísseis, bombas, casulos de foguetes e tanques extras. Enquanto o design da Chengdu se provou uma falha pois a China não tinha motores confiáveis de projeto local.
Já a Sheniyang veio com um caça maior, usando 2 motores do J-7 e uma entrada de ar no nariz(igual a do caça menor). A necessidade de se instalar um radar muito mais potente, ideal para a tarefa de interceptação, fez com que as entradas de ar fossem deslocadas para as laterais enquanto o nariz recebeu um radome sólido a partir da versão J-8B. Dificuldades políticas e técnicas atrasaram o desenvolvimento do avião(que lembra o Sukhoi Su-15) até que ele finalmente voou 1979.
O lote inicial(chamado de J-8I) compreendeu os J-8A e B. A versão C seria uma adaptação do J-8B com radar americano AN/APG-66, mas foi cancelada após embates na praça da Paz Celestial. Usando tecnologias locais, o J-8D nasceu como um aperfeiçoamento da variante B: sonda de reabastecimento de voo, novos aviônicos, novo radar KLJ-1 e sistema de navegação tática. A versão D começou a voar em 1990.
