Den franchise der sidenhen bliver til New Jersey Devils starter i 1974 som Kansas City Scouts da NHL udvider ligaen med hold i Kansas City og Washington D.C.. Pga manglende tilskuere og generelt dårlig økonomi flyttes holdet i 1976 efter bare to sæsoner i Kansas til Denver og skifter navn til Colorado Rockies. Her gik det dog ikke meget bedre og allerede efter et par år florerer der rygter der sender holdet til New Jersey. NHL's ledelse nedlægger dog i første omgang veto mod en sådan flytning, men i 1982 offentliggøres det at flytningen vil finde sted og fra sæsonen 1982-83 er New Jersey Devils at finde i NHL. Rent geografisk bliver man nu placeret meget tæt på de to store New Yorker-hold, New York Rangers og New York Islanders.