A competição de estreia teve tanto sucesso que despertou interesse em muitos outros países para a segunda Copa do Mundo da FIFA. Assim, foi necessário pela primeira vez organizar uma fase de eliminatórias com o objetivo de classificar 16 das 32 seleções que desejavam jogar na Itália em 1934.
O Uruguai, campeão da primeira Copa do Mundo da FIFA, negou-se a participar por causa das inúmeras ausências europeias em 1930. Como Bolívia e Paraguai também ficaram fora, Argentina e Brasil chegaram à Itália sem precisarem jogar as eliminatórias.
Alguns dos confrontos para decidir quem representaria a Europa foram muito acirrados. Até a Itália, que, pelas regras atuais, estaria classificada automaticamente por ser o país-sede, teve de jogar contra a Grécia, vencendo por 4 a 0 no estádio San Siro. A seleção foi poupada do trabalho de viajar a Atenas para a segunda partida, pois a Grécia havia desistido da competição, desanimada com a derrota.
Áustria e Hungria eram duas das seleções mais fortes da Europa na época e foram colocadas no mesmo grupo. As duas conseguiram se classificar sem ter de se enfrentar, eliminando a Bulgária. A seleção do Estado Livre da Irlanda (que passou a se chamar República da Irlanda em 1937) foi eliminada pela Bélgica por um gol de saldo.
Os Estados Unidos, que decidiram participar em cima da hora, tiveram de enfrentar o México em uma eliminatória já em Roma. Os americanos venceram, mas a campanha chegou ao fim já na estreia com a derrota por 7 a 1 para a Itália.