El delantero, que se unió a los Gunners en un acuerdo por £60 millones el mes pasado, abrió el marcador en el octavo minuto cuando remató tras un pase de Gabriel Martinelli.
Fue su primer gol en su sexta aparición con el club y podría haber marcado un segundo justo antes del descanso cuando Mikel Merino lo filtró, pero el portero del Port Vale, Joe Gauci, le negó el gol.
Los anfitriones, que ascendieron a la League One al final de la temporada pasada, lucharon bien contra sus oponentes de la Premier League y a veces les causaron problemas con jugadas a balón parado.
Aunque el juego permaneció 1-0, siempre tuvieron la oportunidad de empatar, y eso casi llegó a falta de 15 minutos para el final, cuando el suplente Devante Cole remató desde lejos apenas por encima del arco.
Pero Leandro Trossard anotó en el último momento para asegurar el lugar del Arsenal en la siguiente ronda, donde recibirá a su ex club, el Brighton.
Los Gunners empiezan con paso firme en su lucha por la Copa EFL
El Arsenal ha ganado un récord de 14 Copas FA, pero ha ganado la Copa EFL (anteriormente Copa de la Liga) sólo dos veces, en 1987 y 1993.
Estuvieron cerca la temporada pasada, llegando a las semifinales, donde fueron humillados 4-0 en el global por el eventual campeón, el Newcastle.
Con una buena profundidad de plantilla tras su fortalecimiento del verano, se imaginarán que tienen posibilidades de al menos repetir esa racha hasta los últimos cuatro esta temporada.
En este partido el aspecto fue diferente, con Arteta realizando nueve cambios respecto del empate 1-1 del domingo con el Manchester City.
Eso quizás jugó un papel en sus dificultades para conseguir un segundo gol después del temprano gol inicial de Eze, y a pesar de todo su dominio de la pelota, no crearon demasiadas oportunidades antes de que el suplente Trossard asegurara que no habría un drama tardío.
Eze estará encantado de comenzar con el pie derecho tras regresar al club, pero Mikel Arteta cree que el fichaje de 60 millones de libras tiene más para ofrecer.
«Jugó muy centrado contra un equipo súper compacto por dentro. No es fácil encontrar espacios, pero es muy hábil con el balón», dijo Arteta.
«Necesita jugar un poco más de tiempo con esos muchachos para entender los tiempos, especialmente las cosas que necesita hacer y luego acciones como esa serán más consistentes y mejores para nosotros.
«En general muy bien, aunque creo que todavía queda mucho por dar».
No fue una exhibición memorable del Arsenal, pero hicieron el trabajo, con el aspecto positivo adicional de que Bukayo Saka disputó más de 60 minutos mientras recupera su forma física completa después de los problemas en los isquiotibiales.
¿Qué será lo próximo para estos clubes?
El Arsenal regresa a la acción de la Premier League el domingo 28 de septiembre (16:30 BST) cuando viaje a Newcastle, mientras que Port Vale visitará a Barnsley en la League One el sábado 27 de septiembre (15:00 BST).