Los Spireites parecían encaminarse a conseguir los tres puntos después de tomar una ventaja temprana en el minuto 12, cuando el desafortunado Omari Patrick desvió el centro bajo de James Berry más allá de su propio portero Joe Murphy.
Dilan Markanday casi anotó el segundo poco después, al internarse en el área antes de ver un disparo desviado que se fue apenas desviado, mientras que Murphy volvió a negarle el gol momentos después desde corta distancia.
Tranmere ofreció poco antes del medio tiempo, aunque el tiro libre de Charlie Whitaker fue atrapado cómodamente por Zach Hemming y el remate de Nathan Smith fue anulado por fuera de juego.
Los locales mejoraron tras el descanso, con un cabezazo de Smith desde corta distancia antes de que Chesterfield volviera a amenazar con el remate de Berry y el disparo de Ronan Darcy, que Aaron McGowan despejó en la línea.
Pero en el tiempo añadido, Jennings reaccionó más rápido dentro del área para rematar a corta distancia, rescatando un valioso punto para los Rovers y frustrando a los visitantes.