Au début du XIXe siècle, les enseignements de base étaient vraisemblablement dispensés aux garçons de Connerré par le curé : en 1834, il est dit que l'école primaire est installée dans un bâtiment du presbytère. Il faut attendre 1847-1848 pour que la commune procède à l'acquisition de maisons à l'entrée du faubourg du Lion pour y installer l'école communale. Le projet d'appropriation est dressé par l'architecte-voyer de l'arrondissement David. L'histoire de l'école Jean Rostand est celle d'une école toujours trop petite au vu de la croissance de la population de Connerré, elle sera sans cesse agrandie aux XIXe et XXe siècles.

Dès la 2e moitié du XIXe siècle, l'école de garçons, qui sert également de mairie, est déjà jugée trop petite et vétuste. En 1874, la municipalité fait procéder à sa démolition complète pour en construire une nouvelle plus spacieuse, selon les plans de l'architecte Pascal Vérité. La première pierre est posée le 8 avril 1875, les travaux sont terminés et acceptés début 1876. La nouvelle école comprend la grande maison d'habitation à trois travées et à toiture brisée (dont une pièce est réservée à la mairie) ainsi que les deux salles de classe accolées, toujours visibles aujourd'hui.

Rapidement, les bâtiments s'avèrent de nouveau trop exigus : en 1881, le conseil municipal décide d'agrandir le logement dans une des classes et de construire deux nouvelles salles de classe et un préau dans la cour. Toutefois, les ressources nécessaires manquent et l'agrandissement de l'école de filles est jugé prioritaire, les travaux sont donc ajournés. On se contentera, en 1891, de convertir la salle de mairie en classe, la mairie étant transférée dans un local provisoire. En 1931, une quatrième classe de garçons doit être ouverte à l'école de Connerré. L'architecte départemental Paul Grosch, puis son successeur Cagnault, sont sollicités pour étudier le projet d'une surélévation du bâtiment des classes, mais le devis est trop élevé. Il faut attendre 1938 pour que la commune achète la maison voisine, actuel n°18 rue de la Gare (maison reconstruite en 1873 d'après les matrices cadastrales) pour loger les instituteurs adjoints.

Pendant la Seconde guerre mondiale, de nouvelles classes, peut-être provisoires, sont édifiées dans la cour de l'école et payées par le service des Réfugiés, mais détruites par un incendie le 15 novembre 1947. Le projet de reconstruction d'un bâtiment à usage de salles de classe, vestiaire, cuisine et réfectoire est confié par la commune à l'architecte Raymond Baroin. Les travaux, divisés en six lots, sont lancés en 1949 (Louveau et Corbin pour la maçonnerie, Fouquet pour la charpente) et inaugurés le 15 juillet 1950. La mixité n'est mise en place dans les écoles primaires de Connerré qu'en 1963. Après avoir compté jusqu'à six classes, l'école Jean Rostand en compte aujourd'hui quatre : elle accueille les élèves du CE2 au CM2. Le préau actuel a été construit dans les années 2010.