Il ne reste aucun vestige de l'église primitive érigée à Romainville au XIIIe siècle. Celle-ci était placée sous le vocable de saint Romain, évêque de Meaux au VIIIe siècle, et est à l'origine du nom de la ville. La construction d'un château au XVIIe siècle, accueillant les seigneurs du domaine, comme la famille de Ségur qui l'occupera au XVIIIe siècle, provoque un regain de piété au village. Une nouvelle église est construite sous la direction d'un grand nom de l'architecture, Alexandre Théodore Brongniart.
L'abbé Houël (1756-1823) est un homme important dans l'histoire de Romainville. Il est très respecté par les habitants du village dont il est à la fois le curé, depuis 1782, mais aussi le médecin. Il sera élu maire, en 1790, lorsque les paroisses sont remplacées par les communes au moment de la réorganisation du pays par les révolutionnaires.
Homme influent, l'abbé Houël, est soutenu par le marquis de Ségur, lorsqu'il décide de faire réaliser la construction d'une nouvelle église pour sa paroisse. Grâce à ses relations, le marquis obtient que les plans de ce nouveau bâtiment religieux soient dressés par l'architecte du roi, Alexandre Brongniart.
Après la Révolution, l'abbé doit quitter précipitamment la France et il se réfugie à Florence. Affichant ouvertement ses idées révolutionnaires et faisant preuve d'une grande libéralité dans l'exercice de ses fonctions religieuses, il est, à plusieurs reprises, interdit de séjour dans le duché de Toscane. Il décède à Florence, où il est inhumé dans le couvent de l'Annonciation. Avant de mourir, bien qu'exilé, l'abbé Houël a rédigé un testament dans lequel il lègue toute sa fortune à Romainville.
L'architecte français Alexandre Brongniart (1739-1813) est l'auteur de nombreux bâtiments néo-classiques parisiens. Il se fait connaître en travaillant à l'achèvement de l'École militaire, puis il construit le couvent des Capucins, aujourd'hui le lycée Condorcet, à Paris. Grâce à son intervention sur l'architecture de l'École militaire et des Invalides (1782-1792), il donne à ce quartier sa physionomie actuelle par le tracé de la place de Breteuil et des avenues alentour. Après la construction de l'hôtel de Monaco, rue Saint-Dominique (1774-1777), il obtient, avec à l'appui de M. de Montesquiou, la responsabilité du percement de la rue Monsieur, participant ainsi à une fructueuse opération immobilière. Il y réalise l'hôtel de Montesquiou (1781), puis sa propre demeure, au coin du boulevard des Invalides et de la rue Oudinot (1782), enfin, l'hôtel de Mademoiselle Bourbon-Condé (1785) considéré comme son chef-d'œuvre. Par ces travaux, Brongniart participe activement à la forte spéculation immobilière qui anime Paris à la fin de l'Ancien Régime, notamment dans le secteur des Invalides.
Passé la Révolution française de 1789, Brongniart multiplie les projets à l'attention du nouveau pouvoir. Son dessin proposé pour un palais de la Bourse séduit Napoléon Ier. Il réalise donc les plans de la Bourse de Paris, aujourd'hui plus communément nommée le Palais Brongniart. En tant qu'Inspecteur général en chef de la Deuxième section des Travaux publics du Département de la Seine et de la Ville de Paris, Brongniart se voit confier la conception du Père-Lachaise. Il en dessine les principales lignes en 1804. Alexandre Brongniart est inhumé dans ce cimetière qu'il a conçu et où l'on peut voir sa tombe dans la 11e division.
L'édifice, commencé en 1785, est inauguré le 20 décembre 1787 et placé sous la protection de saint-Germain, évêque d'Auxerre.
Comme toutes les constructions de Brongniart, la nouvelle église de Romainville est de style néoclassique, dressée sur un plan basilical très simple. La grande nef centrale, voûtée en berceau et plein cintre, se termine par un chœur carré de petite dimension avec une abside en hémicycle. Cette nef est flanquée de deux bas-côtés à plafonds horizontaux terminés chacun par une chapelle. Les trois cloches de l'église primitive sont réintroduites dans le clocher de Saint-Germain-l'Auxerrois mais, lors de la Commune, en 1871, elles sont fondues et mises à la disposition de la défense. Elles seront remplacées par quatre autres de plus petite dimension. Le tintement des cloches de Saint-Germain-l'Auxerrois présente la particularité d'être différent lors des enterrements selon le sexe, l'âge ou la qualité de la personne enterrée. Saint-Germain-l'Auxerrois renferme quelques antiquités intéressantes à plusieurs titres. Une vierge à l'enfant, en pierre polychrome, datée du XVIe siècle est probablement la pièce majeure de l'église. Placée dans le chœur, aux côtés des statues de saint Louis et de saint Joseph, son identification a été hasardeuse.
Au début du XXe siècle, la statue est placée sous le vocable de Sainte Geneviève bien que les attributs habituels de celle-ci (le cierge et la houlette) en soient absents. Une restauration, en 1978, permet de découvrir la présence d'une couronne puis, sous la draperie du manteau, d'un pied d'enfant. Il s'avère qu'à l'origine, la statue était une Vierge à l'Enfant. Elle a retrouvé aujourd'hui son aspect d'origine.
De la même époque, XVIe siècle, Saint-Germain-l'Auxerrois possède des stalles en chêne. Conformément à la tradition, ces stalles ont été placées de chaque côté du chœur. En effet, à l'origine des célébrations religieuses, le chœur était la partie de l'édifice où se déroulaient les cérémonies, autour de l'autel, et où se tenait le clergé assis sur des stalles. Plus récente, une autre Vierge à l'Enfant, située dans la chapelle du collatéral, datée des XVIIe-XVIIIe siècles, semble être la réplique d'une œuvre de d'Edme Bouchardon (1698-1762), auteur de la statue équestre de Louis XV à Paris. Nous avons déjà des traces de ce sculpteur en Seine-Saint-Denis puisqu'en l'église Saint-Sulpice d'Aulnay-sous-Bois, deux anges et une couronne ont été attribués à l'école d'Edme Bouchardon. Dans la chapelle ouest, ouvrant sur la sacristie, une statue de l'Enfant Jésus à douze ans à été offerte par la mère du sculpteur Nicolas Aublet (mort en 1860).
Le séjour de la famille de Ségur dans le château de Romainville a été important pour la construction mais aussi l'entretien du bâtiment. Récemment, une sépulture a été retrouvée à gauche du chœur. Si, lors de son déblaiement, le tombeau était vide, certains membres de la famille de Ségur y ont probablement été inhumés, comme le suggère l'épitaphe de la dalle funéraire fermant la crypte. Fortement endommagée, sa restauration permet d'y lire l'inscription suivante : « Cy gist très haute et très puissante dame Louise-Anne-Magdeleine de Vernon, épouse du très haut et très puissant seigneur Philippe-Henri marquis de Ségur. »
La célèbre femme de lettres, la comtesse de Ségur, offre chaque année un trousseau à la jeune fille la plus vertueuse du village, élue lors de la fête de la Rosière. Décédée à Paris en 1774, il semble que la comtesse de Ségur ait été inhumée dans l'église Saint-Germain-l'Auxerrois ultérieurement. Parmi les objets liturgiques de l'église de Romainville, la paroisse conserve un ostensoir richement orné datant du Premier Empire et dont la forme, en couronne de rayons, est apparue au XVIe siècle. La paroisse conserve également plusieurs manuscrits de chants grégoriens du XIXe siècle. La partition de l'un deux, datée de 1820, est « écrite par Chandora, basse de Notre-Dame de Paris ». Un autre manuscrit a été découvert par l'abbé Grisel. Écrit en grégorien, il contient le texte de l'office de saint Romain, écrit pour la consécration de Saint-Germain-l'Auxerrois et chanté à cette occasion en 1800.
Durant la période de l'entre-deux-guerres, Louis Dory, issu de l'une des familles les plus anciennes de Romainville puisque l'un de ses ancêtres a été conseiller municipal dès 1794, finance treize vitraux pour l'église de sa paroisse. Ils sont réalisés par le maître verrier Guevel.
Le 18 avril 1844, le bombardement allié, visant la gare de Noisy-le-Sec, atteint Romainville détruisant un grand nombre de maisons ainsi que tous les vitraux de l'église.
Après la Libération, Guevel et Dory s'associent pour financer la reconstruction des verrières. Celles-ci relatent les principaux thèmes chrétiens mais aussi des épisodes de la vie de la paroisse. Ainsi, on peut y voir représentée la parabole du Bon Pasteur des Évangiles de Jean et de Luc mais aussi l'abbé Houël rédigeant son testament en faveur de Romainville. Guevel a réalisé ces travaux dans un style que l'on peut qualifier de naïf et populaire.