La situation insulaire de l'Ile-Saint-Denis y rend tout extraordinaire et la Seine en détermine la vie sociale et économique. Ce grand croissant de terre, enserré entre les deux bras du fleuve, aux rives champêtres qui inspirèrent Manet et Sisley, a longtemps été assimilé à Saint-Denis. Or, si l'ancien village dépendait effectivement de la juridiction des abbés de Saint-Denis, l'Ile-Saint-Denis a toujours été un village puis, une commune, indépendante, ayant sa propre administration. L'Île-Saint-Denis est, en France, la seule île fluviale qui soit une entité communale.
Jusqu'au XVIIIe siècle, les habitants de l'Ile-Saint-Denis ne possèdent ni paroisse, ni chapelle. Ils dépendent de la paroisse Saint-Marcel à Saint-Denis. Cette situation rend fort incommode l'observation du culte car la chapelle est éloignée et le passage ne peut s'effectuer que par voie d'eau : messe dominicale, décès ou tout autre cérémonie demeurent impossibles sans bateau. Après avoir présenté plusieurs requêtes, les habitants de l'île reçoivent, en 1620, l'autorisation du cardinal de Retz de construire une chapelle qui, dans un premier temps, serait une sorte « d'annexe » de la paroisse Saint-Marcel. Cette nouvelle chapelle est desservie par le curé de la paroisse mère. Cet incontestable progrès présente rapidement des inconvénients et le cardinal se résout à transformer cette chapelle en église paroissiale. Un pasteur est désigné pour la gouverner en permanence et, en juin 1668, l'ancienne « annexe » devient officiellement une cure à part entière sous le vocable de Saint-Sébastien.
Cette première église de l'Ile-Saint-Denis, l'église Saint-Sébastien, est d'une rare exiguïté. Le 5 octobre 1807, la municipalité de l'Ile-Saint-Denis vote à son budget une subvention pour acheter du matériel et effectuer des réparations dans l'édifice afin d'y exercer le culte dans de meilleures conditions, mais aussi pour permettre aux Ilodionysiens de s'y réfugier avec meubles et bestiaux lors des crues importantes de la Seine.
Le 7 janvier 1826, le conseil de fabrique (l'ensemble des personnes ayant en charge l'administration des revenus d'une église affectés à son entretien) constitué des édiles du village, dont le maire M. Descoins, et Monsieur Butigier, curé de l'Ile-Saint-Denis et de Saint-Ouen, se réunit. À cette occasion, force est de constater le piteux état des ornements et du matériel de l'église, rendant impossible toute cérémonie religieuse digne de ce nom. La cure est dans un dénuement complet. Le préfet de la Seine lui-même attire l'attention du ministre de l'Intérieur sur « l'église de la commune de l'Ile-Saint-Denis (qui) est l'une des plus pauvres en mobilier, et le peu d'ornements qu'elle a pour la célébration du culte est dans un état de délabrement dont l'autorité et les fidèles s'affligent avec raison ». Le préfet demande à ce que l'on porte secours à cette paroisse. Le ministre de l'Intérieur répond avec bienveillance à cette requête et fait mettre à la disposition de la cure de l'Ile-Saint-Denis la somme demandée.
Mais les réparations sont insuffisantes. L'augmentation de la population exige l'agrandissement de l'édifice. Cet agrandissement est difficile car « plusieurs parties sont ébranlées jusque dans leurs fondements, d'où la nécessité de démolir et de construire une nouvelle église. » En 1830, la reconstruction totale de l'édifice est décidée. Comme la vétusté du bâtiment présente un réel danger, le préfet prescrit la démolition immédiate du clocher et la pose d'étais sur les autres parties de l'église. La première pierre du nouveau bâtiment de culte est posée le 18 octobre 1830. Malgré les subventions accordées, les frais de reconstruction sont très élevés. Par mesure d'économie, les matériaux de l'ancien édifice servent à la construction du nouveau, sous la direction de l'architecte Guénepin. Le 13 septembre 1832, la nouvelle église est inaugurée.
En 1859, moins de trente années après l'inauguration du nouvel édifice religieux, l'église se révèle déjà trop petite. On pense évidemment à un bâtiment plus vaste, mais pour commencer, on se contente d'apporter quelques réparations. Cela ne peut plus durer ! Les paroissiens sont mécontents. La population est passée de 214 personnes en 1801 à 1730 en 1881. Il faut réédifier une nouvelle église. Une étude est entreprise pour évaluer la dépense. Chacun participe : la commune, le département, le ministre des cultes, l'archevêché de Paris et... les paroissiens. Une importante cérémonie inaugure la nouvelle église, le 14 septembre 1884. Elle prend le vocable de Saint-Pierre, peut-être à cause des pêcheurs qui constituent alors l'essentiel de la population de l'Ile-Saint-Denis. L'édifice se présente selon un style néo-roman comme la mode du retour au Moyen-âge le préconise alors depuis la construction de l'église Saint-Denis-de-L'Estrée (1864 à 1867) par Viollet-le-Duc (alors que ce dernier dirige la restauration de la Basilique cathédrale de Saint-Denis).
La façade de l'église Saint-Pierre ouvre sur la Seine. L'étroitesse de ses ouvertures, son clocher carré percé de baies jumelles coiffées d'un arc en plein cintre, sont autant d'éléments explicites de ce retour au Moyen-âge. La batellerie, omniprésente dans la vie des Ilodionysiens, l'est aussi dans le lieu de culte des paroissiens. Ainsi, les fonts baptismaux de l'église Saint-Pierre réalisés en bronze se présentent sous la forme de la proue d'un bateau. Un ex-voto renfermant un bateau a été offert à la paroisse, au début du XXe siècle, par un batelier belge en reconnaissance d'un vœu exaucé. Même si la batellerie connaît un déclin certain, l'église Saint-Pierre demeure symboliquement un lieu de culte proche des mariniers.