Luther ziet de kerk als “de gezamenlijke Christenheid”, de gemeenschap der heiligen: communio sanctorum, congregatio spiritualis hominum (de spirituele gemeenschap van de mensen). Hij maakt onderscheid tussen de “communio interna et spiritualis” en de “communio externa et corporalis”. Dit laatste is een duidelijke reactie op de spiritualisten, die van de kerk als uitwendig lichaam niets willen weten. Luther vindt, dat deze scheiding “interna – externa” als vanzelf door het Evangelie wordt aangegeven, want het Evangelie werkt twee-zijdig: het wint de één, terwijl de ander wordt afgestoten (“Wie niet vóór Mij is, is tegen Mij”, zegt Jezus). De scheidslijn loopt niet via de grenzen van de uitwendige kerk, maar zij loopt daar dwars doorheen. Zij scheidt de ware gelovigen, de ware kerk van Christus, van de uiterlijke kerk af. Deze “inwendige” kerk is onzichtbaar. Luther drukt het zó uit: “populus spirituialis… vere populus Deï, renatus per Spiritum Sanctum” (herboren door de Heilige Geest). Elders heet het: “ecclesia est proprië congregatio sanctoprum et vere credentium, in qua Evangelium recte docetur et recte administrantur sacramenta” (de kerk is zuivere gemeenschap der heiligen en van de ware gelovigen, waarin het Evangelie op de juiste wijze wordt onderwezen en op de juiste wijze de sacramenten worden bediend). Dat deze kerk onzichtbaar is, betekent niet, dat zij niet werkelijk existeert. Want, zoals Christus, het hoofd van de kerk, nog verborgen maar toch werkelijk aanwezig is, zó is het ook met de kerk. Zij bestaat echt en werkt “virtualiter in Christo” en sticht waarachtige gemeenschap.
Duidelijk blijkt hierin, hoe Luther zich richt tegen de gangbare Rooms-katholieke opvatting van de kerk. Die leert, dat de kerk een genade-gemeenschap is. De genade ontvangt de kerk via de hiërarchische lijn, uitmondend in de paus. Duidelijk is ook, dat Luther niets moet hebben van de zogenaamde spiritualisten. Hij heeft hierbij vooral de doperse dwepers op het oog met hun zichtbare kerk. Ook zien we, hoe Luther in zijn kerkopvatting afwijkt van Augustinus. Wel neemt hij de onderscheiding tussen de zichtbare kerk en de ware kerk van de “bekeerden” van hem over, maar de praedestinatieleer (dat een mens “voorbestemd” is tot geloof), waar Augustinus van uit ging, vinden we bij Luther niet terug. Daarvoor was in de plaats gekomen: het in de geschiedenis werkzame Woord van God, die de “communio sanctorum” bouwt (de mens moet Gods Woord “aannemen” en komt dan in de “gemeenschap der heiligen” te staan). Daardoor omvat Gods genade niet alleen de enkeling, maar meer nog de hele gemeenschap, de communio. De enkeling neemt aan die genade deel binnen de communio en wordt daardoor niet alleen op God gewezen, maar ook op zijn zuster en broeder.
De kerk van Christus wordt zichtbaar aan en rondom de genademiddelen, de sacramenten. De uiterlijke orde van de kerk is onontbeerlijk ter wille van de ware kerk. Je hebt de buitenkant nodig ter wille van de binnenkant! Want, zegt Luther: koren wordt alleen op een akker aangetroffen, waar ook onkruid groeit. Zo is ook de ware kerk alleen dáár te vinden, waar de uiterlijke kerkgemeenschap goed en kwaad beide in zich bergt. Die uiterlijke gemeenschap is nodig ter wille van de Woordverkondiging. Het Evangelie vormt de brug tussen de onzichtbare en zichtbare kerk.
Uit ervaring wist Luther maar al te goed, dat de “congregatio vere credentium” (de verzameling van ware gelovigen) niet van huichelaars ontbloot was. Er zijn zelfs ongelovigen in de kerk, dat zijn de mensen in wie Christus niet handelt, Toch dacht Luther wel, dat God geen enkele stand (je had toen rangen en standen!) in de kerk zó verlaten had, dat Hij er niet toch nog enkele goeden in had aangesteld.