Als meeste genrefictie volgen detectiveverhalen een vaste formule. Ze werden voor het eerst geïntroduceerd in de Engelstalige wereld door Edgar Allan Poe, die wordt gecrediteerd met het schrijven van het eerste detectiveverhaal, "De moorden in de Rue Morgue." De ideeën over detectiveverhalen zijn im Laufe der jaren geëvolueerd sinds Poe, maar ze hebben vier essentiële ingrediënten: een moord, een detective, meerdere verdachten en de oplossing van de centrale puzzel in het verhaal.
Detectiveverhalen bevatten ten minste één moord, die aan het begin van het verhaal plaatsvindt. De "hoe te" van de moord — of het nu is door schieten, steken, vergiften, verstikken, verdrinken of een andere techniek — is aan de schrijver om te bedenken. Geen moord is echter perfect. De moordscène werkt het best in een "gesloten ruimte" zoals een landhuis, een treinstel of een college. Het dient ook als de locatie van meerdere aanwijzingen voor de scherpe ogen van de detective. Afhankelijk van de plot, kunnen er meer moorden plaatsvinden gedurende het verhaal, maar het moet met één beginnen.
Er zou geen detectiveverhaal zijn zonder een detective. Na het afronden van het boek onthoudt de lezer vage basisprincipes van de plot, en de detective — als hij met zorg getekend is — springt eruit. De detective is essentieel de held (of heldin) van een detectiveverhaal. Hij of zij kan een amateur zijn, zoals Sherlock Holmes, of een professionele detective van de politie. Echter, de regels van het genre dicteren dat de detective een buitenstaander moet zijn. Hij of zij mag niet verwant zijn aan de verdachte of de slachtoffers. Daarnaast moet hij of zij een scherp oog voor details hebben en een passie voor logica.
Er zijn meerdere verdachten die zich materieel voordelen van de dood van het slachtoffer of die het overleden persoon tegenstrijdig zijn om een of andere reden. Anders hebben de verdachten, inclusief de criminelen, geen geloofwaardige motief om de misdaad te plegen. Naarmate het verhaal vordert, moet de schrijver aanwijzingen geven over de identiteit van de crimineel. Een scherpe lezer kan daarom de crimineel identificeren voordat de schrijver hem aan iedereen onthult. De schrijver kan valse sporen planten om de naieve lezer te misleiden, wat deel is van het plezier van het schrijven van detectiveverhalen. Het verhaal kan ook een kat-en-muisspel bevatten tussen de detective en de crimineel waarbij de laatste probeert de eerste te misleiden of zelfs te doden.
Detectiveverhalen worden meestal opgelost met de identificatie van de crimineel. Echter, er zijn regels over de oplossingsmethodes. De oplossing moet voortvloeien uit aanwijzingen die aan de lezer gepresenteerd worden, en de identiteit van de crimineel moet ten minste in retrospect duidelijk zijn. De oplossing berust op redenering en logica. Toevalige oplossingen en oplossingen met hulp van bovennatuurlijke krachten en spiritistische zittingen zijn niet toegestaan. Het is ook irrespectvol tegenover de lezers om de detective de crimineel te laten zijn. Aan het einde van het verhaal kan de schrijver de crimineel doden of op andere wijze uit de omgeving verwijderen en de verdachten in vrede laten verder leven.