De vroegst bekende tempelstructuren in het Indiase subcontinent dateren uit de late Harappa-periode (ca. 1900–1300 v.Chr.) en zijn geassocieerd met de Indusvallei-cultuur. De opvallendste voorbeelden zijn uitgegraven bij Mohenjo-daro (in het huidige Sindh, Pakistan), waaronder het zogenaamde "Great Bath"-complex en vuuraltar-platforms die ritueel gebruik suggereren. Deze zijn echter geen tempels in de latere Hindoe-sense.
Vrijstaande steentempels gewijd aan Hindoegoden verschijnen veel later, tijdens de Gupta-periode (4e–6e eeuw n.Chr.), met vroege voorbeelden bij Sanchi (Tempel 17), Deogarh (Dashavatara-tempel), en Bhitargaon. De Harappa-structuren vertegenwoordigen de vroegste sacrale architectuur in de regio, maar de continue tempeltraditie begint in de vroege middeleeuwen.