Après la décision de 1962 de sortir les bandes sonores de films en tant qu'albums, Elvis a eu peu d'occasions d'enregistrer du matériel régulier. Quand il le faisait, c'était généralement parce que le film sur lequel la bande sonore était basée manquait un peu de chansons pour un album complet. Les albums de bandes sonores ont continué à bien se vendre pendant un certain temps, atteignant leur apogée lorsque « Roustabout » a été numéro 1 aux États-Unis en 1964. Mais Elvis avait maintenant une nouvelle concurrence venue d'Angleterre sous la forme des Beatles et des Rolling Stones, qui n'étaient pas contraints et qui ont revitalisé la scène de la musique pop après sa « période Bobby ». La seule personne à avoir jamais travaillé avec Elvis, les Beatles et les Rolling Stones était Roy Orbison. Sa carrière précoce a également atteint un sommet en 1964 avec « Oh, Pretty Woman ». Roy est souvent crédité comme l'un des liens clés qui ont maintenu le rock 'n' roll en vie entre les premières périodes d'Elvis et des Beatles, même s'il était principalement un chanteur de ballades.

L'une des rares exceptions à l'approche de la bande sonore de film est survenue en 1966, lorsqu'Elvis a enregistré son deuxième album complet de musique gospel, « How Great Thou Art ».
En 1965, Elvis a eu un single numéro 1 au Royaume-Uni avec « Crying in the Chapel ». Le single a également été un succès numéro 3 aux États-Unis. La chanson avait été enregistrée en 1960 mais était restée inédite. Outre les deux singles de Roy Orbison « It’s Over » et « Oh, Pretty Woman », en 1964, « Crying in the Chapel » était le seul numéro 1 britannique d'un chanteur masculin américain depuis « (You’re the) Devil in Disguise » d'Elvis en 1963. Ce fut le résultat direct de la domination soudaine des groupes britanniques de l'époque, qui créditeraient tous Elvis d'une influence. John Lennon dirait : « Avant Elvis, il n'y avait rien. » Le succès de « Crying in the Chapel » a donné à Elvis les munitions dont il avait besoin pour proposer un deuxième album gospel à RCA. Pour une fois, l'économie a favorisé le désir d'Elvis de faire quelque chose de plus créatif que ce qui était proposé par les bandes sonores de films, alors RCA a accepté.
L'album est sorti en 1967 et a finalement valu à Elvis un Grammy en mars 1968, peu après que l'album ait été certifié disque d'or. En 2010, l'album a été promu au statut multi-platine. Aux débuts du rock 'n' roll, les chanteurs de rock 'n' roll étaient ignorés par les Grammys, du moins en ce qui concerne les victoires. Comme toujours, les instincts musicaux d'Elvis s'étaient avérés corrects, mais il lui restait encore quelques années de contrats cinématographiques à honorer.
Les chansons de « How Great Thou Art » :
- Que Tu es Grand
- Dans le Jardin
- Quelqu'un de plus grand que toi et moi
- Plus loin
- Reste avec moi
- Sans Lui
- Si haut
- Où pourrais-je aller sinon au Seigneur
- Bientôt
- Si le Seigneur ne marchait pas à mes côtés
- Continue
- Où personne ne reste seul
- Pleurer dans la chapelle


