A Mesquita de Al-Aqsa situa-se na cidade de Jerusalém, mais concretamente na área da Cidade Antiga, na parte sul do Haram al-Sharif (o "Nobre Santuário"), terceiro local sagrado para o islão, depois de Meca e Medina (o judaísmo designa este espaço por Har ha-Bayit, Monte do Templo). É a maior mesquita de Jerusalém, tendo capacidade para receber cerca de cinco mil pessoas.
O nome Mesquita de Al-Aqsa traduz-se como "a mesquita distante" e alude a uma passagem do Alcorão na qual se descreve uma viagem nocturna do profeta Muhammad (Maomé) desde Meca à "mesquita distante" (al-masjid al-aqsa). Esta viagem é conhecida como Isra e embora não seja mencionada no Alcorão o nome de Jerusalém, as tradições islâmicas posteriores identificaram o local como o Monte do Templo em Jerusalém. De acordo a visão islâmica, a partir deste ponto Muhammad ascendeu ao céu (a Miraj) onde, dialogou com profetas como Moisés antes de se encontrar com Deus.
A estrutura actual da mesquita é no essencial do século XI. A planta corresponde a de uma basílica com uma nave central ladeada por seis naves laterais. Não possui o habitual pátio das mesquitas, onde se realizam as abluções. A cúpula do edíficio está folheada a prata.
A mesquita foi mandada construir pelo califa omíada Abd al-Malik ibn Marwan (quem também ordenou a construção da Cúpula da Rocha), no final do século VII. Sobre o local onde foi construída já existia uma pequena mesquita do tempo do califa Omar. Em 705, no tempo do califa al-Walid, a mesquita já se encontra pronta.
Em 748 um sismo destruiria a mesquita, que foi reconstruída pelos califas abássidas, al-Mansur e al-Mahdi. Um novo abalo de terra em 1033 danificou de novo a estrutura, que foi reconstruída dois anos depois pelo califa fatímida al-Zahir.
Durante o período do reino de Jerusalém, a estrutura serviu como palácio real e mais tarde como quartel general dos Cavaleiros Templários. Quando Saladino conquistou Jerusalém o espaço retornou às suas funções de mesquita. Saladino ofereceu à mesquita um mihrab (nicho das orações) ricamente decorado, assim como um minbar (púlpito) de madeira de cedro.
Entre 1938 e 1942 a mesquita foi alvo dos últimos grandes trabalhos de restauração. O italiano Benito Mussolini ofereceu colunas de mármore de Carrara. Em 1969 um fanático judeu lançou fogo à mesquita, provocando grandes danos, como a destruição do minbar doado por Saladino .
Esta mesquita, bem como a Cúpula da Rocha, tornou-se um dos símbolos do movimento nacionalista palestiniano. Quando o estado de Israel conquistou Jerusalém Oriental em 1967, procedendo à reunificação da cidade, a administração da mesquita continuou nas mãos dos muçulmanos.