Se dagli studi degli archeologi, e in particolare da quelli del Ridola, si è potuto fare una ipotesi attendibile sull'orgine della città, molto scarsi sono gli elementi a disposizione per spiegarne l'origine del nome. Ignoto è il nome del villaggio che formò il primo nucleo e del popolo che lo abitò. Nei tempi storici fu detta Mateola, Mathera, Materia e finalmente Matera. I romani usarono il nome di Mateola e Plinio chiama Mateolani gli abitanti. Il Sarra avanza l'ipotesi che il suo nome sia stato Matera fin dall'origine, partendo dalla nozione che i nomi di regione, di fiumi, ecc. sono i più antichi che si conoscono e sono termini di indole generale. Molti nomi geografici avrebbero la radice di Mata o Meta con il significato di "mucchio", cumulo di qualunque cosa, anche di sassi ovvero sasso di figura conica o piramidale, monte, collina, poggio ed anche bosco, selva con passaggio semantico della parola "monte"; per cui il nome geografico Matera suonerebbe "altura, cumulo di sassi, sasso di forma conica o piramidale". Il nome sarebbe stato importato da un popolo emigrato dal bacino africano del Mediterraneo, anteriormente all'arrivo degli indoeuropei. Il Cely Colaianni parla di Mateola, antica città iapigia accanto alla quale scorre "una fossa cavata dai torrenti" che i Greci dissero Mataios olos (vacuo tutto) donde il nome di Mataia ole (Mateole). Per altre antiche tesi Mathera deriverebbe dallo ionico Mather (Madre), la madre terra che ai figli dispersi apprestò il rifugio delle grotte; o da Meta oros (presso, accosto al monte); oppure da Mater eris (madre molto ricca). Un'etimologia, molto fantasiosa accettata nel passato, fu quella derivante dalla fusione delle prime tre lettere della città di Met(aponto) ed Era(clea) avendo, secondo la leggenda, accolto i profughi delle due città greche dopo le loro distruzioni. Secondo una recente proposta dell'Alessio il toponimo deriverebbe da materia che altro non sarebbe che il latino "materia-ae" con il significato di legname, rifacendosi all'antica presenza nella zona di un ricco patrimonio boschivo, da tempo scomparso per un massiccio e incondizionato sfruttamento.