El testimonio más antiguo de producción musical persiste en los instrumentos y en las representaciones que han sobrevivido. En la Edad de Piedra, seres humanos perforaron huesos de animales e hicieron agujeros dactilares para fabricar silbatos y flautas. Algunas pinturas de las cavernas paleolíticas parecen mostrar instrumentos musicales que están siendo tocados. Flautas de cerámica, cascabeles y tambores son comunes en la era neolítica; en Turquía, pinturas rupestres del sexto milenio a.C. muestran a personas tocando el tambor para los bailarines, para la caza o para estimular el juego. Tales imágenes nos proporcionan el único testimonio acerca del papel desempeñado por la música en estas culturas. Cuando los seres humanos aprendieron a trabajar el metal, en la Edad del Bronce (cuyo inicio se produce en el cuarto milenio a.C), fabricaron instrumentos de metal, incluyendo campanas, cascabeles, platillos, sonajeros y cornos. Los instrumentos de cuerda punteada aparecieron aproximadamente en la misma época, como lo muestran las piedras talladas; los propios instrumentos estaban hechos de materiales perecederos y pocos ha perdurado.
Aun cuando podamos aprender acerca de algunas facetas de las culturas musicales prehistóricas a partir de las imágenes y vestigios arqueológicos, nuestra comprensión se ve severamente limitada por la falta de todo testimonio escrito. La invención de la escritura, que marca el fin de la era prehistórica, hizo posible un tipo nuevo de evidencia y es con estos documentos escritos con los que se inicia propiamente la historia de la música.