Hijo de una familia respetada, nació en 1540, en la ciudad castellana de Medina del Campo. Era uno de los nueve hijos de un matrimonio de ascendencia judía, recientemente convertidos al cristianismo.

Ingresó al Colegio de la Compañía de Jesús de su ciudad en 1551; a la que cuatro de sus hermanos se unieron sucesivamente. Un año después, a la edad de doce años ingresó al noviciado de Salamanca. En 1559, contando con 19 años, pasa a Alcalá de Henares en cuya prestigiosa Universidad realizó sus estudios de Teología, Sagradas Escrituras y Derecho Canónico, así como los de Derecho Civil, Ciencias Naturales e Historia.

Desde 1566, cuando se inician las primeras misiones jesuíticas en América, el Padre Acosta expresa su deseo de participar en ellas. De modo que en 1571, cuando contaba 31 años de edad, es destinado al Virreinato del Perú; propiamente en las misiones de los Andes.

En 1571 fue a Cuzco como visitante de la universidad jesuita, recientemente fundada. Volviendo a Lima tres años más adelante fue elegido provincial en 1576. Participó en la fundación de varias universidades, entre ellas la de Arequipa, Potose, Chuquisaca, Panamá, y la Paz.

A instancia del virrey Francisco de Toledo, comenzó a investigar personalmente una gama muy extensa del territorio, de modo que adquirió un conocimiento práctico de la extensa provincia, y de sus habitantes aborígenes.

Pocos miembros de la Compañía de Jesús del siglo XVI han sido tan uniformemente elogiados como José de Acosta. No pretendió hacer en su Historia una revisión exhaustiva de los fenómenos y seres naturales de América, sino razonar sobre su significado, apoyándose en una selección de ellos.

A su regreso a Europa, ocupó la Cátedra de Teología en la Universidad de Roma en 1594, así como otras posiciones importantes. A la hora de su muerte era rector de la Universidad en Salamanca.