Hijo único de unos padres muy cristianos y en muy buena posición económica y social. A los 14 años le llevaron a estudiar Leyes a la Universidad de Salamanca, pero abandonó estos estudios al concluir el cuarto curso, decidió regresar al domicilio familiar para dedicarse a reflexionar y orar.
Con el propósito de hacerse sacerdote y marchar después como misionero a las Indias, en 1520 realizó estudios de Artes y Teología en la prestigiosa Universidad de Alcalá. Recibida la ordenación de presbítero en 1529, celebró la primera Misa solemne en la parroquia de su pueblo. Como ya habían muerto sus padres, para festejar el acontecimiento invitó a su mesa a doce pobres y decidió vendar su cuantiosa fortuna procedente de las minas de plata que poseía la familia y darlo todo a los más necesitados. A continuación marchó a Sevilla para esperar el momento de embarcar hacia Nueva España (México).
Mientras tanto se dedicó a la predicación en la ciudad y en las localidades cercanas. Allí se encontró con el sacerdote amigo Fernando de Contreras, mayor que él y prestigioso catequista, a quien había conocido cuando éste se doctoraba en Alcalá. Entusiasmadamente por el modo de predicar del joven sacerdote Ávila, consiguió que el Arzobispo hispalense le hiciera desistir de su idea de ir a América para quedarse en Andalucía, donde urgía consolidar la fe de los creyentes después de siglos de dominación musulmana. Juan de Ávila permaneció en Sevilla, compartiendo casa, pobreza y vida de oración con Fernando de Contreras y, a la vez que se dedicaba asiduamente a la predicación y a la dirección espiritual de personas, continuó estudios de Teología en el Colegio Santo Tomás de Sevilla.
Pero sus éxitos apostólicos se vieron pronto nublados por una denuncia a la Inquisición, acusado de haber sostenido algunas doctrinas sospechosas. Mientras tuvo lugar el proceso, entre 1531 y 1533 quedó recluido en la cárcel. Allí se dedicó asiduamente a la oración, y durante esta dura situación recibió la gracia de penetrar con singular profundidad en el misterio del amor de Dios y el gran “beneficio” hecho a la humanidad por Jesucristo nuestro Redentor. En adelante será éste el eje de su vida espiritual y uno de los temas centrales de su actividad evangelizadora. En la cárcel escribió la primera versión de su obra más conocida, el tratado de vida espiritual Audi, filta, dedicado a doña Sancha Carrillo, una distinguida joven a quien seguía orientando espiritualmente después de su clamorosa conversión.
Emitida la sentencia absolutoria en 1533, continuó predicando con notable éxito ante el pueblo de y las autoridades, pero prefirió trasladarse a Córdoba, diócesis en la que quedó incardinado, y donde conoció a su discípulo, amigo y primer biógrafo, el dominico Fray Luis de Granada. Poco después, en 1536, fijó su residencia en Granada, donde también continuó estudios y comienza a figurar con el título de Maestro.
Viviendo muy pobremente y dedicándose a la oración y a la predicación, fue centrando su interés en mejorar la formación de quienes se preparaban para el sacerdocio, para lo que fundó Colegios mayores y menores, que después de Trento, habrían de convertirse en seminarios conciliares. Para el Maestro de Ávila, la reforma de Iglesia, que cada vez consideraba más necesaria, pasaba por la mayor santidad de clérigos, religiosos y fieles.
Sonadas conversiones como las del Marqués de Llombat, que llegó a ser san Francisco de Borja, o la de Juan Cidad -san Juan de Dios- y, sobre todo, su dedicación a la gente sencilla junto con la fundación de los niños y jóvenes, jalonan la vida del Maestro de Ávila. Fundó incluso una Universidad, la de Baeza (Jaén), que durante siglos fue un destacado referente para la cualificada formación de los sacerdotes.
Después de recorres Andalucía y parte de Extremadura orando y predicando, ya enfermo, en 1554 se retiró definitivamente a Montilla (Córdoba), donde ejerció su apostolado a través de abundante correspondencia y perfiló algunas de sus obras. Además de un catecismo o Doctrina cristiana en verso para que lo cantaran los niños y evangelizaran así a los mayores, el Maestro de Ávila es autor del conocido Tratado del amor de Dios, del Tratado sobre el sacerdocio y de otros escritos menores.
Aquejado de fortísimos dolores, con un Crucifijo entre las manos y acompañado de sus discípulos y amigos, el Maestro de Ávila entregó su alma al Señor en su humilde casa de Montilla en la mañana del 10 de mayo de 1569. Santa Teresa de Jesús, al enterarse de la noticia, no dudó en exclamar: lloro porque pierde la Iglesia de Dios una gran columna.
En 1623 se instruyó en la archidiócesis de Toledo su Causa de canonización. El papa Benedicto XIV aprobó y elogió su doctrina y escritos en 1742. El 4 de abril de 1894 León XIII lo beatificó. En 1946 fue nombrado patrono del clero secular de España por Pío XII y Pablo VI lo canonizó el 31 de mayo de 1970. Fue proclamado Doctor de la Iglesia el 7 de octubre de 2012, junto a Santa Hildegarda de Bilden, por el papa Benedicto XVI.