Juan de Yepes wurde 1542 als jüngster von drei Brüdern in Fontiveros (Kastilien) geboren. Sein Vater Gonzalo entstammte einem verarmten Adelsgeschlecht und arbeitete als Weber. Seine Mutter, CatalinaÄlvarez, war ein noch ärmeres Waisenmädchen, jedoch jung, schön, lieb und fromm. Die Familie lebte in äußerster Armut.
1545 starb der Vater und kurze Zeit später der zweite Sohn, Luis. Die Mutter tat alles, um die kleine Familie vor dem Hunger zu bewahren. Als Juan neun Jahrealt war, gingen sie nach Medina del Campo (Valladolid), einem wichtigen Handelszentrum. Die Kinder mußten helfen, den dürftigen Lebensunterhalt zu verdienen. Juan erhielt eine einfache Schulausbildung und versuchte dann ein Handwerk zu erlernen, zuerst als Schneider, dann als Zimmermann und Bildhauer, schließlich als Maler - jedoch ohne viel Erfolg.
Um seine weitere Ausbildung zu finanzieren, wurde er mit vierzehn Jahren Krankenpfleger und Laufjunge im Krankenhaus von Medina. In seiner freien Zeit besuchte er den Grammatikunterricht des berühmten Humanisten Juan Bonifacio an der Jesuitenschule. Tagsüber arbeitete er, und abends und nachts studierte er.Er war sehr begabt und setzte dieses Leben als Arbeiter und Student bis zu seinem einundzwanzigsten Lebensjahr fort. In dieser schwierigen, aber entscheidenden Zeit war für Juan die innige Verbundenheit mit seiner Mutter und seinem älteren Bruder Francisco von großer Bedeutung.
Bei Juan zeigten sich nun vor allem drei Eigenschaften-. Seine Frömmigkeit im kirchlichen Engagement, seine Liebe zu den Kranken, für die er Almosen sammelte und die er im Krankenhaus versorgte, seine Neigung zum Studium. Wegen seiner intellektuellen Begabung hatte Juan gute Aussichten auf eine Karriere als Priester im Spital von Medina. Aber dieses großmütige Angebot seines Protektors Don Alonso Älvarez stieß bei Juan nicht auf Gegenliebe. Er erbat sich vielmehr den Habit des Karmel, "den ihm der Prior und die Patres sogleich mit großer Freude gaben". Es ist nirgends gesagt, ob Juan schon vorher mit dem Konvent von Santa Ana und den Karmelitenpatres in Verbindung gestanden hat. Daß er unter so vielen Orden den Karmel wählte, läßt darauf schließen, daß er den Konvent in Medina und die Lebensweise dort kannte. Für eine so unerwartete, den Vorstellungen seines Protektors entgegenlaufende Entscheidung muß Juan wohl sehr ernste Gründe gehabt haben - sah er sich doch genötigt, sich "ganz insgeheim in den Konvent von Santa Ana zu begeben. Die biographischen Erzählungen deuten lediglich an, daß "er sich mehr zurückziehen wollte und das Härteste wählte". Juan de Santo Matia, wie er sich seit seinem Eintritt in das Noviziat von Medina nannte, fühlte sich zum kontemplativen Leben und zur Marienverehrung hingezogen.
Ab 1564 studierte er vier Jahre lang Philosophie und Theologie an der Universität von Salamanca. Auch hier fielen seine Talente und seine Frömmigkeit auf. Obgleich die Dauer seines Studiums jener Zeit entsprechend kurz gewesen ist, erhielt er doch eine vortreffliche literarische, philosophische und theologische Schulung.
In dieser Periode machte er außerdem eine wichtige geistliche Entwicklung durch, die in ihm das Verlangen weckte, Kartäuser zu werden. Das Leben im Karmel enttäuschte ihn, weil der seinem Ursprung nach kontemplative Einsiedlerorden zur Lebensform der Bettelorden übergegangen war. Doch das Karmelideal der Kontemplation und totalen Konzentration auf Gott entsprach seinem Wesen voll und ganz. Er las Pseudo-Dionysius, Gregor van Nyssa,Augustinus, Bernhard von Clairvaux und die Viktoriner, die wichtigsten deutschen und niederländischen Mystiker, die spanischen Autoren vom Beginn des 16.Jahrhunderts wie Francisco de Osuna und Bernardino de Laredo und die zeitgenössische Poesie von Luis de León, Garcilaso de la Vega und Boscán. Später hatte er nur noch ein einziges Buch auf seinem Zimmer, die Heilige Schrift.
1567 wurde er zum Priester geweiht. Nach seiner ersten Messe in Medina begegnete er Teresa de Jesús. Fünf Jahre zuvor hatte sie den ersten reformierten Karmelkonvent in Ávila gegründet und bereitete jetzt die Gründung des zweiten reformierten Konvents vor. Teresa und Juan kamen miteinander ins Gespräch über ihre Ideale, und es zeigte sich eine tiefe innerliche Übereinstimmung zwischen ihnen. Teresa bat Juan, von seinen Plänen abzusehen und nicht in einen strengeren Orden einzutreten. Statt dessen sollte er die Initiative ergreifen, die Männerklöster auf vergleichbare Weise zu reformieren, wie sie selbst es bei den Frauenklöstern tat. Juan nahm diese Herausforderung an, kehrte jedoch zunächst wieder nach Salamanca zurück, um seine Studien abzurunden.
Ende September 1568 feierte Juan -jetzt Juan de la Cruz- zum ersten Mal die heilige Messe in einem baufälligen Haus in Duruelo. Im November begann er hier mit zwei Mitbrüdern an der Verwirklichung der eremitisch-kontemplativen Lebensform des Karmel. Der neue Lebensstil in Duruelo war jenem der Schwesternin Ávila nachgebildet. Der Entwurf der Konstitutionen für das Leben der kontemplativen Karmeliten, den man General Juan Bautista Rubeo zur Bestätigung vorlegte, erweist sich seinem Inhalt nach als Kopie der Konstitutionen der Unbeschuhten Karmelitinnen des Sankt-Josefs-Klosters.
Die Reform entsprach offenbar den religiösen Bestrebungen vieler und breitete sich schnell aus. Im Juni 1570 ging der Konvent nach Mancera de Abajo, und vom Juni bis September leitete Juan das Noviziat in Pastrana (Guadalajara). 1572 rief Teresa ihn als Beichtvater und geistlichen Begleiter ihres Kloster, nach Ávila, wo er fünf fruchtbare und erfahrungsreiche Jahre blieb. 1574 unterstützte er sie bei der Gründung des Klosters von Segovia.
Fray Juan pflegte im Garten zu arbeiten, und er verstand es in dieser Arbeitreichen Stoff für die Kontemplation zu finden Darum hielt er auch seine Mitbrüder zum lebendigen Kontakt mit der Natur an und lehrte sie, wie man damit das innerliche Leben bereichern kann. Er beschäftigte sich auch mit Schnitzarbeiten, besserte die Mauern des Hauses aus oder arbeitete am Bau des Klosters mit wie in Segovia. Das Predigen in der Öffentlichkeit lag ihm dagegen nicht; er wirkte lieber im Beichtstuhl oder durch seine Leitsätze, die er entweder auf Zettel schrieb oder in die Briefe, die er als Seelenführer verschickte.
Wenn er in Alcalá und Baeza zu den Studenten seines Ordens sprach, wollte er sie nicht in erster Linie dazu befähigen, das Volk von Kanzel und Katheder aus zu belehren; er wollte ihnen vielmehr jene innere Bildung geben, von der sie später in der Einsamkeit zehren konnten.
In der Nacht vom 2. zum 3. Dezember 1577 wurde Juan von nicht reformierten Mitbrüdern aus seinem Haus in Ávila entführt, angeblich, weil sein Verbleib dort gegen bestimmte Regeln verstieß. Abgesehen davon, daß die Reformbewegung selbst sehr heterogen war und es immer wieder zu Spannungen zwischen den verschiedenen Gruppen kam, war die Reform auch insgesamt umstritten und stieß bei nichtreformierten Konventen auf viel Widerstand. Juan wurde in das Klostergefängnis von Toledo gebracht (da Priester und Ordensleute nicht in den Gefängnissen der Stadt interniert werden konnten, gab es besondere kirchliche Gefängnisse für sowohl zivile als auch kirchliche Vergehen), da er im nichtreformierten Teil des Ordens als Rebell galt. In einem dunklen Keller wurde ihm mit Isolierhaft aufs härteste zugesetzt. Juan fühlte sich von Gott und Mensch verlassen und verbrachte unter diesen furchtbaren Umständen neun Monate, die sich jedoch als sehr fruchtbar erwiesen für seine mystische Erfahrung. Explosionsartig äußerte sich eine poetische Kreativität in herrlichen Gedichten wie den Romanzen, der Quelle (Auch wenn es Nacht ist) und der ersten Version des Geistlichen Gesanges.
Im August 1578 entkam er während der Oktav von Maria Himmelfahrt aus dem Verlies und suchte Zuflucht bei den Karmelitinnen von Toledo. Aus Vorsicht ging er dann nach Andalusien, wo er im September am illegalen Kapitel der Reformbewegung in Almodóvar teilnahm und im November Prior des kleinen Klosters in El Calvario wurde. Hier war er ganz in der Nähe des Klosters von Beas de Segura, wo Ana de Jesús Priorin war. In den Betrachtungen für die Karmelitinnen entstand dann u. a. die erste Version des Kommentars zum Geistlichen Gesang. Am 14. Juni 1579 brach er zu einer Klostergründung nach Baeza auf.