Jan Yepes urodził się niedaleko Avila, w Fontiveros, w 1542 roku. Był trzecim z kolei dzieckiem Gonzaleza de Yepes i Katarzyny Alvarez. Miał dwóch braci: Ludwika i Franciszka, ale pierwszy z nich zmarł niedługo po urodzeniu (1541).
Warunki w domu były bardzo ciężkie, gdyż rodzina wyrzekła się Gonzaleza za to, że śmiał jako szlachcic wziąć za żonę dziewczynę z ludu. Jeszcze cięższe warunki nastały, kiedy zmarł ojciec (skromne zasoby pochłonęła choroba) . Jan miał wówczas dwa i pół roku. Wdowa wraz z dwójką dzieci po dramatycznym poszukiwaniu środków do życia u rodziny męża, udała się ostatecznie do Medina del Campo, gdzie znalazła pracę jako tkaczka. Jan został oddany do przytułku, gdzie za pracę zapewniano mu wyżywienie i naukę.

W późniejszych latach pracował w szpitalu, by następnie próbować różnych zawodów u różnych majstrów: w tkactwie, krawiectwie, snycerstwie, jako malarz, jako zakrystianin. Wreszcie w wieku 17 lat otrzymał pracę w kościele sióstr augustianek, w zakrystii, a następnie został pielęgniarzem w pobliskim szpitalu augustianów. Jednemu z administratorów szpitala tak przypadł do gustu, że ten postanawił go wykształcić na kapelana. W tym czasie Jan za uzbierane z trudem pieniądze podjął naukę w kolegium księży jezuitów. Uczył się języków, filozofii, poznaje literaturę. Studiować książki mógł tylko późnym wieczorem, po skończonej pracy. Kolegium ukończył w wieku 21 lat, jako dobry latynista i retor.

W roku 1563 wstąpił do karmelitów w Medinie. Nie znamy powodów dlaczego Jan wybrał właśnie karmelitów, spośród wielu innych zakonów działających w Medina. Przybrał imię Jan od św. Macieja. Studia w Salamance wprowadziły go w świat teologii, dysput scholastycznych, szczególnie nad naturą kontemplacji i zjawisk mistycznych. Słuchał wykładów Luisa de Leon, żył wielką myślą znakomitości ówczesnego uniwersytetu. Ale z drugiej strony dostrzegał coś ważniejszego niż wiedza, co wtrącało go w kryzys. W zakonie napotkał Jan na znaczne rozluźnienie. W duszy jednak pociągany był do bardziej wymagającego trybu życia, pragnął nawet wstąpić do kartuzów. Pozostał jednak u karmelitów, lecz składając śluby, czynił to z myślą o profesji według dawnej obserwacji. Miał wtedy lat 21. Po ukończeniu studiów filozoficznych i teologicznych w Salamance w 25 roku życia otrzymał święcenia kapłańskie (1567).

W tym samym roku pojechał do Medina ze swą mszą prymicyjną. Tam spotykał św. Teresę, która przybyła tu dać początek nowej fundacji. Ona to wykorzystała jego pragnienia i ukierunkowała go na reformę, którą właśnie podjęła. W następnym roku (1568) św. Teresa namówiła pewnego szlachcica, żeby ofiarował swą posiadłość na założenie pierwszego domu reformy w Duruelo. Tam św. Jan przeniósł się z dwoma przyjaciółmi, których pozyskał dla reformy. Tegoż roku 28 listopada złożyli ślub zachowania pierwotnej reguły. Jan przybrał sobie wówczas imię Jana od Krzyża. Dało to początek odnowionemu życiu Karmelu. Dwa lata później przekazano im kościół i klasztor w Mancera, gdzie Jan został wychowawcą młodych zakonników. Wkrótce uzyskują nowy dom w Pastrana, a na początku lat 70-tych są już na uniwersytecie w Alcala. W latach 1572-1577 roku Jan obejął funkcję spowiednika w Avila, gdzie przeoryszą była Teresa.

W tym czasie na wskutek zbytniego faworyzowania bosych przez delegatów apostolskich (przekazywano im klasztory karmelitańskie) doszło do otwartego konfliktu. Bosi otworzyli już 10 klasztorów i zaczynali starać się o autonomię. Na wniosek kapituły karmelitów w Placencji z 1577 roku Jan został uznany za buntownika, Posypały się napomnienia i nakazy. A kiedy Święty okazywał się na nie głuchy, został aresztowany w Avila w nocy z dnia 2 na 3 grudnia 1577 roku i siłą zabrany do Toledo. Wtrącony do więzienia klasztornego był nie tylko pozbawiony wolności, ale skazany na głód i częstą chłostę, by się wreszcie opamiętał. Święty się wszakże nie załamał. Jak sam pisał: w "puszczy wieloryba" przebył 9 miesięcy. Pan Bóg jednak nad swoim wiernym sługą czuwał i w tych miesiącach udręki zalewał go potokami pociech mistycznych. "Noce ciemne" długiego więzienia wykorzystał dla doświadczenia nie mniej bolesnego stanu, kiedy Pan Bóg pozornie opuszcza swoich wybranych, by ich zupełnie oczyścić i ogołocić z niepożądanych pragnień, uczuć i przywiązań. Tu dojrzewała jego najpiękniejsza mistyka, spisana na skrawkach papieru.

15 sierpnia 1578 roku udało się Świętemu uciec z zakonnego więzienia w Toledo po długich i żmudnych do tego przygotowaniach. Bracia zreformowani przyjęli go z wielką radością. 9 października tego roku wziął udział w kapitule, na której został wybrany przełożonym konwentu kalwarii w Jaen, w Andaluzji. W 1579 zakłada kolegium zakonne w Baeza. Po trzech latach nieporozumień, w 1580 następuje erygowanie prowincji karmelitów bosych. Na jej utowrzenie zezwolił papież Grzegorz XIII specjalnym breve z 22 lipca 1580 roku. Tak więc karmelici zreformowani zostali wydzieleni od jurysdykcji dotychczasowych swoich miejscowych przełożonych prowincjonalnych karmelitów niezreformowanych.

Cierpienia św. Jana podjęte dla reformy zaczęły owocować. Gorliwi zakonnicy widzieli w nim męczennika sprawy i zaczęli przekonywać się do reformy. Mnożyły się także nowe fundacje dzięki hojności panów duchownych i świeckich. Św. Jan, chociaż główny w swoim zakonie inicjator reformy, w swojej pokorze chętnie oddawał władzę innym. I tak, w roku 1582 został mianowany przełożonym domu w Granadzie, a w roku 1585 kapituła wybrała go wikariuszem prowincji Andaluzja. W dwa lata potem zrzekł się Święty tego urzędu i został ponownie mianowany przełożonym konwentu w Granadzie (1578). W latach 1588-1591 jest przeorem w Segowii i definitorem generalnym.

Kiedy liczba zreformowanych klasztorów zaczęła się pomnażać i powstawały nowe prowincje, papież Sykstus V zezwolił na wybór osobnego wikariusza generalnego dla prowincji zreformowanych, ale generał miał być jeszcze wspólny dla obu rodzin karmelu. Papież bowiem miał nadzieję, że niebawem cały zakon przyjmie reformę. W roku 1588 odbyła się pierwsza kapituła generalna prowincji zreformowanych.

Pod koniec życia swojego sługi Pan doświadczył cierpieniem najdotkliwszym. Jak bowiem za czasów św. Franciszka Serafickiego pojawiła się tendencja złagodzenia jego reguły i w bracie Eliaszu znalazła ona najpilniejszego tego kierunku wykonawcę, tak i tym razem stronnictwo złagodzonej reguły wzięło górę. Na wskutek różnych opcji oraz z powodu wymagań jakie stawia, zostaje odsunięty na następnej kapitule od władzy (Madryt 1591) i odesłany w niełasce do Penueli. Nawet zbiera się dowody przeciw niemu, by go usunąć z Zakonu. To jest powodem, że nie mamy prawie nic z jego korespondencji, gdyż siostry wolały wszystko zniszczyć.

We wrześniu tego choruje na nogę i na miejsce leczenia wybiera Ubeda, gdzie spodziewa się więcej cierpieć. Umiera mocno cierpiąc 14 grudnia 1591 roku w wieku zaledwie 49 lat. Umierał zupełnie osamotniony, bowiem św. Teresa z Avila dawno już nie żyła - przeszła wcześniej do nieba, 4 października 1582 roku. Ciało zostaje przeniesione do Segowii w 1593 roku, na życzenie pewnej szlachetnej damy, dla której Jan napisał jedno ze swych dzieł (ŻPM).

Literatura o Świętym jest olbrzymia. Święty Jan cieszył się tak wielką czcią po śmierci, chociaż pogrzeb jego odbył się nader skromnie w obawie przed prześladowaniem nie tylko ze strony przeciwników reformy, ale także ze strony zwolenników reformy złagodzonej, już wówczas skrycie podzielono jego ciało na części, które zabrali ze sobą bracia opowiadający się za reformą św. Jana w całej jej rozciągłości. Ciało przewiezione potajemnie z Ubedy do Segovii, rychło musiało powrócić do Ubedy na stanowcze żądanie wiernych i nakaz papieża Klemensa VIII (1596).

Proces kanoniczny rozpoczął biskup Valladolid. Beatyfikacja odbyła się w 1675 roku, a dokonał jej papież Klemens X. Kanonizował zaś Świętego papież Benedykt XIII. Papież Pius XI w roku 1926 ogłosił doktorem Kościoła Powszechnego.

Obecnie relikwie św. Jana od Krzyża znajdują się w Segovii, w kaplicy kościoła karmelitów. Doroczną jego pamiątkę obchodził Kościół dotąd 24 listopada. Obecnie zaś po reformie w roku 1969 jego wspomnienie przypada w dzień śmierci Świętego 14 grudnia. Kiedy w roku 1962 karmelici niezreformowani (u nas zwani "trzewiczkowi") mieli 2371 zakonników i 278 domów to karmelici zreformowani (nazwa w Polsce popularna "bosi") liczyli 3577 zakonników i 364 klasztory. Do Polski przybyli karmelici zreformowani w roku 1605 (do Krakowa). Od roku 1617 istniała już prowincja polska, z której w roku 1734 wyłoniono prowincję litewską. Obecnie (1980) karmelitów reformowanych jest w Polsce 157, a karmelitów niezreformowanych - 72.