Budowa Czerwonych Wierchów jest dość zróżnicowana geologicznie. Trzon masywu zbudowany jest ze skał osadowych (wapienie i dolomity środkowego triasu), a wierzchołki przykryte są płaszczem skał krystalicznych (granity i gnejsy). Pod szczytami znajdują się kotły lodowcowe. W masywie Czerwonych Wierchów znajduje się wiele jaskiń, w tym największe w Tatrach:
- Jaskinia Harda
- Jaskinia Marmurowa
- Jaskinia Mała w Mułowej
- Jaskinia Miętusia
- Śnieżna Studnia
- Jaskinia Wielka Śnieżna (otwór Wielka Litworowa)
- Jaskinia Wysoka – Za Siedmiu Progami.
Nazwa Czerwonych Wierchów pochodzi od czerwono-brązowej barwy ich stoków, jaką nadaje im roślina o nazwie sit skucina, która jesienią, a często już w połowie lata przebarwia się na czerwono. Oprócz niej murawę tworzy boimka dwurzędowa, kosmatka brunatna i inne. W związku z urozmaiconym podłożem geologicznym bardzo różnorodna gatunkowo jest też roślinność Czerwonych Wierchów – rosną tutaj zarówno rośliny wapieniolubne, jak i kwasolubne. Wśród nich jest wiele gatunków roślin rzadkich, występujących w Polsce tylko w Tatrach i to w niewielu miejscach (m.in. przymiotno węgierskie).