Les recherches archéologiques et la bibliographie sur l'érémitisme nous permettent de situer ces structures rupestres connues sous le nom de grottes artificielles aux VIe et VIIe siècles. On y trouve une population en quête de perfection dans le retrait, la solitude, dans des habitations creusées dans la roche, situées dans des lieux cachés et difficiles d'accès. On en dénombre à Valdegovía un total de dix-huit, réparties dans les localités de Barrio, Corro, Pinedo, Valpuesta, Tobillas, Quejo et Villanueva de Valdegovía. Elles ont servi de logement et de temple à des communautés d'ermites opposées à l'ostentation de l’Église de l’époque.
Corro. Le culte de Saint Jean y a été maintenu jusqu'au XVIIIe siècle, bien que l’usage liturgique n’ait pas été le seul : cimetière, refuge pour les nomades... Elle se trouve dans la zone connue sous le nom de Solapeña. Son intérieur a été creusé au pic et atteint jusqu’à neuf mètres de profondeur. Dans la première grotte, le plafond est voûté et présente des nervures taillées dans la roche ; elle possède deux fenêtres et une petite niche. À l'intérieur, des sépultures ont été creusées dans le sol pour les ermites qui y vivaient. La deuxième grotte possède deux entrées et une fenêtre.
Pinedo. Dans la partie supérieure, on peut voir deux tombes anthropomorphes. Dans la partie inférieure se trouvent deux pièces qui étaient utilisées comme temple, reliées par une arche en leur centre, bien qu’ayant des portes d’entrée distinctes. Dans la chambre de gauche, une étagère en forme de siège a été conservée pour suivre la liturgie. Celle de droite a un plan carré et dispose d’un escalier de deux marches menant aux autres pièces. Il y a aussi une niche qui aurait abrité une image de Saint Jacques. À proximité se trouvent des pièces à chambre unique utilisées par les ermites comme habitations.