La petita ermita de San Pelayo està situada entre Bakio i el cap Matxitxako. Es tracta d'una de les escasses mostres de l'art románico en Bizkaia.
És una ermita del segle XII, envoltada per un ampli pòrtic amb coberta de fusta que recorre tot el seu perímetre, característica comuna en moltes esglésies i ermitas biscaïnes.
La senya més clara de la seva identitat medieval és la delicada finestra que adorna l'ábside del temple amb motius vegetals i geomètrics.