Il est probable que la fondation de ce village, situé sur un éperon rocheux, remonte à l'époque où la ville voisine d'Ugium (actuellement Saint-Blaise) fut saccagée par les troupes sarrasines, vers le IXe siècle. Mais ce n'est qu'après que le bourg de Castelveyre (construit sur les ruines d'Ugium) eut été pillé et saccagé par les troupes de Raymond de Turenne, seigneur des Baux, que l'Archevêque d'Arles autorisa la population à se protéger par des remparts (1395-1410) qui existent toujours dans leur quasi intégralité et qui sont inscrits aux Monuments Historiques. Beaux portails de ville au Nord et au Sud. Dans le prolongement de la rue Irénée Sabatier, au-delà de la rue Simiot, se trouve un moulin à vent de 1626.