Militant du POF avant l’unité, Gayon siégea aux congrès socialistes de Paris, salle Japy (1899) comme délégué des ouvriers cordonniers de Montluçon et salle Wagram (1900), porteur des mandats du groupe de Lodève (Hérault) et des Abymes (Guadeloupe). La même année, il participa au congrès du POF à Ivry.