Cuando se firmó el Tratado de Roma el 25 de marzo de 1957 por el que se instituye la Comunidad Económica Europea, éste contenía ya las principales disposiciones marco en las que se basa la Política Agraria Común (PAC).

Reconociendo la importancia del sector agrícola, la Comisión Europea expresó su deseo de mantener una colaboración estrecha con los representantes de las organizaciones agrarias desde el primer momento, invitándolos a asistir en 1958 a la Conferencia de Stresa como observadores. Así es como el 6 de septiembre de 1958 se fundó la primera organización representativa de la agricultura europea, el COPA (Comité de Organizaciones Profesionales Agrícolas). Poco tiempo después, el 24 de septiembre de 1959, las organizaciones cooperativas agrarias nacionales decidieron crear su organización representativa europea la Cogeca (Comité General del Cooperativismo Agrario en la Unión Europea) que también reagrupa a las cooperativas pesqueras. La Secretaría de la Cogeca fusionó con la del COPA el 1 de diciembre de 1962. Cuando se fundó la Cogeca, ésta estaba constituida por 6 miembros. Desde entonces, se ha ampliado seis veces y en la actualidad la integran 35 miembros efectivos y 4 miembros afiliados de la UE; la Cogeca también tiene 36 organizaciones miembros colaboradoras. En el contexto de las recientes ampliaciones de la Unión europea, COPA y Cogeca han venido reforzando juntos su posición como organizaciones agrícolas representativas más fuertes de Europa. El COPA y la Cogeca han acogido juntos a 38 organizaciones agrícolas y cooperativas nacionales de los nuevos Estados miembros.

Desde su creación, la Cogeca ha gozado de reconocimiento por parte de las instituciones europeas como el principal órgano representativo y, de hecho, como portavoz del sector del cooperativismo agrario y pesquero en su conjunto.