As tecnoloxías de IA deben evitar a discriminación e protexer a diversidade

A redución do prexuízo de xénero, social ou cultural nas tecnoloxías de IA é clave, dixo o Comité de Cultura e Educación nunha resolución aprobada o martes (16 de marzo). CULTO 

O uso de tecnoloxías de intelixencia artificial (IA) na educación, a cultura e o sector audiovisual podería ter un impacto na "columna vertebral dos dereitos e valores fundamentais da nosa sociedade", di o Comité de Cultura e Educación nunha resolución adoptada por 25 votos a favor. , ningunha en contra e catro abstencións. Pide que se regulen e adestren todas as tecnoloxías de IA para protexer a non discriminación, a igualdade de xénero, o pluralismo, así como a diversidade cultural e lingüística.

Regular algoritmos multimedia para protexer a diversidade

Para evitar que as recomendacións de contido baseadas en algoritmos, especialmente nos servizos de transmisión de vídeo e música, afecten negativamente a diversidade cultural e lingüística da UE, os eurodeputados piden que se desenvolvan indicadores específicos para medir a diversidade e garantir que se promoven obras europeas..

A Comisión debe establecer un marco ético claro sobre como se utilizan as tecnoloxías da IA ​​nos medios de comunicación da UE para garantir que as persoas teñan acceso a contidos culturalmente e lingüísticamente diversos. Ese marco tamén debería abordar o mal uso da IA ​​para difundir novas falsas e desinformación, engaden.

Ensino dos valores da UE á intelixencia artificial

Debe evitarse o uso de datos tendenciosos que reflictan a desigualdade ou discriminación de xénero xa existentes cando se forma a IA, instan os deputados. Pola contra, hai que desenvolver conxuntos de datos inclusivos e éticos, coa axuda das partes interesadas e da sociedade civil, para ser utilizados durante o proceso de "aprendizaxe profunda".

propaganda

"Loitamos durante décadas para establecer os nosos valores de inclusión, non discriminación, plurilingüismo e diversidade cultural, que os nosos cidadáns ven como unha parte esencial da identidade europea. Estes valores tamén deben reflectirse no mundo en liña, onde os algoritmos e as aplicacións de IA están a empregarse cada vez máis. O desenvolvemento de sistemas de datos inclusivos e de calidade para o seu uso na aprendizaxe profunda é vital, así como un marco ético claro para garantir o acceso a contidos culturalmente e lingüísticamente diversos ", dixo a relatora Sabine Verheyen (PPE, DE) tras a votación.

Os eurodeputados finalmente subliñan que os profesores sempre deben ser capaces de corrixir as decisións tomadas pola IA, como a avaliación final dos estudantes. Ao mesmo tempo, resaltan a necesidade de formar profesores e advirten que nunca deben ser substituídos por tecnoloxías de IA, especialmente na educación infantil.

Próximos pasos

O pleno da Cámara votará a resolución en abril (tbc).

Espérase que a Comisión propoña un marco lexislativo para a IA de confianza en abril de 2021, como seguimento da súa Libro Branco de Intelixencia Artificial.

Máis información 

• Declaración en vídeo da relatora Sabine VERHEYEN (PPE, DE) sobre o impacto da intelixencia artificial na cultura  
• Pasos do proceso 
• Fotos gratuítas, material de audio e vídeo sobre intelixencia artificial  
• Comisión de Cultura e de Educación 
• European Parliament Research: Briefing introdutorio sobre o uso da intelixencia artificial nos sectores culturais e creativos  
• Parlamento Europeo Investigación: análise en profundidade sobre o uso da intelixencia artificial no sector audiovisual  
• Parlamento Europeo Investigación: briefing introdutorio sobre o uso da intelixencia artificial na educación  

Comparte este artigo: