Agencia europea de DDHH advierte contra la parcialidad de la IA en la detección de delitos
08.12.2022 16:45
© Reuters. Un grupo de personas visita un puesto del metaverso durante la Conferencia Mundial de Inteligencia Artificial, tras el brote de la enfermedad por coronavirus (COVID-19), en Shanghái, China, el 1 de septiembre de 2022. REUTERS/Aly Song
Por Dina Kartit
8 dic (Reuters) – La Agencia de los Derechos Fundamentales de la Unión Europea (FRA) afirmó el jueves que las aplicaciones que utilizan inteligencia artificial (IA) para predecir la delincuencia y moderar el discurso de odio online deben estar libres de sesgos para evitar la discriminación.
En un informe basado en un estudio de 2021, la FRA, con sede en Viena, afirma que los algoritmos basados en datos de mala calidad pueden perjudicar la vida de las personas.
El estudio se produce en el contexto de la propuesta de ley sobre la IA de la Comisión Europea, que suscitó críticas de parlamentarios y grupos de consumidores de países de la UE por no abordar plenamente los riesgos de los sistemas de IA que podrían violar los derechos fundamentales.
«Necesitamos un sistema para evaluar y mitigar el sesgo antes y durante el uso de algoritmos para proteger a las personas de la discriminación», dijo el director de la FRA, Michael O’Flaherty.
La detección de delitos varía y puede afectar a los datos, dijo la FRA, ya que ciertos delitos son fáciles de detectar mientras que las predicciones se centran demasiado en los delitos que son más fáciles de registrar para la policía.
Como resultado, algunos grupos demográficos pueden estar más a menudo relacionados con «delitos más simples», lo que puede dar lugar a sesgos en la aplicación de la ley, dijo la FRA.
En cuanto a la moderación del discurso ofensivo, la agencia consideró poco fiables los algoritmos desarrollados para la detección automática del discurso del odio, ya que marcaban como ofensivos términos no ofensivos en inglés que aludían a «musulmán», «gay» o «judío».
Del mismo modo, algunos algoritmos en alemán e italiano, que utilizan sustantivos de género, juzgaban más insultante la versión femenina de un término que su equivalente masculino, o viceversa.
La FRA afirmó que las predicciones de los algoritmos tienden a reaccionar de forma exagerada al estar vinculadas al odio online en sus conjuntos de datos de texto.
(Reporte de Dina Kartit; editado en español por Tomás Cobos)
