La IA desarrolla sesgos de manera diferente a los humanos
Investigadores del MIT han publicado hallazgos que muestran que las herramientas de contratación con IA no solo aprenden estereotipos de los datos de entrenamiento, sino que desarrollan patrones sesgados a través de mecanismos distintos al prejuicio humano. El estudio probó múltiples plataformas comerciales de reclutamiento con IA y encontró que producían resultados discriminatorios contra candidatos por género, raza y edad en tasas superiores a las de los gerentes de contratación humanos en comparaciones controladas.
El equipo de investigación advirtió que, debido a que los sistemas de IA procesan miles de características de candidatos simultáneamente, identificar y eliminar correlaciones sesgadas es mucho más complejo que abordar el prejuicio humano en las entrevistas.
Anthropic llega a un acuerdo de derechos de autor por 1.500 millones de dólares
En otras noticias de IA, un juez de EE.UU. aprobó el acuerdo de 1.500 millones de dólares de Anthropic para resolver una demanda por derechos de autor presentada por autores que alegaban que los modelos de IA de la empresa fueron entrenados con sus obras sin permiso. El acuerdo es uno de los más grandes en la industria de la IA y sienta un precedente sobre cómo las empresas de IA compensan a los creadores de contenido cuyo material se utiliza en conjuntos de datos de entrenamiento.
El caso ha sido seguido de cerca por el sector tecnológico, ya que los desafíos legales sobre los datos de entrenamiento continúan acumulándose contra los principales desarrolladores de IA.