TN

Temas de hoy:

  • Javier Milei
  • Ruta del dinero K
  • Elecciones 2025
  • Platense campeón del Torneo Apertura
  • Dólar hoy
  • Copa Libertadores
  • Miguel Ángel Russo
  • Protesta de puesteros de La Salada
  • Tecno
  • EN VIVO
    tnTecnoNovedades

    ¿Por qué los algoritmos de inteligencia artificial discriminan?

    Las IAs generativas todavía perpetúan estereotipos, sobre todo, raciales y de género. Los motivos por los cuales esto sucede y qué se puede hacer para resolverlo.

    Axel Marazzi
    Por 

    Axel Marazzi

    30 de junio 2024, 05:39hs
    ¿Las IA discriminan? La clave está en los datos con los que trabajan los algoritmos (Imagen generada por IA)
    ¿Las IA discriminan? La clave está en los datos con los que trabajan los algoritmos (Imagen generada por IA)

    Stable Diffusion es uno de los algoritmos de inteligencia artificial generativa de imágenes más famosos del mercado. Se trata de esos sistemas, como DALL-E de OpenAI, a los que le damos un prompt y nos devuelven una imagen perfectamente generada.

    Si bien la compañía que desarrolla el algoritmo, Stability AI, es una de las más prestigiosas del mercado, hace pocos meses estuvo en el ojo del huracán. La razón era que un grupo de especialistas había analizado más de 5.000 imágenes creadas con Stable Diffusion y, como resultado, encontraron que las imágenes que generaba perpetuaban los estereotipos de discriminación racial y de género.

    Leé también: “Es inaceptable”: el enojo del CEO de Google por los resultados racistas de la inteligencia artificial Gemini

    Los presos son negros, los CEO son blancos y el efecto dominó

    Pero, ¿por qué los algoritmos de inteligencia artificial que existen actualmente discriminan? ¿Por qué, cuando se analizaron estas miles de imágenes, el 80% de las veces que le pidieron fotos de un preso devolvía una captura de una persona afroamericana? ¿Por qué cuando le pedían la foto del CEO de una compañía devolvía imágenes de hombres arios?

    Los resultados de cuatro solicitudes para mostrar “una persona” de Oceanía, Australia, Papúa Nueva Guinea y Nueva Zelanda. (Ghosh et al./EMNLP 2023 - IMAGEN GENERADA POR IA)
    Los resultados de cuatro solicitudes para mostrar “una persona” de Oceanía, Australia, Papúa Nueva Guinea y Nueva Zelanda. (Ghosh et al./EMNLP 2023 - IMAGEN GENERADA POR IA)

    La respuesta tiene algunas aristas. Por un lado está la información con la que estos algoritmos son entrenados, que es tomada de internet. Como internet está repleta de contenidos creados por humanos y los humanos discriminan, el resultado es que los algoritmos también lo harán.

    Otra parte de la respuesta está en la curación de los contenidos que serán usados para entrenar a los algoritmos. Si los sets de datos no están curados por humanos o si las personas que curan, limpian y etiquetan esos datos no lo hacen correctamente, pueden estar introduciendo pequeñas inclinaciones en los algoritmos. Esto puede estar ligado, por ejemplo, a la falta de diversidad en los equipos, al etiquetado ambiguo de información, a conjuntos de datos incompletos y que no representen la realidad, a la falta de contexto.

    Leé también: Desarrollaron una IA tóxica para pensar las peores preguntas que puedas imaginarte

    Acá es cuando entra lo que llaman efecto dominó. Este concepto tiene que ver con que un pequeño cambio en un sistema pude tener consecuencias mucho más grandes, complejas o inesperadas.

    Si los algoritmos no son entrenados con información limpia, las cosas pueden empezar a complicarse. El motivo es simple: si estos algoritmos generativos como Stable Diffusion son entrenados con información sucia terminará dando como resultado respuestas incorrectas.

    Transparencia y explicabilidad en los algoritmos de las IA

    Por ese motivo es tan importante algo que la mayoría de las compañías que están liderando la carrera por la IA no hacen: tener transparencia en relación a cómo se entrenan estos algoritmos. No solo revelando qué sets de datos son usados, cómo son elegidos y curados, sino también presentando cómo son los procesos internos de la compañía.

    Por otro lado está la explicabilidad, que se trata de la capacidad de estos sistemas de inteligencia artificial para dar explicaciones simples y comprensibles de las decisiones que tomó para llegar a determinados resultados. Esto es particularmente importante en situaciones, por ejemplo, donde hay algoritmos que toman decisiones como en el sector de la salud, la justicia o las finanzas.

    La importancia de poder detectar estos problemas, teniendo en cuenta que hay especialistas que consideran que alrededor del 90% de los contenidos de internet será creado por inteligencias artificiales en los próximos años, es clave.

    Las más leídas de Tecno

    1

    El electrodoméstico que sí o sí hay que desconectar en tu habitación en invierno para evitar un incendio

    2

    Reglas básicas para cuidar a tu empresa de un ciberataque

    Por 

    Sergio Oroña

    3

    XChat: 5 preguntas y respuestas sobre el nuevo sistema de mensajería de la red social X

    4

    De qué se trata la nueva estafa virtual donde se hacen pasar por un banco y vacían tu cuenta bancaria

    5

    Alumnos argentinos ganaron una competencia de la NASA y viajarán a EE.UU. para representar a Latinoamérica

    Por 

    Rodrigo Álvarez

    Suscribite a los newsletters de TN

    Recibí las últimas noticias de TN en tu correo.

    Temas de la nota

    Inteligencia artificialDiscriminaciónRacismosexismo

    Más sobre Tecno

    El Cibercrimen es hoy la tercera economía en el mundo detrás de Estados Unidos y China. (Foto: AdobeStock)

    Reglas básicas para cuidar a tu empresa de un ciberataque

    Por 

    Sergio Oroña

    XChat, el reemplazo de los mensajes directos en X. (Foto: Reuters/Ueslei Marcelino)

    XChat: 5 preguntas y respuestas sobre el nuevo sistema de mensajería de la red social X

    Alumnos argentinos ganaron una competencia de la NASA y viajarán a EE.UU. para representar a Latinoamérica. (Foto: Gentileza  Southern International School)

    Alumnos argentinos ganaron una competencia de la NASA y viajarán a EE.UU. para representar a Latinoamérica

    Por 

    Rodrigo Álvarez

    Los comentarios publicados en tn-ar.noticiasalagoanas.com podrán ser reproducidos parcial o totalmente en la pantalla de Todo Noticias, como así también las imágenes de los autores.

    © 1996 - 2025, Artear

    Seguinos en las redes

    Descargate la app de TN

    google-playapp-store

    Últimas noticias

    • Una mujer denunció que un hombre que conoció por una app de citas la mantuvo cautiva durante 7 días en Neuquén
    • Ni flan ni helado: la receta para hacer este típico postre peruano
    • Duran Duran se volvió a juntar con Nile Rodgers en el estudio: la historia detrás de exitosas colaboraciones
    • “Se desplomó”: murió un jugador de fútbol en medio de un partido y los hinchas quedaron en shock

    Secciones

    • Últimas noticias
    • Elecciones 2025
    • Deportivo
    • Show
    • Economía
    • Internacional
    • Opinión
    • Policiales
    • Política
    • Sociedad

    Sitios amigos

    • Grupo Clarín
    • Artear
    • eltrece
    • Ciudad Magazine
    • El Doce
    • Cucinare
    • Canal (á)
    • Clarín
    • Olé
    • Mitre
    • La 100
    • Cienradios
    • TyC Sports
    • La Voz
    • Vía País

    Descargate la app de TN

    google-playapp-store

    Seguinos en las redes

    © 1996 - 2025, Artear

    Mapa del sitio
    Términos y Condiciones
    Políticas de privacidad
    Media Kit