Desarrollando Sistemas de IA Responsable

La Inteligencia Artificial (IA) está siendo utilizada en casi todos los aspectos de la vida. Para algunas personas, la IA simboliza crecimiento y productividad, pero también plantea preguntas sobre la equidad, privacidad y seguridad de estos sistemas. Muchos problemas legítimos existen, incluyendo decisiones sesgadas, reemplazo laboral y una falta de seguridad. Cuando se trata de robots, esto puede ser muy aterrador. Los automóviles autónomos, por ejemplo, pueden causar lesiones o muerte si cometen errores. La IA Responsable aborda estas dificultades y hace que los sistemas de IA sean más responsables.

La IA Responsable debe cumplir los siguientes objetivos:

• Interpretabilidad: Obtenemos una explicación de cómo un modelo hace predicciones cuando lo interpretamos. Un sistema de IA hace predicciones para un usuario. Incluso si estas selecciones son correctas, un usuario probablemente buscará una explicación. La IA Responsable puede describir cómo creamos modelos interpretables.

• Equidad: Los sistemas de IA tienen el potencial de tomar decisiones sesgadas hacia ciertos grupos de personas. El sesgo en los datos de entrenamiento es la fuente de este sesgo. Cuanto más interpretable sea un modelo, más fácil será asegurar la equidad y corregir cualquier sesgo. Por lo tanto, necesitamos un marco de IA Responsable para explicar cómo evaluamos la equidad y qué hacer si un modelo hace predicciones injustas.

• Seguridad: Los sistemas de IA no son determinísticos. Cuando se enfrentan a nuevas situaciones, tienden a tomar decisiones incorrectas. Los sistemas incluso pueden ser manipulados para tomar decisiones poco sabias. Por lo tanto, necesitamos asegurar la seguridad de estos sistemas.

• Gobernanza de Datos: Los datos utilizados deben ser de alta calidad. Si los datos utilizados por la IA tienen errores, el sistema puede tomar decisiones equivocadas.

Deben crearse sistemas de IA confiables centrados en el usuario utilizando prácticas básicas para sistemas de software y métodos que aborden problemas específicos del aprendizaje automático. Los siguientes puntos deben tenerse en cuenta al diseñar una IA fiable y responsable:

• Considere aumentar y asistir a los usuarios con una variedad de opciones. Se debe utilizar un enfoque de diseño centrado en el ser humano. Esto incluye construir un modelo con divulgaciones, claridad y control adecuados para los usuarios. Involucre a una amplia gama de usuarios y escenarios de uso, e incorpore comentarios antes y durante el desarrollo del proyecto.

• En lugar de usar una sola métrica, debe usar una combinación para comprender mejor los compromisos entre diferentes tipos de errores y experiencias. Asegúrese de que sus métricas sean adecuadas para el contexto y propósito de su sistema; por ejemplo, un sistema de alarma de incendios debe tener un alto recuerdo, incluso si eso significa una falsa alarma de vez en cuando.

• Los modelos de aprendizaje automático reflejarán los datos en los que fueron entrenados, así que asegúrese de comprender sus datos brutos. Si esto no es posible, como con datos sensibles, trate de comprender sus datos de entrada tanto como sea posible manteniendo la privacidad.

• Comprenda las limitaciones de su conjunto de datos y comuníquelas a los usuarios siempre que sea posible.

• Las pruebas regulares y el control de calidad asegurarán que su modelo funcione como se espera y pueda ser confiable.

• La supervisión y actualización continua del sistema asegurará que la IA funcione correctamente. Asegúrese de considerar los comentarios de los usuarios mientras actualiza regularmente su sistema.

Los usuarios no utilizarán sus servicios si no confían en su IA. No confiaremos en los sistemas que utilizan información que no queremos compartir o creemos que llevará a conclusiones sesgadas. Las explicaciones de las decisiones y la responsabilidad por esas decisiones contribuyen significativamente a establecer la confianza. La necesidad de esta confianza es la fuerza impulsora detrás de la IA Responsable.

Pasante Consultora: Actualmente en su tercer año de Ingeniería en Tecnología (B.Tech) en el Instituto Indio de Tecnología (IIT), Goa. Es una apasionada del aprendizaje automático y tiene un gran interés en la Ciencia de Datos. Es una excelente aprendiz y trata de estar bien informada sobre los últimos avances en Inteligencia Artificial.