La ética en el uso de la inteligencia artificial y sus riesgos

Los sistemas de inteligencia artificial (IA) basados en aprendizaje automático pueden utilizarse para auditar datos financieros de manera eficiente y detectar fraudes, aunque existen riesgos éticos si los datos son sesgados. El Dr. Steven Mintz explora los principios que rigen el uso ético de la IA.

La ética es importante tanto en nuestra vida personal como profesional. La mayoría de las personas cree que el comportamiento ético incluye estándares como honestidad, equidad, integridad, responsabilidad y rendición de cuentas. Estas normas de conducta, junto con la transparencia, sustentan los sistemas éticos de inteligencia artificial. La IA ética es la base sobre la que se construye la confianza en el sistema. Según una encuesta de Deloitte, alrededor de un tercio de los ejecutivos mencionaron los riesgos éticos como una de las tres principales preocupaciones relacionadas con la IA.

KPMG identificó cinco principios de ética y IA:

1. Transformación del lugar de trabajo: El cambio masivo en los roles y tareas que definen el trabajo, junto con el auge de análisis potentes y toma automatizada de decisiones, provocará la pérdida de empleos y la necesidad de reciclaje profesional.

2. Establecimiento de supervisión y gobernanza: Nuevas regulaciones establecerán directrices para el uso ético de la IA y protegerán el bienestar del público.

3. Alineación de la ciberseguridad y la IA ética: Los algoritmos autónomos dan lugar a riesgos de ciberseguridad y ataques adversarios que pueden contaminar los algoritmos mediante la manipulación de los datos. Según el informe “CEO Outlook” de KPMG de 2019, el 72% de los consejeros delegados estadounidenses coinciden en que una ciberseguridad sólida es fundamental para generar confianza con sus principales grupos de interés, en comparación con el 15% en 2018.

4. Mitigación del sesgo: Comprender el funcionamiento de algoritmos autónomos sofisticados es esencial para tomar medidas que eliminen el sesgo injusto con el tiempo a medida que continúan evolucionando.

5. Aumento de la transparencia: Las normas universales de equidad y confianza deben informar las políticas generales de gestión para el uso ético de la IA.

La IA puede mejorar la toma de decisiones humana, pero tiene sus limitaciones. Existe la posibilidad de que el sesgo en los algoritmos cree un riesgo ético que cuestione la fiabilidad de los datos producidos por el sistema. El sesgo puede abordarse mediante la explicabilidad de los datos, la reproducibilidad en pruebas para obtener resultados consistentes y la auditabilidad.

Otros riesgos éticos incluyen la falta de transparencia, la erosión de la privacidad, una mala rendición de cuentas y el desplazamiento y transición de la fuerza laboral. La existencia de tales riesgos afecta si los sistemas de IA deben ser confiables. Para construir confianza a través de la transparencia, las organizaciones deben explicar claramente qué datos recopilan, cómo se utilizan y cómo afectan los resultados a los clientes.

El “Acto de Rendición de Cuentas Algorítmica de 2019” fue presentado en la Cámara de Representantes de Estados Unidos el 10 de abril de 2019 y remitido al Comité de Energía y Comercio de la Cámara. El proyecto de ley requiere una evaluación de los riesgos que plantean los sistemas de decisión automatizados para la privacidad o seguridad de la información personal de los consumidores y los riesgos de que los sistemas puedan resultar o contribuir a decisiones inexactas, injustas, sesgadas o discriminatorias que afecten a los consumidores.

Los asuntos de gobernanza y responsabilidad se refieren a quién crea las normas éticas para la IA, quién gobierna el sistema y los datos de IA, quién mantiene los controles internos sobre los datos y quién es responsable cuando se identifican prácticas no éticas. Los auditores internos tienen un papel importante que desempeñar a este respecto. Deben evaluar los riesgos, determinar el cumplimiento de las regulaciones y reportar sus hallazgos directamente al comité de auditoría del consejo de administración.

La auditoría es la función de examinar datos para determinar si son precisos y confiables y si el sistema utilizado para generarlos opera según lo previsto. Los datos sesgados producirán resultados sesgados. Por ejemplo, una institución financiera que otorgue préstamos hipotecarios a solicitantes blancos en números mucho mayores que a minorías puede ser sesgada. Suponiendo que los datos estuvieran sesgados, los sistemas de IA de aprendizaje automático reproducirían involuntariamente estos resultados con el tiempo.

La auditoría de IA funciona bien para una empresa de arrendamiento con cientos de contratos de arrendamiento dados necesitan verificar que cada uno haya sido correctamente registrado ya sea como activo con valor futuro o como gasto para el período. Los sistemas de IA pueden ayudar a analizar rápidamente contratos complejos para tomar esa determinación, pero los estándares contables deben introducirse con precisión para que el sistema sepa qué buscar.

El mayor valor del uso de la IA en auditorías es detectar fraudes, con la idea de identificar y capturar anomalías. Por ejemplo, un gasto reembolsable presentado por un empleado debe examinarse vinculándolo a un recibo de restaurante. ¿Qué pasa si el recibo de $100 no se basa en comida pedida sino en un certificado de regalo para un amigo o familiar? La cantidad exacta del recibo puede levantar una bandera roja en un sistema impulsado por IA, donde se examina todos los datos, a diferencia de un sistema de procesamiento de datos más tradicional que utiliza datos muestreados.

Las empresas pierden aproximadamente el 5% de sus ingresos anuales como resultado de fraudes laborales, según el Informe ACFE 2018 a las Naciones. Resulta que el riesgo de fraude laboral es mucho mayor de lo que muchos gerentes y líderes perciben. Cada caso da como resultado una pérdida mediana de $130,000; con casos que duran una mediana de 16 meses, el fraude es algo que las organizaciones de todos los tamaños deben cuidar para detectar y disuadir. Los sistemas de IA pueden analizar grandes cantidades de datos rápidamente y exhaustivamente para determinar si los activos han sido desviados.

Los sistemas de IA también pueden tener valor predictivo mediante el aprendizaje automático e identificar áreas y eventos de alto riesgo. Puede diseñar un modelo predictivo de fraude contable que calcule con mayor precisión la probabilidad de futuras incorrecciones materiales en los estados financieros y mejore la calidad de las auditorías.

Usar IA para examinar todos los datos financieros y determinar si existe fraude financiero proporciona una gran ventaja sobre sistemas anteriores. Ofrece un nivel más alto de seguridad y reduce el riesgo de fraude.

La gobernanza corporativa es esencial para desarrollar y hacer cumplir políticas, procedimientos y estándares en sistemas de IA. Los directores de ética y cumplimiento tienen un papel importante que desempeñar, incluyendo la identificación de riesgos éticos, la gestión de dichos riesgos y asegurar el cumplimiento de los estándares.

Se deben implementar estructuras y procesos de gobernanza para gestionar y monitorear las actividades de IA de la organización. El objetivo es promover la transparencia y la rendición de cuentas, asegurando el cumplimiento de las regulaciones y que se cumplan los estándares éticos.

Un estudio de investigación realizado por Genesys encontró que más de la mitad de los encuestados indicaron que sus empresas actualmente no tienen una política escrita sobre el uso ético de la IA, aunque el 21% expresó una preocupación definitiva de que sus empresas pudieran utilizar la IA de manera no ética. La encuesta incluyó a 1.103 empleadores y 4.207 empleados sobre los efectos actuales y futuros de la IA en sus lugares de trabajo. Los 5.310 participantes provinieron de seis países: Estados Unidos, Alemania, Reino Unido, Japón, Australia y Nueva Zelanda. Otros resultados incluyen:

• El 28% de los empleadores temen que sus empresas puedan enfrentar responsabilidades futuras por un uso imprevisto de la IA.
• El 23% afirma que actualmente existe una política corporativa escrita sobre el uso ético de la IA.
• El 40% de los empleadores sin una política escrita sobre ética de IA creen que sus empresas deberían tener una.
• El 54% de los empleados creen que sus empresas deberían tener una.

El uso ético de la IA debe abordarse por todas las organizaciones para construir confianza en el sistema y satisfacer las necesidades de los grupos de interés para obtener información precisa y confiable. Una mejor comprensión del aprendizaje automático contribuiría en gran medida a lograr este resultado.

Todavía es necesaria la intervención humana en la IA para decidir sobre el valor de la información producida por el sistema y su uso en la búsqueda de incorrecciones materiales y fraudes financieros. En este sentido, el acrónimo GIGO (“basura entra, basura sale”) puede ser apropiado. A menos que los datos se proporcionen y procesen de manera confiable, la IA producirá resultados inexactos, incompletos o incoherentes, y el aprendizaje automático se vería comprometido en cuanto a la IA ética.