En la actualidad, vemos la inteligencia artificial (IA) como una forma de facilitar las tareas y brindar comodidad a nuestras vidas mediante la automatización, detección de fraudes, optimización logística, sistemas de recomendación, entre otros. Sin embargo, también presenta desafíos como el desempleo, la interacción entre IA y humanos (y viceversa), errores o comportamientos irracionales en los sistemas de IA, preocupaciones de seguridad e incluso cuestiones sobre los derechos de los robots.

La legislación tiene dificultades para mantenerse al día con los avances de la IA, ya que día a día avanzamos muy rápidamente. Además, definir límites es fundamental para la sostenibilidad de todos los seres vivos. Implementar principios éticos en la inteligencia artificial proporcionaría una dirección adecuada al futuro mundo impulsado por IA, a pesar de que somos conscientes de las limitaciones superficiales de los sistemas de IA y la complejidad para lidiar con ellos.

La ética principalmente se refiere a la conducta moral de una persona al realizar diversas tareas de vida. De manera similar, la ética en la inteligencia artificial se refiere al comportamiento de robots y sistemas de IA. El software basado en inteligencia artificial está presente en nuestra vida diaria, incluyendo el motor de búsqueda de Google, las recomendaciones de Netflix y YouTube a través de Alexa, automóviles autónomos y programas de reconocimiento facial.

Esto plantea preguntas sobre cómo estos algoritmos realizan recomendaciones o determinan límites de crédito para diversos clientes. Algunos algoritmos son fácilmente comprensibles, sin embargo, no siempre podemos explicar cómo los algoritmos de aprendizaje profundo (deep learning) llegan a sus conclusiones. Dado que nuestros algoritmos están en constante evolución y mejora, puede ser complejo identificar a partir de qué parámetros emergen los resultados.

Por ejemplo, un banco utiliza IA para determinar quién recibe aprobación para préstamos. Los algoritmos podrían seleccionar cualquier parámetro, incluyendo casta, estatus, religión y raza. Aunque las corporaciones que utilizan sistemas de IA pueden no ser conscientes de prejuicios, al analizar datos del año anterior revela que algunas razas y religiones no son aceptadas para préstamos con el mismo estatus que otras religiones, lo cual contradice nuestra ley moral de tratar a todas las personas por igual. Aunque la discriminación en este caso no pueda atribuirse directamente al banco, afecta los valores humanos y necesita ser regulada por ley, exigiendo que los sistemas de IA cumplan con estándares éticos.

Cada algoritmo de IA y tecnología que utilice inteligencia artificial debe ser transparente, con un propósito, objetivo y justificación clara. Estas divulgaciones son cruciales para rastrear los resultados de la tecnología y asegurar que se alineen con los valores humanos. Las personas deberían poder comprender, percibir y reconocer rápidamente el proceso de toma de decisiones detrás del diseño implementado.

Se fundamenta en la idea de que cualquier innovación en IA debe respetar los valores humanos y promover el desarrollo general de personas y comunidades. Para garantizar sensibilidad ante diversas normas y creencias culturales, se requiere extrema precaución.

Es crucial fomentar un ambiente laboral donde no exista discriminación basada en género, etnia, casta o credo. Incluir miembros del equipo de diversos orígenes culturales ayuda a reducir prejuicios y avanzar hacia la inclusión.

Esto se relaciona tanto con la seguridad de los datos de los usuarios como con el bienestar general. Es esencial reconocer los riesgos y buscar soluciones para mitigarlos. Los derechos de los usuarios sobre sus datos pueden protegerse e implementarse mediante medidas de seguridad como la encriptación, otorgando a los usuarios control sobre cómo y dónde se utilizan sus datos.

Los equipos que utilizan IA deben asumir responsabilidad por las decisiones tomadas y sus resultados. Los procesos de toma de decisiones deben ser auditables, especialmente cuando la IA maneja datos privados o sensibles como propiedad intelectual, información de identificación o biométrica, o datos de salud personal.

Cualquier proceso de trabajo con IA debe priorizar la protección de la privacidad de los consumidores. Se debe obtener el permiso explícito de los usuarios para utilizar y almacenar sus datos. Se deben seguir las medidas de seguridad más estrictas para prevenir la divulgación de información privada.

La inteligencia artificial (IA) es una tecnología creada por humanos para duplicar, mejorar o reemplazar la inteligencia humana. Para proporcionar análisis e información valiosa, estos sistemas frecuentemente dependen de grandes cantidades de datos diversos. Programas mal concebidos basados en datos inexactos, insuficientes o sesgados pueden tener efectos inesperados, incluso perjudiciales. Además, debido al rápido desarrollo de los sistemas algorítmicos, a veces no podemos comprender cómo un sistema de IA llegó a una determinada conclusión. Como resultado, esencialmente confiamos en sistemas que no comprendemos para tomar decisiones que podrían impactar a la sociedad.

Un marco ético para la IA es crucial porque clarifica las ventajas y desventajas de las herramientas de IA y define estándares para su uso responsable. Es necesario que la industria y las partes interesadas consideren cuestiones sociales importantes, eventualmente abordando la pregunta sobre qué hace humanos a los seres humanos, para desarrollar un conjunto de principios morales y métodos para emplear la IA responsablemente.

Al utilizar tecnología de IA, las empresas deben enfrentar varios desafíos éticos:

• Explicabilidad: Los equipos deben poder seguir una compleja red de sistemas algorítmicos y procesamiento de datos para determinar por qué fallan los sistemas de IA. Las empresas que adoptan IA deben ser capaces de explicar el origen de los datos, los datos de salida, las acciones realizadas por sus algoritmos y la lógica detrás de esas acciones. Adam Wisniewski, director tecnológico y cofundador de AI Clearing, afirmó que “la IA necesita tener un alto grado de trazabilidad para garantizar que, si ocurren problemas, puedan rastrearse hasta su causa”.

• Responsabilidad: La sociedad actualmente está definiendo responsabilidades por decisiones tomadas por sistemas de IA que resultan en consecuencias catastróficas, como pérdida económica, daño a la salud o incluso muerte. Se necesita un mecanismo donde abogados, reguladores y ciudadanos se reúnan para determinar quién es responsable por los resultados de decisiones basadas en IA. Encontrar el equilibrio correcto en situaciones donde un sistema de IA puede ser más seguro que la actividad humana que reemplaza pero aún así produce problemas es difícil, por ejemplo, al evaluar los beneficios de sistemas de conducción autónoma que resultan en fallecimientos pero mucho menos frecuentemente que los humanos.

• Equidad: Es crucial asegurar que no existan sesgos raciales, de género o étnicos en conjuntos de datos que contienen información identificable personalmente.

• Mal uso: Los algoritmos de IA pueden utilizarse para propósitos distintos a los que fueron diseñados. Según Wisniewski, estas posibilidades deberían evaluarse durante la fase de diseño para limitar riesgos e implementar medidas de seguridad que reduzcan cualquier impacto negativo.

Dos tendencias significativas - el aumento del enfoque en el cliente y el crecimiento del activismo social - han coincidido con la aceleración tremenda de la adopción de IA en organizaciones, y en muchos casos, esta coincidencia de tendencias ha contribuido a su crecimiento.

Según Sudhir Jha, vicepresidente senior y director de la división Brighterion en MasterCard, “Las empresas son recompensadas no solo por proporcionar productos y servicios personalizados sino también por respetar los valores de los consumidores y actuar positivamente para la sociedad en la que operan”.

La IA tiene un impacto significativo en cómo los clientes interactúan y perciben una empresa. Debe garantizarse una influencia positiva a través de su uso responsable. Los empleados, al igual que los clientes, desean sentirse bien respecto a las empresas para las que trabajan. Según Jha, una IA responsable puede ayudar a retener empleados y asegurar que las operaciones empresariales se desarrollen sin contratiempos.

• Política: Esto implica crear reglas y la estructura necesaria para promover la estandarización. El diálogo debe comenzar con iniciativas como los Principios de Asilomar para la IA, y existen muchas iniciativas centradas en el desarrollo de políticas en Europa, Estados Unidos y otras regiones. Las políticas para una IA ética también deben incluir cómo manejar problemas legales si estos surgen. Los códigos de conducta propios de las empresas pueden incluir políticas de IA. Sin embargo, su efectividad depende de que los empleados sigan la ley, lo cual puede no ser posible cuando están en juego el dinero o la reputación.

• Educación: Todos los interesados - ejecutivos, científicos de datos, personal de primera línea y clientes - necesitan estar conscientes de las políticas, factores críticos y posibles consecuencias negativas del uso inmoral de la IA y datos falsos. El equilibrio entre la automatización de la IA y la facilidad de compartir datos versus los posibles inconvenientes del intercambio excesivo o la automatización perjudicial es una gran preocupación. Shepherd explicó que una ecuación compleja basada en una combinación de satisfacción inmediata, valor, percepción y riesgo determina el deseo de los consumidores de tomar activamente el control de sus datos y prestar atención a los posibles riesgos habilitados por la IA.

• Tecnología: Los ejecutivos también deben diseñar sistemas de IA capaces de identificar rápidamente información falsa y actividades inmorales. Esto requiere revisar a proveedores y socios para detectar el uso indebido de la IA además de examinar la propia IA de la empresa. Ejemplos incluyen el uso de IA para realizar hackeos sofisticados o emplear videos y textos falsos (deepfakes) para desprestigiar a un competidor. A medida que las tecnologías de IA se vuelven más accesibles, este problema empeorará. Las organizaciones deben invertir en medidas protectoras basadas en una infraestructura de IA abierta, transparente y confiable para contrarrestar este posible efecto bola de nieve. Shepherd predice que, como resultado, las “trust fabrics” (tejidos de confianza) se utilizarán más ampliamente, ofreciendo un método a nivel de sistema para automatizar la garantía de privacidad, asegurar la confianza en los datos y detectar usos inmorales de la IA.

Un código de ética para la IA puede definir los valores y inspirar comportamientos correctos.

• Un sistema de IA ético debe ser accesible para todos, comprensible, servir a un propósito útil y manejar datos de forma responsable.

• Un sistema de IA inclusivo debe ser objetivo y efectivo en todos los aspectos de la sociedad. Para garantizar que no exista sesgo inherente en el conjunto de datos, esto requiere un conocimiento completo de cada fuente de datos utilizada para entrenar los modelos de IA. Para eliminar cualquier característica no deseada adquirida durante el proceso de entrenamiento, el modelo entrenado también debe someterse a una evaluación exhaustiva. Además, los modelos deben estar bajo vigilancia continua para asegurar que no haya corrupción futura.

• Un sistema de IA explicable ayuda a la gobernanza corporativa necesaria para garantizar el uso ético de la IA. Es difícil confiar en un sistema cuyos comportamientos no son explicables. Ganar confianza podría requerir hacer un compromiso entre elegir un algoritmo que pueda explicarse y una ligera reducción en el rendimiento del modelo.

• Un sistema de IA con buena intención intenta hacer cosas como reducir fraudes, disminuir desperdicios, recompensar a las personas, ralentizar el cambio climático, tratar enfermedades, etc. Cualquier tecnología tiene potencial para causar daño, por lo tanto es crucial considerar estrategias para prevenir el mal uso de la IA. Esta será una tarea difícil, pero dada la magnitud y alcance de la IA, el riesgo de ignorar este tema y abusar de la tecnología es mucho mayor que antes.

• Un sistema de IA que respete los derechos a la privacidad utiliza los datos de forma responsable. Un sistema de IA depende de datos y generalmente más datos llevan a modelos mejores. No debe comprometerse el derecho a la privacidad y transparencia en la búsqueda de acumular cada vez más datos. Para construir un sistema de IA confiable, la recolección, administración y uso responsable de datos es crucial. La granularidad de los datos debe ser lo mínimo posible, y solo debe recolectarse cuando sea necesario, no de forma continua. Por ejemplo, una aplicación no debería recopilar la ubicación precisa de un usuario si solo necesita información de geolocalización a nivel de código postal para proporcionar pronósticos del tiempo. Además, los datos que ya no sean necesarios deben eliminarse sistemáticamente del sistema.

Los avances tecnológicos hacen imperativo crear algunas directrices para el comportamiento moral de los sistemas de IA hacia los humanos y viceversa. Hemos abordado varias situaciones donde la ética de la IA es crucial. Hemos discutido aspectos como seguridad, privacidad, equidad, transparencia, seguridad y responsabilidad, que podrían verse más afectados por la IA. Grandes corporaciones tienen sus propios códigos de ética para abordar estos temas y avanzar de la manera adecuada.