Por: Dr. Virgilio M. Malagón Álvarez, PhD
virgiliomalagonalvarez@gmail.com
Para «El Mundo de los Negocios» y demás Multimedios de The Ballester Business & Media Group, Inc.
Apreciado Lector: Por considerarlo de interés, les presento algunas consideraciones sobre el tema de la Inteligencia Artificial, que a la postre, NO es tan inteligente.
I-PREAMBULO:
1-¿Qué es la Inteligencia Artificial (IA)?
La Inteligencia artificial se refiere a sistemas informáticos capaces de realizar tareas complejas que históricamente solo un humano podía realizar, como razonar, tomar decisiones o resolver problemas, etc. Aquí hay algunos puntos clave sobre la IA:
a)-Definición: La IA permite que las computadoras y las máquinas simulen la inteligencia humana y las capacidades de resolución de problemas. Puede realizar tareas que de otro modo requerirían intervención o inteligencia humana. Los ejemplos incluyen asistentes digitales, guía GPS, vehículos autónomos y herramientas de inteligencia artificial generativa, algoritmos para la guerra, etc.
2-Tipos de IA:
a)-IA débil (IA estrecha): este tipo de IA está entrenada y enfocada para realizar tareas específicas. Los ejemplos incluyen Siri de Apple, Alexa de Amazon, IBM Watson y vehículos autónomos. Aunque se denomina «débil», permite aplicaciones sólidas.
b)-IA fuerte: La IA fuerte consta de dos categorías:
-Inteligencia General Artificial (AGI): IA teórica donde una máquina tendría una inteligencia igual a la de los humanos. Sería consciente de sí mismo y capaz de resolver problemas, aprender y planificar el futuro.
-Superinteligencia artificial (ASI): ASI superaría la inteligencia y las habilidades humanas. Aunque todavía es teórico, los investigadores exploran su desarrollo¹.
3-Aplicaciones: La IA se utiliza en varios dominios, incluido el procesamiento del lenguaje natural (PNL), la visión por computadora, la robótica y más. Puede aprender de los datos y hacer predicciones cada vez más precisas con el tiempo.
4-Consideraciones éticas: A medida que crece la adopción de la IA, los debates sobre la ética de la IA y la IA responsable se vuelven cruciales. Garantizar la confianza y la transparencia en los sistemas de IA es esencial para su integración exitosa en los negocios y la sociedad¹.
5-Qué no es la IA:
a)-La IA no es mágica: los algoritmos de IA se basan en datos y modelos matemáticos. No poseen poderes místicos pero operan a través de procesos bien definidos.
b)-La IA no es infalible: los sistemas de IA pueden cometer errores, especialmente si los datos de entrenamiento están sesgados o son incompletos. Es necesario realizar un seguimiento y una mejora periódicos.
c)-La IA no es conciencia humana: si bien la AGI tiene como objetivo imitar la inteligencia humana, no implica autoconciencia ni conciencia. La IA carece de emociones, deseos y experiencias subjetivas.
d)-La IA no reemplaza el juicio humano: la IA aumenta las capacidades humanas pero no reemplaza el pensamiento crítico, la creatividad o la empatía.
NOTA 1.: En resumen, la IA es una herramienta poderosa que mejora nuestras vidas, pero es esencial utilizarla de manera responsable y ética. Mientras continuamos explorando su potencial, asegurémonos de que la IA beneficie a la humanidad en su conjunto.
II-RIESGOS Y APREHENSIONES:
El desarrollo de la Inteligencia Artificial (IA) enfrenta varios desafíos. Exploremos algunos de los claves:
1-Calidad y disponibilidad de datos:
a)-Los modelos de IA dependen en gran medida de los datos con los que se entrenan. Los datos de alta calidad, diversos y relevantes son cruciales para realizar predicciones y generalizaciones precisas.
b)-Los desafíos incluyen la escasez de datos, el sesgo en los datos de capacitación y la garantía de la privacidad de los datos.
2-Obstáculos tecnológicos:
a)-A pesar de los rápidos avances, la IA todavía enfrenta ciertas limitaciones tecnológicas:
– Potencia informática: entrenar modelos grandes y complejos requiere importantes recursos computacionales.
– Desafíos algorítmicos: desarrollar algoritmos eficientes para tareas específicas sigue siendo un desafío.
– Interpretabilidad: comprender cómo los modelos de IA toman decisiones es esencial para la confianza y la responsabilidad².
3-Falta de comprensión y objetivos claros:
a)-Las organizaciones suelen tener dificultades para definir objetivos claros para los proyectos de IA. La falta de alineación entre los objetivos comerciales y las iniciativas de IA puede obstaculizar el progreso.
4-Preocupaciones de privacidad:
a)-Los sistemas de IA procesan grandes cantidades de datos personales. Garantizar la privacidad y el cumplimiento de las normativas (como el RGPD) es fundamental.
5-Integración en sistemas existentes:
a)-La integración de soluciones de IA en sistemas heredados puede resultar compleja. Los problemas de compatibilidad y las interrupciones durante la implementación necesitan una gestión cuidadosa.
6-Falta de talento en IA:
a)-La demanda de profesionales cualificados en IA supera la oferta. Las organizaciones enfrentan desafíos a la hora de contratar y retener expertos en IA.
7-Preocupaciones éticas:
a)-Las decisiones de la IA impactan la vida de las personas. Garantizar la equidad, la transparencia y el comportamiento ético es esencial.
b)-Abordar los prejuicios, la discriminación y las consecuencias no deseadas es un desafío constante.
8-Seguridad y almacenamiento de datos:
a)-Proteger los modelos, los datos y la infraestructura de IA de las ciber amenazas es crucial. Son necesarias medidas de seguridad sólidas.
NOTA 2.: En resumen, si bien la IA es inmensamente prometedora, superar estos desafíos es esencial para alcanzar su máximo potencial. Las organizaciones, los formuladores de políticas y los investigadores deben colaborar para abordar estos problemas y crear un ecosistema de IA responsable y beneficioso.
III-Como se pueden mitigar las aprehensiones:
Mitigar el sesgo en la Inteligencia Artificial (IA) es crucial para garantizar la equidad y prevenir resultados discriminatorios. Aquí hay algunas estrategias para abordar el sesgo:
1-Mitigación del sesgo previo al procesamiento:
a)-Se centra en los datos de entrenamiento, donde a menudo se introduce sesgo.
– Las técnicas incluyen aumento de datos, re-muestreo y equilibrio de clases para reducir el sesgo.
2-Mitigación del sesgo durante el procesamiento:
a)-Mitiga el sesgo dentro del modelo durante el entrenamiento. Los métodos incluyen:
– Entrenamiento contradictorio: presenta ejemplos contradictorios para mejorar la solidez contra los prejuicios.
– Reponderación de funciones de pérdida: ajusta las funciones de pérdida para penalizar las predicciones sesgadas.
3-Mitigación del sesgo en la fase d post-procesamiento:
a)-Analiza los resultados del modelo después del entrenamiento.
b)-Las técnicas incluyen:
– Ajuste de umbral: modifica los umbrales de decisión para lograr la equidad deseada.
– Calibración: garantiza que las probabilidades previstas se alineen con los resultados reales.
4-Diversos datos de entrenamiento:
a)-Recopilar datos diversos y representativos para minimizar sesgos.
b)-Incluir grupos subrepresentados para evitar modelos sesgados.
5-Métricas de equidad:
a)-Evaluar modelos utilizando métricas de equidad (por ejemplo, impacto dispar, probabilidades igualadas).
b)-Monitorear el sesgo durante el desarrollo y la implementación².
6-Principios éticos de la IA:
a)-Las organizaciones deberían adoptar principios éticos de la IA.
b)-Garantizar la transparencia, la rendición de cuentas y la equidad en los sistemas de IA.
7-Supervisión Humana y Auditorías:
a)-Establecer «equipos rojos» internos o auditorías de terceros para identificar sesgos.
b)-Participar en conversaciones basadas en hechos sobre posibles prejuicios humanos³.
8-Enfoque sociotécnico:
a)-Reconocer que la IA opera dentro de un contexto social más amplio.
b)-Combinar esfuerzos técnicos con conciencia social para abordar los prejuicios⁴.
NOTA 3.: Recuerde que la mitigación de sesgos es un proceso continuo. Al implementar estas estrategias, podemos crear sistemas de IA más equitativos y responsables.
IV-RETOS EN TRANSPARENTAR EL USO DE LA AI:
La transparencia de la IA se refiere a la capacidad de comprender el funcionamiento interno de un modelo de IA: el «cómo» y el «por qué» detrás de sus decisiones.
NOTA 3.: En esencia, la transparencia de la IA tiene que ver con la EXPLICABILIDAD y la CONFIANZA. No se trata sólo de comprender los algoritmos en juego, sino también de las interacciones y las implicaciones sociales de la IA. A continuación se muestran algunas formas de garantizar la transparencia en la toma de decisiones de IA:
1-Modelos explicables:
a)-Desarrollar modelos de IA que proporcionen explicaciones claras de sus decisiones. Técnicas como el aprendizaje automático interpretable ayudan a revelar los factores que influyen en las predicciones.
2-Importancia de la característica:
a)-Identificar qué características o variables contribuyen más al resultado del modelo. Esto ayuda a los usuarios a comprender por qué se tomó una decisión específica.
3-Documentación e informes:
a)-Mantener documentación detallada sobre el sistema de IA, incluida su arquitectura, datos de entrenamiento y reglas de decisión.
b)-Informar periódicamente sobre el rendimiento, las actualizaciones y los cambios del modelo.
4-Colaboración entre humanos e IA:
a)-Involucrar a expertos humanos en el proceso de toma de decisiones junto con los sistemas de IA.
b)-Colaborar para validar e interpretar los resultados de la IA.
5-Auditorías algorítmicas:
a)-Realizar auditorías periódicas para evaluar la imparcialidad, el sesgo y las implicaciones éticas de los modelos de IA.
b)-Velar por el cumplimiento de las normas legales y éticas.
6-Interfaces fáciles de usar:
a)-Diseñar interfaces que permitan a los usuarios explorar predicciones de modelos, visualizar datos y comprender los límites de decisión.
7-Políticas de Transparencia:
a)-Las organizaciones deberían adoptar políticas claras con respecto a la transparencia de la IA.
b)-Comunicar estas políticas a los usuarios y partes interesadas.
8-Educación y Concientización:
a)-Educar a los usuarios, desarrolladores y tomadores de decisiones sobre la transparencia de la IA.
b)-Fomentar la conciencia de la importancia de comprender los sistemas de IA.
Recuerde que la transparencia no solo genera confianza, sino que también permite a los usuarios tomar decisiones informadas basadas en los resultados de la IA.
V-COMO SE PUEDE FOMENTAR LA TRANSPARENCIA EN EL USO DE LA IA:
1-Complejidad de los algoritmos de IA:
a)-Los sistemas de IA, especialmente los basados en el aprendizaje profundo, son intrínsecamente complejos. Sus intrincadas arquitecturas y complejos procesos de toma de decisiones hacen que sea difícil interpretarlos y explicarlos de manera legible por humanos².
2. Problemas de seguridad y privacidad de datos:
a)-El aumento de la transparencia a veces puede entrar en conflicto con la necesidad de proteger datos confidenciales. Es fundamental equilibrar la transparencia con la privacidad y la seguridad de los datos.
b)-Las organizaciones deben encontrar formas de proporcionar información sobre las decisiones de IA sin comprometer la privacidad.
3-Compensaciones entre transparencia y desempeño:
a)-A menudo existe un equilibrio entre el rendimiento de un modelo de IA y su transparencia. Los modelos altamente interpretables pueden sacrificar la precisión predictiva.
b)-Lograr el equilibrio adecuado entre transparencia y rendimiento es una tarea delicada.
4-Falta de estandarización:
a)-El campo carece de directrices estandarizadas para lograr la transparencia. Las diferentes partes interesadas (investigadores, profesionales, formuladores de políticas) pueden tener expectativas diferentes.
b)-Establecer prácticas y estándares comunes es esencial.
5-Modelos de “caja negra”:
a)-Algunos modelos de IA, como las redes neuronales profundas, funcionan como «cajas negras». Proporcionan predicciones precisas pero carecen de transparencia.
b)-Se están realizando esfuerzos para hacer que estos modelos sean más interpretables⁴.
6-Técnicas de explicabilidad:
a)-Si bien técnicas como LIME y SHAP ayudan a explicar las predicciones de los modelos, es posible que no siempre proporcionen una comprensión completa.
b)-Los investigadores continúan explorando métodos novedosos para lograr una mejor explicabilidad.
7-Sesgo de interpretación humana:
a)-Incluso con explicaciones transparentes, los intérpretes humanos pueden introducir sus sesgos al comprender las decisiones de la IA.
b)-Abordar este sesgo es crucial para una transparencia efectiva.
8-Equilibrio de las necesidades de las partes interesadas:
a)-Las distintas partes interesadas (usuarios, reguladores, desarrolladores) tienen distintos requisitos de transparencia.
b)-Lograr un equilibrio que satisfaga a todas las partes es un desafío.
NOTA 4.: En resumen, lograr la transparencia de la IA implica afrontar estos desafíos y al mismo tiempo garantizar que los sistemas de IA sigan siendo responsables, justos y comprensibles.
V- LA IA, EN EL MUNDO REAL:
1-Diagnóstico sanitario:
a)-En el ámbito sanitario, los sistemas de IA se utilizan para diagnosticar enfermedades a partir de imágenes médicas (como rayos X o resonancias magnéticas). La transparencia es crucial aquí porque los médicos deben comprender cómo llegó la IA a sus recomendaciones. Los sistemas que brindan explicaciones claras de sus diagnósticos garantizan confianza y responsabilidad.
2-Modelos de calificación crediticia:
a)-Los bancos y las instituciones financieras utilizan la IA para la calificación crediticia. Los modelos transparentes permiten a los gestores de riesgos comprender los umbrales y la ponderación de las variables de entrada. Esta transparencia garantiza prácticas crediticias justas y ayuda a prevenir sesgos.
3-Herramientas policiales predictivas:
a)-Algunos departamentos de policía utilizan IA para predecir puntos críticos de criminalidad. Los sistemas transparentes permiten a las fuerzas del orden comprender los factores que influyen en las predicciones. Esta transparencia ayuda a abordar las preocupaciones sobre los prejuicios y garantiza el uso responsable de la IA en la actuación policial.
4-La ética en el uso de las IA en las redes sociales:
a)-Las plataformas de redes sociales están adoptando cada vez más sistemas de inteligencia artificial transparentes para combatir la desinformación, el discurso de odio y el contenido dañino. Al explicar cómo se toman las decisiones de moderación de contenido, estas plataformas buscan la equidad y la confianza del usuario.
5-Chatbots y asistentes virtuales explicables:
a)-Los chatbots y asistentes virtuales que brindan explicaciones claras de sus respuestas mejoran la experiencia del usuario. La transparencia en su proceso de toma de decisiones genera confianza con los usuarios².
NOTA 5.: Recuerde que la transparencia es esencial no sólo para la comprensión técnica sino también por razones éticas y sociales. Las organizaciones que priorizan la transparencia contribuyen a un ecosistema de IA más responsable y confiable.
VI- LA IA Y SU IMPACTO EN LA GOBERNANZA EN GENETRAL:
La IA tiene un impacto significativo en la gobernanza en varios dominios. A continuación se muestran algunas formas en que la inteligencia artificial influye en la gobernanza:
1-Gobierno Corporativo:
Pregunto: ¿Hacia la gobernanza artificial? El papel de la inteligencia artificial en la configuración del futuro del gobierno corporativo explora el impacto de la IA en el desarrollo y sostenibilidad de la Gobernanza nacional. De ahí que , propongo cinco escenarios de gobernanza artificial:
a)-Inteligencia asistida: La IA ayuda a los tomadores de decisiones humanos.
b)-Inteligencia aumentada: La IA mejora la toma de decisiones humana.
c)-Inteligencia amplificada: La IA amplifica las capacidades humanas.
d)-Inteligencia autónoma: La IA toma decisiones de forma independiente.
e)-Inteligencia resiliente: La IA evoluciona y se adapta de forma autónoma.
2-Gobierno y sector público; Cuatro escenarios posibles:
Si se implementa eficazmente, la IA puede beneficiar a las organizaciones del sector público de cuatro maneras:
a)- La IA ayuda a tomar decisiones políticas informadas.
b)- La IA mejora los servicios a los ciudadanos.
c)-La IA optimiza la utilización de recursos.
d)-La IA puede coadyudar a mantener el Orden Público.
NOTA 6.: La gobernanza de la IA es compleja debido a su impacto en múltiples instituciones y temas de políticas. Las compensaciones, la satisfacción de los electores y la coherencia de las políticas deben gestionarse de manera efectiva.
3-La gobernanza eficaz de la IA garantiza:
a)-Transparencia: Los sistemas de IA son transparentes.
b)-Equidad: AI respeta los derechos humanos y evita prejuicios.
c)-Responsabilidad: los sistemas de IA son responsables de sus acciones.
En resumen, la influencia de la IA en la gobernanza y nuestra cotidianidad se extiende más allá de los entornos morales, técnicos y resilientes. Afecta la formulación de políticas, la prestación de servicios y la eficiencia operativa tanto en el sector público como en el privado. Garantizar una gobernanza responsable de la IA es crucial para un futuro sostenible y equitativo.