La inteligencia artificial: entre el progreso y el dilema ético
“Podemos tratar los datos que recogemos y la información disponible públicamente para ayudar a entrenar nuestros modelos de aprendizaje informático o inteligencia artificial (…)” o “utilizamos su información para (…) revisar, mejorar y desarrollar la Plataforma, mediante el seguimiento de las interacciones y el uso en sus dispositivos, el análisis de cómo la utilizan las personas, y la formación, prueba y mejora de nuestra tecnología, como nuestros modelos y algoritmos de aprendizaje automático”. ¿Te suena leer estas líneas? Por si no lo recuerdas, estas transcripciones son solo dos ejemplos de los cuantiosos que podríamos obtener de otras plataformas, correspondientes a las políticas de privacidad de X y TikTok, respectivamente.
Si bien el surgimiento de ChatGPT ha popularizado el término inteligencia artificial, la idea de crear máquinas que imiten el pensamiento humano no es nueva. Durante siglos, filósofos y científicos han soñado con esta posibilidad, dando lugar a obras de ficción como Frankenstein de Mary Shelley o la película 2001: Una odisea del espacio de Stanley Kubrick.
El poder de la inteligencia artificial
En la era digital actual, nos encontramos ante un diluvio de datos sin precedentes.
En el año 1955, el término inteligencia artificial (IA) cobró vida gracias a la mente pionera de John McCarthy. Este hito marcó el inicio de una revolución tecnológica que transformaría para siempre el mundo tal y como lo conocemos. Un año más tarde, en 1956, McCarthy, junto a un grupo de visionarios, organizó la histórica Dartmouth Summer Research Project on Artificial Intelligence. Este encuentro seminal no solo dio lugar a la creación de disciplinas como el aprendizaje automático, el aprendizaje profundo y el análisis predictivo, sino que también sentó las bases para el análisis prescriptivo, una herramienta fundamental en la toma de decisiones estratégicas.
Más allá de estas innovaciones técnicas, la conferencia de Dartmouth dio origen a un campo de estudio completamente nuevo: la ciencia de datos. Esta disciplina, que se nutre de la IA y el análisis estadístico, se ha convertido en una pieza clave para comprender el mundo que nos rodea, extrayendo información valiosa de grandes conjuntos de datos y permitiendo tomar decisiones más informadas en diversos ámbitos.
Hoy en día, la inteligencia artificial ha superado el ámbito de la ciencia ficción, revolucionando nuestras vidas y nuestras formas de trabajar. Desde los casos detectados en Ayamonte o Almendralejo, donde un grupo de menores fueron acusados de desnudar digitalmente mediante inteligencia artificial a compañeras de clase, pasando por la nueva campaña publicitaria de Mango creada con inteligencia artificial generativa, hasta la reciente recreación de un tráiler de la popular serie de televisión The Walking Dead con la particularidad de ambientarla en la década de los 50, ponen de relieve que el avance de la inteligencia artificial es tan importante como innegable.
En la era digital actual nos encontramos ante un diluvio de datos sin precedentes. Tanto las actividades humanas como las de las máquinas generan información a un ritmo vertiginoso, superando con creces la capacidad humana para absorberla, interpretarla y tomar decisiones complejas basadas en ella. Es aquí donde la inteligencia artificial emerge como la aliada perfecta para navegar por este mar de datos y convertirlo en conocimiento útil.
Esta tecnología revolucionaria está transformando los procesos de toma de decisiones en todos los ámbitos, desde el análisis financiero hasta el diagnóstico médico.
Para ilustrar el poder de la IA, basta con echar un vistazo a algunos ejemplos fascinantes. Ya en 2016, Mark Zuckerberg dio a conocer Deep Text, un software capaz de comprender el contexto, significado y sentido de los mensajes publicados en Facebook con una precisión casi humana. Por otro lado, en 2024, ChatGPT-4 superó con éxito un test CAPTCHA antibots, fingiendo ser una persona ciega para demostrar su capacidad de superar la prueba de seguridad.
Estos ejemplos ponen de manifiesto el potencial ilimitado de la IA para resolver problemas que antes eran inimaginables. La IA nos permite automatizar tareas, extraer información valiosa de grandes conjuntos de datos y tomar decisiones más acertadas en tiempo real. No obstante, si bien la IA presenta inmensas oportunidades para mejorar nuestras vidas y optimizar las operaciones, también genera inquietudes sobre su posible uso indebido. La Agencia Europea para la Ciberseguridad (ENISA) ha identificado que los ciberdelincuentes están explotando la IA no solo para desarrollar código malicioso, sino también para manipular los comportamientos de estos sistemas IA. Además, no se pueden pasar por alto las implicaciones éticas de la IA, particularmente en lo que respecta a la protección de la privacidad individual y la gestión responsable de los datos personales.
Los dilemas éticos y la regulación de la IA
El Reglamento (UE) 2024/1689 de Inteligencia Artificial se basa en un enfoque de categorización del riesgo
La recopilación masiva de datos personales, incluidos datos sensibles, es crucial para entrenar algoritmos de IA, mejorar su rendimiento y evitar sesgos o errores al momento de realizar un tratamiento. Sin embargo, esta práctica plantea dilemas éticos y legales en torno al manejo y almacenamiento de datos. La protección de datos es particularmente vulnerable cuando los algoritmos de IA toman decisiones basadas en datos sensibles sin explicaciones claras de ese proceso. Este mismo caso fue lo que le ocurrió a Meta el pasado 14 de junio. Según el comunicado emitido por Meta debido a las exigencias de la Comisión Europea de Protección de Datos, esta empresa frenaba el entrenamiento de su IA basado en las publicaciones de sus usuarios de Instagram y Facebook en toda la Unión Europea y el Espacio Económico Europeo por falta de transparencia.
En respuesta a estas preocupaciones, el Reglamento General de Protección de Datos (RGPD) y la Ley Orgánica de Protección de Datos y Garantía de Derechos Digitales (LOPDGDD) han desempeñado un papel fundamental en la protección de la privacidad en el contexto de la IA hasta la llegada del Reglamento (UE) 2024/1689 de Inteligencia Artificial en marzo de 2024 y su publicación oficial en el Diario Oficial de la Unión Europea (DOUE) el pasado 12 de julio, por el que se establecen normas armonizadas en materia de inteligencia artificial. Este Reglamento entrará en vigor el 1 de agosto de 2024 y será aplicable de manera progresiva ya que no será aplicable con carácter general hasta el 2 de agosto de 2026, pasados 24 meses de su entrada en vigor (lo que se producirá a los veinte días de su publicación, el 2 de agosto de 2026), pero algunas previsiones del mismo son aplicables en plazos distintos.
En concreto, los capítulos I y II serán aplicables a partir del 2 de febrero de 2025; el capítulo III, sección 4, el capítulo V, el capítulo VII y el capítulo XII y el artículo 78 serán aplicables a partir del 2 de agosto de 2025, a excepción del artículo 101; y el artículo 6, apartado 1, y las obligaciones correspondientes del presente Reglamento serán aplicables a partir del 2 de agosto de 2027.
La nueva ley se basa en un enfoque de categorización del riesgo, estableciendo diferentes niveles de restricción en función del potencial de riesgo que presenta cada sistema de IA. En el caso de los sistemas de riesgo inaceptable, como aquellos que utilizan categorización biométrica, extracción de imágenes para reconocimiento facial, reconocimiento de emociones, puntuación social o manipulación del comportamiento, la ley contempla su prohibición total. Esta medida responde a la necesidad de proteger a los ciudadanos de posibles abusos y violaciones de sus derechos fundamentales.
Cabe destacar que, previo a la aprobación de la ley europea, en diciembre de 2023 se publicó la norma ISO 42001:2023. Este estándar internacional proporciona un marco para que las organizaciones puedan desarrollar, implementar y operar sistemas de IA de manera segura, fiable, transparente, ética y responsable. La norma ISO 42001:2023 es aplicable a cualquier organización, independientemente de su tamaño, sector o forma jurídica, e incluye tanto a entidades públicas como privadas.
La combinación de la nueva ley europea y la norma ISO 42001:2023 marca un hito significativo en la regulación de la IA. Estos marcos proporcionan a las empresas y organizaciones las herramientas y directrices necesarias para desarrollar y utilizar la IA de manera responsable, garantizando el respeto a los derechos humanos y la ética en su aplicación.
Con una amplia experiencia en consultoría normativa digital, Izertis está bien posicionada para ayudar a las organizaciones a analizar y cumplir a fondo con las nuevas regulaciones, asegurando que aprovechen el poder de la IA de manera responsable mientras navegan por el panorama legal en constante evolución.