Por Jorge Pascual, Corporate Lawyer en Techsoulogy
A medida que la Inteligencia Artificial (IA) sigue evolucionando en su desarrollo, se intensifica el debate en torno al impacto que pueden tener estas tecnologías en el mercado general y a través de ejemplos tan particulares como ChatGPT.
El uso de la Inteligencia Artificial en concreto en el ámbito de la publicidad ha suscitado preocupaciones éticas sobre privacidad, discriminación y sus potenciales efectos perjudiciales para las personas y la sociedad. En este contexto, la Comisión Europea ha reconocido la necesidad de crear un marco regulador para garantizar que los sistemas de Inteligencia Artificial se desarrollan y utilizan de forma responsable y ética. De hecho, la Comisión está a punto de aprobar el texto definitivo del Reglamento sobre Inteligencia Artificial que sigue al primer borrador de 2021.
Las principales inquietudes de Europa en torno a la Inteligencia Artificial
Desde que se publicó el borrador en abril de 2021, la regulación europea sobre Inteligencia Artificial ha sido objeto de debate y discusión entre las diversas partes implicadas, incluidos los representantes de la industria, organizaciones de la sociedad civil y responsables políticos. Sin embargo, aún no se ha aprobado el texto definitivo, que se espera que esté listo a mediados de 2023.
Algunos han tachado el borrador de demasiado prescriptivo y de ahogar potencialmente la innovación en el campo de la Inteligencia Artificial. Otros han acogido el proyecto con satisfacción al entenderlo como un paso muy necesario para garantizar que la Inteligencia Artificial se desarrolle y utilice de manera responsable y ética.
Una de las principales implicaciones éticas del uso de la Inteligencia Artificial en la publicidad digital es el potencial de discriminación.
Los sistemas de Inteligencia Artificial pueden aprender a tomar decisiones basándose en patrones de datos y esto puede dar lugar a resultados sesgados o injustos. Por ejemplo, un sistema de Inteligencia Artificial utilizado en publicidad podría aprender a dirigir anuncios a determinados grupos demográficos en función de factores como la edad, el sexo o la raza. Esto podría conducir a resultados discriminatorios y, en consecuencia, a reforzar las desigualdades existentes.
Otra preocupación ética es la posibilidad de que los sistemas de Inteligencia Artificial manipulen a las personas y ahonden en sus vulnerabilidades en el sentido de que pueden usarse para crear anuncios altamente personalizados y persuasivos que se adapten a las preferencias e intereses del individuo. Esto puede dificultar que las personas tomen decisiones informadas y puede conducir a resultados perjudiciales como la adicción o el perjuicio financiero.
Transparencia, privacidad y otras directivas europeas sobre IA
La Directiva europea sobre Inteligencia Artificial pretende abordar estas preocupaciones éticas estableciendo reglas y normas claras para el desarrollo de sistemas de Inteligencia Artificial y su aplicación en publicidad digital. Entre otras cosas, el marco regulatorio exige transparencia y explicabilidad (en el sentido de la capacidad de poder describir el modelo de Inteligencia Artificial, el impacto esperado y los sesgos que presenta) además del cumplimiento estricto de las normas sobre protección de datos y privacidad. Por otra parte, prohibe el uso de algoritmos diseñados para manipular o persuadir a las personas.
Como decimos, una de las principales implicaciones jurídicas de la Directiva para abordar estos retos éticos es el requisito de transparencia y explicabilidad de los modelos de IA. Estos dos principios se traducirán en que las empresas que utilizan Inteligencia Artificial en publicidad digital proporcionen información clara y comprensible sobre cómo funciona su tecnología y la toma de decisiones. Esto implica que deben ser capaces de explicar los algoritmos que utilizan, los datos que recopilan y los criterios que emplean para orientar y personalizar anuncios.
Además, la normativa exige a las empresas cumplir las leyes de protección de datos empezando por el Reglamento General de Protección de Datos (RGPD). Las compañías deben garantizar que recopilan y procesan datos personales de forma lícita y transparente y que las personas tienen derecho a acceder y controlar sus datos. Para esto, las empresas deben obtener el consentimiento explícito de las personas antes de recopilar y utilizar sus datos personales y proporcionar información clara sobre cómo van a utilizarlos.
La directiva también prohíbe el uso de sistemas de Inteligencia Artificial diseñados para manipular o persuadir a las personas.
Esto incluye la posibilidad de crear anuncios engañosos, discriminatorios o perjudiciales mediante IA. Las empresas deben asegurarse de que sus anuncios no promuevan actividades ilegales, incitan al odio ni promueven contenidos perjudiciales.
Las empresas que incumplan la directiva podrían enfrentarse a multas y acciones legales. Para su cumplimiento, la directiva faculta a las autoridades nacionales a imponer sanciones a las empresas que infrinjan cualquier norma o mandato establecido en el texto. Por no hablar del daño reputacional que puede causar el incumplimiento de estos requisitos legales, dado que los consumidores están cada vez más preocupados por el uso ético y responsable de la Inteligencia Artificial en publicidad.
A medida que avanza el uso de Inteligencia Artificial en la publicidad digital, es más importante que nunca que las empresas adopten prácticas éticas y responsables. La Directiva europea proporciona una hoja de ruta clara para que las empresas desarrollen y utilicen los sistemas de IA de forma respetuosa con las personas y la sociedad, como un paso más que da Bruselas en su compromiso hacia un entorno online justo y transparente. Al dar prioridad a la transparencia, la protección de la identidad de los usuarios en Internet y el uso ético de la Inteligencia Artificial, las empresas pueden generar confianza entre los consumidores, al tiempo que se mantienen en el lado correcto de la ley.
Aplicar estos principios no sólo es lo correcto, sino que también es positivo para el negocio. Al adoptar un enfoque proactivo y responsable en el desarrollo de soluciones de Inteligencia Artificial, las empresas pueden crear campañas que resuenen con los consumidores, construyan relaciones duraderas y, en última instancia, impulsen el éxito del negocio. Es hora de trabajar juntos para aprovechar las oportunidades que ofrece la Inteligencia Artificial, garantizando al mismo tiempo que se utiliza de forma ética, responsable y beneficiosa para todos.
