Inteligencia artificial: oportunidades y desafíos

Amenazas y desafíos

La creciente dependencia de los sistemas de IA plantea riesgos.

Infrautilización o uso execesivo de la IA 

  La infrautilización de la IA se considera una gran amenaza. No aprovechar las oportunidades que ofrece la IA podría implicar una implementación deficiente de algunos programas europeos, como el Pacto Verde Europeo. También supondría la pérdida de ventaja competitiva frente a otras regiones, el estancamiento económico y menos posibilidades para los ciudadanos. La infrautilización podría deberse a la desconfianza del público y las empresas en la IA, una infraestructura deficiente, la falta de iniciativa, las bajas inversiones o, como que el aprendizaje automático de la IA depende de los datos, a los mercados digitales fragmentados.

El uso excesivo es también problemático. Existe el riesgo de invertir en aplicaciones inútiles o usar la IA en tareas que no la requieren, como en intentar explicar con esta tecnología problemas sociales complejos.

Responsabilidad: ¿Quién es el culpable de los daños de la IA?

  Determinar quién es el responsable del daño causado por un servicio o aparato que aplicó la IA es un gran desafío. En un accidente en el que esté implicado un coche de conducción autónoma, ¿quién debería cubrir los daños: el propietario, el fabricante del vehículo o el programador?

  Si el productor estuviera libre de responsabilidad, podría no haber ningún incentivo para ofrecer un buen producto o servicio, y se dañaría la confianza de los ciudadanos en la tecnología. Sin embargo, unas regulaciones demasiados estrictas impedirían la innovación. 

Amenazas a los derechos fundamentales y a la democracia

  Los resultados de la IA dependen de su uso y de los datos utilizados. Existe la posibilidad de sesgar, intencional o involuntariamente, tanto el diseño como los datos. Por ejemplo, algunos aspectos importantes de un asunto podrían no estar programados en el algoritmo o, por el contratio, podrían programarse para reflejar y replicar segos estructurales. Además, el uso de números para represetar una realidad social compleja podría hacer que la IA parezca objetiva y precisa cuando no lo es (lo que se conoce como "mathwashing"). 

Otro de los peligros es utilizar la inteligencia artificial tomar decisiones influenciadas por la etnia, el sexo o la edad incluidos en los datos al contratar o despedir, ofrecer préstamos o incluso en procesos penales.

  Esta tecnología presenta riesgos para la democracia, al crear, por ejemplo, cámaras de eco por internet basadas en el comportamiento previo de alguien en la red, al mostrar solo un contenido específico. Los sistemas de IA también pueden usarse para crear vídeos, audios o imágenes falsos pero realistas, conocidos como "deepfakes" o "ultrafalsos. Este contenido puede implicar riegos financieros, daños reputacionales y problemas en las tomas decisiones. Todo esto podría conducir a la separación y polarización en la esfera pública y manipular las elecciones.

  La libertad de reunión y protesta está también amenazada por la IA, ya que ésta podría rastrear y controlar a las personas vinculadas a ciertas creencias o acciones.

Fuentes: https://www.europarl.europa.eu/news/es/headlines/society/20200918STO87404/inteligencia-artificial-oportunidades-y-desafios