Dommingo García-Marzá «Hay decisiones que son de las personas y no debe entrar la IA»

El catedrático de Ética de la UJI, Domingo García Marzá, concretó que «Europa va en estos momentos más avanzada y está ultimando una regulación de la IA. El estudio de expertos en el que se basa plantea de partida: un test para que las empresas comprueben si están usando con ética la IA; y tres pilares: que la IA sea legal, ética y robusta (segura). Eso daría una confianza». Otra realidad necesaria es preparar a la población: «es importante; debe haber formación en las universidades para que los trabajadores conozcan estas herramientas».

Desde la empresa SemanticBoots, su CEO Hugo Ferrer reflexionó que «cuando se habla de IA la calidad de los datos depurados y trabajados es importante, al igual que saber quién y cómo ha entrenado a esa tecnología. La IA nos hará más productivos pero hay que ver los riesgos y legislar para aplicar un control».

«Somos ciudadanos digitales. Pero es necesario alguien que regule y que nos diga qué datos tienen de nosotros y qué uso hacen. Desde información personal a la biometría, cada vez más frecuente, con más cámaras. La IA puede tener impacto en el empleo y otro problema es que no se ha legislado y no sabemos hacia dónde vamos», prosiguió. «La ciberdelincuencia es preocupante: la IA no es solo Chat GPT, hay programas que clonan la voz, la cara. Ya tenemos casos de mal uso de la IA por menores y los daños morales».

Por su parte, el CEO de la agencia de marketing digital y tecnología Twelfhundred, Álex Rubio, indicó que «en Europa sí que se está planteando la regulación de la IA y es llamativo que se aborde. Esto es una diferencia con EEUU». «En el contexto de la privacidad –agregó–, no solo está la IA, sino que actualmente ya existe una importante base de datos de rostros con nuestras fotos en redes sociales. ¿Para qué se usa?».

Desde la consultora Nexta AI, Daniel Alias subrayó que «hasta que se estabilice y se regule la IA no solo Europa sino también fuera de la UE, todavía somos vulnerables en privacidad». Acerca de si se implanta una tasa robot en las empresas que usen la IA, instó a que «no sea un freno ni implique un paso atrás y no realizar un desarrollo tecnológico adecuado».

• El uso de la inteligencia artificial en la UE estará regulado por la Ley de Inteligencia Artificial, la primera ley integral sobre IA del mundo, y el objetivo es alcanzar un acuerdo este año.
• La inteligencia artificial reemplazará el 40% de los trabajos en los próximos 15 años, según asegura Kai-Fu Lee, pionero en el desarrollo de herramientas de IA. ¿Un robot debería pagar impuestos por cada trabajador al que reemplace? ¿cómo se sostiene el sistema de pensiones? Son preguntas que se plantean en una sociedad, donde según apuntan los expertos castellonenses, se avanza muy rápido. Hace apenas un año del nacimiento del ChatGPT y ya han pasado 30 años desde la aparición de la primera web. Implantan la tecnología con control y ver todas sus aristas es un reto para sector público y privado.

El catedrático de Ética de la UJI, Domingo García Marzá, partió de su definición de Inteligencia Artificial (IA): «La IA convierte la realidad en datos. Son sistemas de pensamiento de información, un conjunto de tecnologías que procesa Big Data, bases de datos, conectividad,…». Sobre su impacto en la sociedad, concluyó que «la IA no es neutral y según se configure ese algoritmo puede aplicar un sesgo y discriminar por sexo, raza, etc. Por ejemplo, si se usa la IA por la Administración para decidir a quién concede una subvención; o por la banca para un préstamo». En su opinión, habrá que estar vigilantes al uso que se haga: «La diferencia entre que complemente o sustituya a un humano es grandísima». La responsabilidad y la irrupción de la IA en el empleo constituyó otra de las temáticas abordadas.

Para García Marzá, «no solo las empresas deberían hacerse cargo de sus empleados robots; sería una responsabilidad compartida con la Administración y la sociedad civil». «No obstante –quiso añadir–, en una sociedad donde solo trabajaran robots, el humano no se sentiría útil. Y luego está la vertiente de trabajos en los que las personas no se van a poder sustituir, como aquellos de cuidados, pues no se va a encargar de ello un trozo de hierro». «Hay discusiones sobre el derecho de los robots. Pero para tener derechos, hay que tener obligaciones», indicó, al tiempo que profundizó en que un robot en un estadio muy avanzado con emociones, etc, «ya no sería un robot, sino una persona».

Por ahora, «los coches actuales no pueden considerarse autónomos, como mucho, automáticos. Pues la decisión final –ante una determinada maniobra– es de la persona». «La incidencia de la IA en la salud es uno de los temas más importantes de futuro. Y en otros terrenos, como la política, le tengo pánico a su impacto. En aquellas decisiones que podemos decidir como personas no debe entrar la IA, si no, nos convertimos en un robot».

Álex Rubio, director y Chief Strategy Officer de la agencia de marketing digital y tecnología Twelfhundred, tiene muy claro que la inteligencia artificial ha llegado para quedarse: «El mundo va a cambiar. La IA complementa la inteligencia humana y realiza tareas de forma más eficiente que esta. En estos momentos existe un debate social y se están analizando ventajas, inconvenientes y los conflictos que puede presentar». El también profesor universitario, conferenciante internacional y TEDxSpeaker, apuntó: «La IA ha sido entrenada y puede ser sesgada. ¿Pero cómo se combate el sesgo si está en la propia sociedad?». Así, citó ejemplos de dicotomías: «En el campo del Derecho las leyes tiene interpretaciones, plazos de tiempo,… La IA bien empleada puede ayudar a ganar tiempo». «Pero si al Chat GPT le preguntas puede dejarse casos o mostrarte lo primero que ve en internet. La inteligencia humana al final es la que da el sentido», afirmó Rubio.

Acerca de la irrupción de la IA en las distintas profesiones, «con velocidad abrumadora», mencionó que «el Código Deontológico de los Publicistas y Relaciones Públicas ha incluido ya un anexo sobre la IA, pues quien la usa de forma activa ha de ser consciente».

En Medicina, añadió, «la IA complementa, sin sustituir». Y citó el ejemplo del dueño de un animal enfermo, que metió los datos de analítica en un ChatGPT que le orientó de otras posibles dolencias y con ello fue al veterinario». En Marketing, «es capaz de procesar muchísima información y ganar en eficiencia»; y a título individual «democratiza el acceso a la información y mejora facetas». 

Sobre su impacto, lanzó un futurible: «En la antigüedad el hombre trabajaba de 3 a 4 horas al día. Era otra cultura. Igual nos damos cuenta de que no hace falta trabajar tanto. Y si con la IA se logra una renta universal media, no básica, podemos pensar ser felices en un contexto donde el trabajo no sea lo primero». 

Álex Rubio, director y Chief Strategy Officer de la agencia de marketing digital y tecnología Twelfhundred, tiene muy claro que la inteligencia artificial ha llegado para quedarse: «El mundo va a cambiar. La IA complementa la inteligencia humana y realiza tareas de forma más eficiente que esta. En estos momentos existe un debate social y se están analizando ventajas, inconvenientes y los conflictos que puede presentar». El también profesor universitario, conferenciante internacional y TEDxSpeaker, apuntó: «La IA ha sido entrenada y puede ser sesgada. ¿Pero cómo se combate el sesgo si está en la propia sociedad?». Así, citó ejemplos de dicotomías: «En el campo del Derecho las leyes tiene interpretaciones, plazos de tiempo,… La IA bien empleada puede ayudar a ganar tiempo». «Pero si al Chat GPT le preguntas puede dejarse casos o mostrarte lo primero que ve en internet. La inteligencia humana al final es la que da el sentido», afirmó Rubio.

Acerca de la irrupción de la IA en las distintas profesiones, «con velocidad abrumadora», mencionó que «el Código Deontológico de los Publicistas y Relaciones Públicas ha incluido ya un anexo sobre la IA, pues quien la usa de forma activa ha de ser consciente».

En Medicina, añadió, «la IA complementa, sin sustituir». Y citó el ejemplo del dueño de un animal enfermo, que metió los datos de analítica en un ChatGPT que le orientó de otras posibles dolencias y con ello fue al veterinario». En Marketing, «es capaz de procesar muchísima información y ganar en eficiencia»; y a título individual «democratiza el acceso a la información y mejora facetas». 

Sobre su impacto, lanzó un futurible: «En la antigüedad el hombre trabajaba de 3 a 4 horas al día. Era otra cultura. Igual nos damos cuenta de que no hace falta trabajar tanto. Y si con la IA se logra una renta universal media, no básica, podemos pensar ser felices en un contexto donde el trabajo no sea lo primero». 

Daniel Alias, consultor de Nexta AI, especialistas en optimizar procesos con inteligencia artificial, reseñó que «aunque son las grandes empresas las que llevan más tiempo aplicando IA, desde nuestra consultora nos estamos centrando ahora en acercar la IA a las pymes y hacerles un traje a medida, ofreciéndola como un servicio para que consigan sus objetivos».

Sobre la práctica, consideró que «la IA se puede aplicar e influir en varios departamentos de una compañía. Nuestro primer cliente ha sido una cooperativa con una plantilla de edad media de 50 años. Su gerente ha visto la gran utilidad del Chat GPT y se han hecho cursos de formación a la plantilla». En su día a día, apuntó que ven «diferentes perfiles: desde el empleado que aprende rápido a quien es reacio porque piensa que su puesto de trabajo peligra y pone barreras a ese aprendizaje». En definitiva, para Alias, «la IA supone una cultura del cambio: en el modo de trabajo conocido hasta ahora y a nivel personal». Y vio crucial «que los empleados de las empresas se formen en IA, que nadie se quede atrás. Su impacto en el empleo genera controversia. Si destruye muchos puestos, es un problema; pero por otro lado puede generar bienestar si les recorta su tiempo de trabajo y se puede implantar una renta universal básica, como dice la Agenda 2030».

El dilema de la privacidad con la IA es otro de los retos. «Es algo que siempre se plantean las empresas que la están aplicando. Utilizamos el modelo Enterprise, con datos cifrados. En el ChatGPT se pueden cargar datos sensibles de clientes, ¿puede venir luego una empresa a reclamar? ¿qué responsabilidad tiene el creador del software, en ocasiones, con sede fuera de la UE? Ocurre igual con redes sociales que utilizamos y vienen reguladas desde EEUU. Apenas un 1% se lee las políticas de privacidad. Todos dan clic para usarlas».