O Catedrático da área de Estatística e Investigación Operativa do Departamento de Matemáticas da UDC Salvador Naya nas “Conversas no Parador”

Sobre “Os datos o novo petróleo da Intelixencia Artificial” tivemos oportunidade de achegarnos este martes grazas á participación de Salvador Naya nas Conversas no Parador, nas que o Catedrático da área de Estatística Operativa da UDC, acompañado pola Vicerreitora do Campus de Ferrol Ana Isabel Ares, e outros/as compañeiros/as da UDC.

Salvador Naya comezou ilustrándonos sobre o controvertido tema de IA, da que sinalou que “hoxe por hoxe hai xente moi partidaria da mesma e outra que pensa que pode ser moi perniciosa polo uso dunha tecnoloxía, como a IA xenerativa capaz de xerar contidos falseados producindo novas imáxenes ou vídeos a partir de outras imáxenes ou vídeos existentes”, como poden ser o caso das “fake news que abundan sempre, e moito mais en tempos de guerra, algo que puidemos constatar en Ucraína ou Palestina”.

Os datos son prioritario para a defensa

Sobre a importancia dos datos para a defensa, sinalou “que as guerras, tamén se fan con datos, un tema prioritario para a defensa”. Un sector que conta cunha serie de organismos que estudan a influencia da IA na defensa, "porque os datos son o novo petróleo da IA que medra cada día, dado que sempre se están a xerar datos”.

A este efectos, engadiu que “os cables submarinos que atravesan o Atlántico, por onde pasan o 85% de tódolos datos que manexamos, teñen altos niveles de protección”. Tamén falou das empresas de Intelixencia Artificial mais relevantes a nivel mundial son “as chamadas FAG´S (Facebook, Amazon e Google)” porque captan ó traveso das súas aplicacións milleiros de datos e se encontran nunha situación privilexiada no relativo ao desenrolo da mesma. Sobre os inicios da IA mencionou ao matemático británico Alan Turing quen no ano 1936 descifrou o famoso “código enigma” no que estaban encriptadas as comunicacións da Alemaña nazi.

Na actualidade a aplicación de IA “ChatGPT-3” está en aberto e se pode utilizar, por exemplo, para reducir 20 artigos e deixalo en 5 páxinas, en pouco tempo. Pero sendo unha boa ferramenta ten sesgos. Neste caso puxo o exemplo dun estudo que se fixo en Boston coa axuda do MIT, para saber como estaban as rúas da cidade de fochancas. “Para analizalo poñían uns rexistradores nalgúns dos vehículos que percorrían a cidade e recollían todos os datos que se rexistraban cando os coches pasaban polos fochancas, pero había un sesgo porque aqueles coches soamente pasaban polo centro e non rexistraban moitas fochancas. Si tamén o fixeran polos suburbios seguro que daban moitos mais, do que se deduce que estes datos teñen sesgos e non son válidos”.

Salvador Naya indicou que este “é un exemplo do importante que é ter unha boa base de datos (os datos son o petróleo de IA), Big Data”, e insistiu en que “fai falta moita investigación e fai falta moita regulación”. Tamén mencionou á empresa que está a facer a foto do iris, e pagaba con criptomoedas. “Todo isto nos leva a preguntarmos, para que queren os datos do iris?”. Imaxinamos que para vendelos, porque os datos xeran beneficios. E continuou sinalando que “se está a facer un estudo da retina para detectar ictus, o que está moi ben, pero isto tense que coñecer, e saber si lles interesa para vendelos”. Hoxe nos damos de alta en Facebook e non cobran, “pero é necesario coñecer o que lles interesa , o que se fai cos datos que nos van requirindo”.

A importancia dos datos en empresas punteiras

NAVANTIA lidera un proxecto, EDINAF consorcio liderado por Navantia composto por 31 socios, un deles é a UDC, procedentes de 8 países diferentes (España, Bélxica, Francia, Alemaña, Italia, Países Baixos, Noruega e Suecia). A finalidade do proxecto é o desenrolo de xemelgos dixitais, “revolucionado o deseño dos novos e avanzados buques de guerra e soportando as operacións máis relevantes dos mesmos”.

Sinalou tamén a “INDITEX , un exemplo avanzado do control dos datos da súa actividade. Existe xa normativa para o control do uso de IA". Salvador Naya referiuse á directiva europea que está a punto de aprobarse, sinalando que é moi garantista ao respecto, porque neste aspecto Europa e moi proteccionista.

Desafíos da IA

Un exemplo do uso de IA é a tecnoloxía que se emprega nas entrevistas de traballo mediante vídeos que se analizan en tempo real, algo que “está plantexando de quen é a propiedade do pensamento das persoas por exemplo”.

A pregunta dunha das periodistas presentes sobre os desafíos da IA en relación coa desaparición de postos de traballo e a aparición de outros novos, Salvador Naya sinalou que a UDC ten un máster de Técnica Estatística e outro de Ciencia de Datos que se empregan como científicos de datos. Existen o que denominou como os “enxeñeiros do prompt”, que son uns profesionais que traballan no campo da IA, e o procesamento do linguaxe natural có obxectivo de "deseñar e optimizar os modelos de linguaxe xenerativo”.

Tamén a “nova Axencia de Intelixencia Artificial da Coruña vai crear postos de traballo, entre eles de avogados, dada a importancia que teñen os temas da regulación do uso da IA”. Outro exemplo de ocupación “podería ser o caso do coche autónomo no relativo aos criterios a considerar nas decisións a tomar en situacións de potenciais riscos de colisión”.

Polo que considerou que a IA vai a influír en todas as profesións, incluídas as manuais debido á robótica. Os países que máis inverten en IA, son os que máis e mellores postos de traballo están xerando. En opinión do poñente a "IA non supoñe unha ameaza contra o emprego”.

Quen regulará ó regulador da IA ?

Outras preguntas versaron sobre “quén regulará ó regulador da IA?” e o impacto na “ciberguerra”. O poñente puxo de manifesto exemplos de algoritmos de IA na medicina onde tan importantes son “a obtención dos datos como a súa utilización”. Tamén falou da obtención de datos ao traveso de robots cando para acceder a unha web nos piden identificar uns díxitos ou unhas imáxenes en cuadrículas para asegurarse de que non é un robot o que intenta acceder. Eses datos poderían servir para desenrolar os algoritmos do vehículo autónomo. No caso da “ciberguerra”, destacou a importancia que teñe a “nube” onde se almacenan datos e aplicacións da IA como potencial obxectivo da mesma.

Preguntado acerca de que quen está detrás da IA, respondeu que as grandes corporacións de “Silicon Valley” e que debido ao seu poder económico, representan “un desafío aos estados que á tratan de regular”.

Finalmente manifestou que as regulacións europeas da IA, nalgúns casos pode supoñer un freo para o desenrolo da mesma. Esta situación pode producir a deslocalización da investigación da IA a outros países fora da UE.