«La bona direcció ja no depèn tant de la IA sinó dels valors i l’ètica de les empreses»

Karina Gibert Oliveras és Doctora en Informàtica, especialitzada en Estadística Computacional i Intel·ligència Artificial

per Gemma Visa

El Tema

«La bona direcció ja no depèn tant de la IA sinó dels valors i l’ètica de les empreses»
«La bona direcció ja no depèn tant de la IA sinó dels valors i l’ètica de les empreses»

Aquesta figuerenca és un referent  de l’àmbit acadèmic i tecnològic de  la intel·ligència artificial, un fet que l’ha convertit en assesora de la transformació digital a la Comissió Europea, al Govern de Catalunya i recentment a la Commonwealth, des de l’ONU.  Gibert  participa en el projecte BiblioSTEAM de les biblioteques de la Diputació de Girona, produït per l’Associació Catalana per a la Divulgació Científica, amb la conferència ‘Intel·ligència artificial, riscos i oportunitats’. Una aposta pel bon ús de la IA i el respecte pels drets fonamentals.

Com a experta i amb la seva pedagogia està ajudant moltes persones a entendre els beneficis de la intel·ligència artificial (IA) amb una visió ètica. Anem a pams: en quin moment ens trobem?
Estem en un moment de transformació social molt disruptiu. De fet, l’Organització de les Nacions Unides el 2018 ja va declarar un canvi d’era. Hem tancat l’etapa postindustrial i entrem en una cosa nova que és la transformació digital. El rol que juga la IA en aquesta transformació és que dona la clau per llegir el món a través de moltes dades i poder entendre la complexitat dels fenòmens que ens envolten. I això ens faculta per poder-hi operar, per controlar, per gestionar, per predir, per impedir que passin disbarats i per promoure que passin coses positives.

Ens posa algun exemple pràctic d’aquestes oportunitats?
Ara tenim un Nobel que amb  l’ús d’IA ha aconseguit trobar els factors que ajuden a curar el càncer. Hem tingut processos d’IA que ens faciliten que cuidem millor el medi ambient i que ens permeten tenir cura de l’aigua, de l’aire, de la diversitat, de la protecció d’espècies en risc d’extinció... Per tant, les oportunitats són transversals, generals i absolutament disruptives, també. Però com totes les tecnologies que són molt crítiques, hi ha un risc associat. Si no s’utilitzen bé, poden generar desajustos.

Quan parlem dels riscos, de què tenim por?
Poso exemples de coses de gran potència. El foc serveix per cuinar però també per cremar cases. Un ganivet serveix per tallar coses amb pulcritud, per a la manufactura, per a la gastronomia, i serveix per matar persones. Doncs la IA no és diferent, és una tecnologia que té molt de potencial i que si no s’utilitza bé, pot caure ens uns usos que poden causar perjudicis. Si l’entrenes per a un context i l’utilitzes per a un altre, no té sentit. Una cosa que funcioni amb persones xineses no funcionarà amb persones africanes.  Un altre cas seria el d’entrenar una cosa que va amb dades d’homes i després voler-ho aplicar al món; doncs amb les dones no funcionarà. I tot això no s’ha fet amb prou cura durant molts anys i s’ha convertit en un mercat caòtic, que ha crescut sense gaire normativa. Ens hem trobat desastres de males implantacions, de males construccions o intel·ligències artificials mal provades o mal dissenyades, i aquest és el risc. Poden fer una guia per concedir crèdits que exclogui dones, el sector artístic i la gent gran. Aquí estarien implementant una desigualtat social i un atac als drets fonamentals.

El marc regulador ha fet tard?
No, el que s’està fent ara és reconduir la situació i posar sota control allò que estava descontrolat. No podíem no fer tard perquè necessites uns sistemes de garantia amb uns tempos. Per elaborar una llei has de donar opció de delegar, de pensar i donar oportunitats d’esmenes a tots els actors implicats, i això requereix uns tempos que no te’ls pots saltar. La tecnologia evoluciona a una velocitat supersònica i les lleis tenen un procés més lent.

La sensibilitat també és diferent segons els territoris.
És clar, a Europa s’està fent tot el treball de regulació i molts territoris ni s’hi han posat perquè consideren que no cal. Potser perquè el valor que Europa dona als drets humans no és ben bé el mateix que el que es dona en altres territoris. 

Hi ha molt de detractor de la IA que alerta de la pèrdua d’habilitats humanes. Tenen raó?
[Riures] Això és una cosa que va sortint al llarg de la història a mesura que hi ha noves tecnologies. Quan van sortir les calculadores hi havia qui deia que era imprescindible que els nens sabessin fer les arrels quadrades a mà a les escoles perquè si no, les seves capacitats intel·lectuals quedarien minvades. Jo no discuteixo ni discutiré que quan fas determinades activitats manualment desenvolupes una mena de connexions neuronals. D’aquí a que treguis aquesta activitat i no n’hi hagi cap altra que pugui formar les mateixes connexions, jo crec que això no ho ha estudiat seriosament ningú. I, per tant, l’espècie s’adapta, l’espècie és intel·ligent biològicament parlant i s’adapta en el context, i tu mantens les habilitats que necessites per sobreviure en el teu medi. Els gats repten a les parets i els homes ja no cal que ho facin..., i hem perdut una habilitat perquè ja no la necessitem. 

Quina habilitat guanyem?
La capacitat de decidir millor davant de situacions molt complexes.

Quines feines passen a la paperera de la història?
El debat de les professions també és mític. Des de que tenim el GPS han desaparegut els conductors? No, oi? Des que tenim robots que escombren han desaparegut les dones de fer feines? Tampoc.En l’àmbit de la regulació europea el que es demana és que la IA no automatizi tasques ni decisions sinó que doni inputs al professional per fe bé la seva feina. I si ho implementem bé, en principi s’haurien de perdre mot poques feines. 

Professionals més ben assistits.
Sí, d’una eina molt potent que ajuda a fer la feina molt millor i que dona espai per no anar tan estressats. Tenir més temps per a una tasca i poder somriure a un client quan entra a l’oficina, o que en un hospital un metge et pugui dedicar  més temps. Però anar en bona direcció ja no depèn tant de la IA sinó de les empreses que hauran de decidir a què es dedica el temps estalviat amb la IA. Al final tot és un tema de valors i ètica. 

Comentaris


No hi ha cap comentari

Comenta aquest article