Sobre el nou reglament de la IA

S’ha publicat al diari oficial de la UE el Reglament (UE) 2024/1689 del Parlament Europeu i del Consell, on s’estableixen normes harmonitzades en matèria d'intel·ligència artificial (IA). 

Anem a veure de que tracta i com ens impacta, sense que sigui una descripció plena de normes, articles i llenguatge poc entenedor... o ho intentarem. 

Però primer posem una mica de context pel que fa a això que en diuen normes harmonitzades.... 

Que són les normes harmonitzades de la UE?

Les normes harmonitzades són una eina clau per a la integració del mercat europeu, assegurant que els productes i serveis compleixen uns estàndards comuns de seguretat i qualitat, i facilitant el comerç transfronterer dins de la UE. Són normes tècniques establertes per les organitzacions europees de normalització (CEN, CENELEC, i ETSI) a petició de la Comissió Europea. Aquestes normes tenen com a objectiu assegurar la  uniformitat i la coherència en la qualitat i seguretat dels productes i serveis dins del mercat únic europeu. 

Bàsicament tracten de: 

L’Harmonització del Mercat Interior: Faciliten la lliure circulació de productes i serveis dins de la UE eliminant les barreres tècniques al comerç. Això permet que els productes que compleixin aquestes normes puguin ser comercialitzats lliurement dins del mercat únic europeu. 

Del compliment Legal: Les empreses que compleixen amb les normes harmonitzades poden demostrar fàcilment que els seus productes o serveis són conformes amb els requisits essencials de la legislació de la UE. Això redueix el risc de sancions legals i facilita l'accés al mercat. 

De la seguretat i Qualitat: Les normes harmonitzades estableixen requisits mínims per a la seguretat i la qualitat dels productes i serveis, protegint així els consumidors i els usuaris finals. Aquestes normes sovint cobreixen aspectes com la seguretat elèctrica, la compatibilitat electromagnètica, la salut i la seguretat laboral, entre altres. 

De la innovació i Competitivitat: Les normes harmonitzades fomenten (o intenten fomentar) la innovació i la competitivitat en el mercat europeu establint criteris clars i comuns per al desenvolupament de nous productes i tecnologies. Això ajuda les  empreses a innovar sense el risc d'incomplir la legislació. 

De la participació en la Normalització: Les organitzacions de normalització europees (CEN, CENELEC, ETSI) treballen amb diverses parts interessades (fins a on arriba la seva capil·laritat.. us ha preguntat algú o coneixeu alguna entitat propera que hi hagi participat en el reglament de la IA?), incloent-hi indústries, consumidors, i governs, per desenvolupar les normes harmonitzades. Això garanteix que les normes reflecteixin una àmplia gamma de necessitats i perspectives.

De la presumpció de Conformitat: Els productes que compleixen les normes harmonitzades gaudeixen de la presumpció de conformitat amb les directives europees aplicables. Això simplifica el procés de certificació i facilita la prova de conformitat. 

Els 10 punts clau del reglament 

En aquest resum de 10 punts, proporcionarem una visió general de les implicacions  dels sistemes d'IA a la Unió Europea per als desenvolupadors, proveïdors i usuaris  (ciutadans, tots nosaltres). 

1. Objectiu i aplicació: El reglament té com a objectiu millorar el funcionament  del mercat interior establint un marc jurídic uniforme per al desenvolupament,  la introducció en el mercat, la posada en servei i l'ús de sistemes d'IA a la Unió  Europea, d'acord amb els valors de la Unió, garantint un elevat nivell de  protecció de la salut, la seguretat i els drets fonamentals. 

2. Classificació de riscos: Els sistemes d'IA es classifiquen segons el seu nivell de risc. Els sistemes de risc alt requereixen complir requisits estrictes per a la seva comercialització i ús, incloent avaluacions de conformitat i supervisió  continuada. 

3. Transparència i supervisió: S'estableixen mesures per garantir la transparència en l'ús de la IA, incloent la documentació tècnica detallada i la notificació a les autoritats competents abans de la posada en servei de sistemes d'alt risc. 

4. Drets fonamentals: El reglament subratlla la necessitat de protegir els drets fonamentals, assegurant que els sistemes d'IA no discriminen i respecten la privacitat i la protecció de dades. Això inclou l'avaluació d'impacte relativa als drets fonamentals i la protecció de dades. 

5. Interoperabilitat: Promou la interoperabilitat dels sistemes d'IA en tota la Unió Europea per facilitar el seu ús transfronterer i la integració en diferents sectors. 

6. Modificacions legislatives: El reglament modifica diverses normatives existents per adaptar-les a l'ús de la IA, incloent el Reglament (UE) 2019/2144 sobre la seguretat general dels vehicles de motor i el Reglament (UE) 2018/858 sobre la homologació dels vehicles... en definitiva, pels vehicles autònoms. 

7. Avaluació de conformitat: S'estableix un procediment d'avaluació de  conformitat per als sistemes d'IA d'alt risc, que inclou proves rigoroses i  certificació per assegurar que compleixen amb els requisits establerts.

8. Responsabilitats dels proveïdors: Els proveïdors de sistemes d'IA han de proporcionar informació detallada sobre el funcionament i els riscos dels seus  sistemes, així com assegurar la seva seguretat i conformitat amb el reglament. 

9. Supervisió del mercat: Les autoritats nacionals de supervisió del mercat tenen  un paper clau en la implementació i enfocament del reglament, incloent la  realització d'inspeccions i la imposició de sancions en cas d'incompliment. 

10. Innovació i competitivitat: El reglament busca promoure la innovació i la  competitivitat en el sector de la IA a la UE, establint un marc legal que facilita el  desenvolupament i l'ús segur de la IA, fomentant alhora l'adopció de  tecnologies avançades i la creació de nous llocs de treball. 

Molt bé..., i tot això (el nou reglament) com ens afecta al dia a dia ? Fins ara que no el teníem estàvem en risc d’alguna cosa....? Quan es començarà a aplicar? 

Calendari d'Aplicació del Reglament d'IA

Impactes “terrenals” 

Anem a veure com ens impactarà el nou reglament. Posarem per cada àmbit un exemple pràctic: 

• en el dia a dia d'un ciutadà 

• pels nostres ens locals 

• pel nostre sector de microempreses i PIMES (les grans empreses ja tenen advocats especialitzats que ja s’ho miraran...)

Afectació en el dia a dia d'un Ciutadà 

• Seguretat i Privacitat: Els ciutadans es beneficiaran d'una major protecció de la seva privacitat i seguretat gràcies a les normes estrictes sobre l'ús de sistemes d'IA. Això inclou la prohibició de sistemes d'identificació biomètrica remota en espais públics, excepte en casos molt específics i autoritzats, reduint el  risc de vigilància massiva. 

• Protecció dels Drets Fonamentals: La implementació del reglament garantirà que qualsevol sistema d'IA que interactuï amb els ciutadans estigui dissenyat per respectar els seus drets fonamentals, com la no discriminació i la protecció de dades personals. 

• Informació i Transparència: Els ciutadans tindran el dret a ser informats quan interactuen amb un sistema d'IA. Això inclou saber quan una decisió ha estat presa per una IA i entendre les bases d'aquesta decisió, millorant la transparència i la confiança en les tecnologies utilitzades. 

• I un parell d’idees més, que encara que són una conseqüència directe del  reglament, els podrien citar: 

- Millores Potencials en Serveis Públics: Encara que no és una conseqüència directa, el reglament facilita un marc segur i regulat que pot incentivar els ens locals a adoptar tecnologies d'IA per millorar l'eficiència dels serveis públics, com ara la gestió del trànsit, la seguretat ciutadana, i l'atenció sanitària. 

- Innovació i Noves Oportunitats: El foment de la innovació en IA pot portar a la creació de noves empreses i llocs de treball, impulsant l'economia local... d’aquelles ciutats que hi apostin decididament. Els ciutadans podrien veure millores en sectors com l'educació, la salut, i els serveis socials gràcies a l'adopció de tecnologies d'IA. 

Exemple Pràctic: Imagina que l'ajuntament decideix implementar un sistema de càmeres intel·ligents per millorar la seguretat als carrers. Amb el nou reglament, aquestes càmeres no poden utilitzar tecnologia de reconeixement facial sense una justificació molt específica i autoritzada (si no m’equivoco, al Regne Unit això ho estan fent amb total llibertat...). Això garanteix que els teus drets de privacitat  estiguin protegits i que no et vigilin de manera injustificada mentre camines per la ciutat. I aquí sempre ens ve al cap l’eterna reflexió sobre el binomi entre seguretat  i/o llibertat... Aquí teniu una noticia al respecte...  

Afectació pels nostres ens locals 

• Compliment Legal i Regulatori: Els ajuntaments i altres ens locals hauran d'assegurar-se que els sistemes d'IA que utilitzen compleixen amb els requisits establerts pel reglament. Això inclou la realització d'avaluacions de conformitat i l'obtenció de les certificacions necessàries abans de posar en servei aquests sistemes. 

• Transparència i Rendició de Comptes: Les autoritats locals hauran d'implementar mesures per garantir la transparència en l'ús de l'IA, incloent la documentació detallada i la notificació prèvia de l'ús de sistemes d'alt risc a les autoritats competents. Això inclou la comunicació clara amb els ciutadans sobre l'ús d'aquestes tecnologies. 

• Protecció de Dades i Privacitat: Les entitats locals hauran de garantir que  qualsevol sistema d'IA que tracti dades personals compleixi amb les normes de protecció de dades establertes per la legislació de la UE, com el Reglament General de Protecció de Dades (GDPR). Això inclou la implementació de mesures tècniques i organitzatives adequades per protegir aquestes dades. Vaja, res de nou: han de complir com fins ara ja fan amb els reglaments.... 

• Capacitació i Formació: Els empleats dels ens locals hauran (o haurien...) de rebre formació adequada per utilitzar i gestionar els sistemes d'IA de manera efectiva i segura. Això inclou comprendre els riscos i beneficis de la IA, així com els drets i les obligacions associades a l'ús d'aquestes tecnologies. 

• I tornem a posar un parell d’idees no necessàriament relacionades amb el nou reglament: 

- Oportunitat de millora dels Serveis Públics: Com ja hem comentat, els ens  locals podran utilitzar la IA per millorar l'eficiència i l'efectivitat dels serveis  públics. Això podria incloure l'automatització de processos administratius, la  gestió intel·ligent de recursos (com l'aigua o l'energia), i la millora de la  seguretat pública mitjançant sistemes de vigilància avançats. 

- Participació en el Desenvolupament de Normes Locals: Els ajuntaments i  altres entitats locals podrien tenir un paper actiu en el desenvolupament de normes i guies específiques per a l'ús de l'IA a nivell local, assegurant que  aquestes reflecteixin les necessitats i preocupacions de les comunitats locals. 

Exemple Pràctic: L'ajuntament vol utilitzar un sistema d'IA per optimitzar la recollida d'escombraries, ajustant les rutes dels camions segons les necessitats reals. Abans de posar aquest sistema en marxa, l'ajuntament haurà de realitzar una avaluació per assegurar-se que el sistema compleix amb les normatives del reglament,  documentar tot el procés i notificar les autoritats competents. Això assegura que el  sistema és segur i transparent per als ciutadans. 

Afectacions per les nostres microempreses i PIMES catalanes 

• Compliment Regulatori i Costos de Conformitat: Les microempreses i PIMES hauran d'assegurar que els seus sistemes d'IA compleixen amb el reglament de la UE. Això pot implicar costos addicionals relacionats amb l'obtenció de certificacions, la realització d'avaluacions de riscos i l'adaptació de processos per garantir la conformitat.

• Avantatges Competitius: Les empreses que implementin sistemes d'IA conforme  a les normes harmonitzades de la UE poden obtenir un avantatge competitiu, ja que els clients i socis comercials poden tenir més confiança en la seguretat i l'ètica dels seus productes i serveis. Això pot millorar la seva reputació i facilitar l'accés a mercats europeus més amplis. 

• Foment de la Innovació: El reglament promou la innovació i ofereix suport  específic per a les petites i mitjanes empreses, incloent la creació d'espais de proves controlats i condicions especials per a la investigació i el desenvolupament. Això pot ajudar les PIMES a desenvolupar i provar noves solucions d'IA sense riscos legals excessius. 

• Accés a Finançament i Recursos: Les PIMES que es dediquen al desenvolupament de tecnologies d'IA poden accedir a programes de finançament de la UE dissenyats per impulsar la recerca i innovació en IA. Això inclou subvencions, ajuts i altres formes de suport financer. 

• Protecció de Dades i Seguretat: Les PIMES hauran d'implementar mesures estrictes de protecció de dades per complir amb les normatives de la UE. Això inclou assegurar-se que els sistemes d'IA respectin els drets de privacitat  dels usuaris i no discriminin en funció de dades sensibles. 

• Responsabilitat i Rendició de Comptes: Les empreses seran responsables de garantir que els seus sistemes d'IA no causin danys als usuaris. Això inclou establir mecanismes de rendició de comptes i transparència, com proporcionar informació clara sobre el funcionament dels sistemes d'IA i els seus possibles impactes. 

• Adopció de Bones Pràctiques: El reglament fomenta l'adopció de bones pràctiques i normes ètiques en el desenvolupament de l'IA. Les PIMES que segueixin aquestes pràctiques poden beneficiar-se de la confiança dels consumidors i millorar la seva imatge corporativa. 

• Adaptació al Marc Legal: Les PIMES hauran d'estar al dia amb els canvis i les actualitzacions en la normativa sobre IA. Això pot requerir assessorament legal i ajustos periòdics als seus processos i tecnologies per assegurar el  ompliment continuat. 

• I un afegitó no estrictament lligat al nou reglament: 

- Capacitació i Desenvolupament de Capacitats: Per mantenir-se competitius, les microempreses i PIMES necessitaran invertir en la capacitació dels seus treballadors (això hauria de ser una pràctica constant....) per  assegurar que estiguin preparats per desenvolupar, implementar i gestionar sistemes d'IA de manera ètica i efectiva. 

- Aliances i Col·laboracions: Les PIMES poden buscar aliances amb altres empreses, universitats i centres de recerca per compartir coneixements, recursos i experiències en el desenvolupament de tecnologies d'IA. Això pot facilitar la innovació i l'accés a noves oportunitats de mercat. 

Exemple Pràctic: Una petita empresa de Vilanova i la Geltrú desenvolupa una aplicació d'IA per ajudar als pagesos a detectar malalties en els cultius mitjançant fotos fetes amb el mòbil. Amb el nou reglament, l'empresa haurà de garantir que la seva aplicació gestioni les dades de manera segura, protegint la privacitat dels usuaris. A més, haurà de proporcionar informació clara sobre com funciona l'aplicació i com es prenen les decisions, assegurant que els pagesos entenguin i confiïn en la tecnologia que estan utilitzant.

Un petit resum 

El nou reglament planteja, a més de la part normativa, nous reptes de cara a la seva implementació que haurem d’anar gestionant a mida que l’adaptació de la IA es vagi  fent més gran. 

Fent-ne un resum, podríem dir que : 

• Per als ciutadans, augmentarà la protecció de la seva privacitat i seguretat,  garantint el respecte als drets fonamentals com la no discriminació i la protecció  de dades personals. A més, es garantirà la transparència, assegurant que els  ciutadans estiguin informats sobre quan interactuen amb sistemes d'IA i com es  prenen les decisions automatitzades. 

• Pel que fa als ens locals, com els ajuntaments i consells comarcals, aquests  hauran de complir amb les noves normes, assegurant la conformitat dels seus  sistemes d'IA amb el reglament. També hauran de documentar i notificar l'ús de  IA, garantint així la transparència i el respecte a les normatives de protecció de  dades en totes les seves operacions. 

• Finalment, per a les microempreses i PIMES catalanes, el reglament implica la  necessitat de complir amb les normatives establertes, el que pot comportar  costos addicionals per assegurar la conformitat. Aquestes empreses hauran de  proporcionar informació clara sobre el funcionament i els riscos associats als  seus sistemes d'IA, i assegurar la protecció de les dades personals segons les  normes establertes. 

I per finalitzar, i seguint molt per sobre l’esperit del reglament (encara no està en vigor alhora d’escriure aquest article), us faré avinent com he usat la IA en aquest article: 

• Versió d’IA feta servir: OpenAI model 4o. 

• Tasques realitzades: 

- Revisió final coherència de l’article 

- Recerca de conceptes repetits 

• Funcionament: anàlisi amb algoritmes de Natural Language Processing (NLP) i Transformers 

• Tipus de risc d’us de la IA: Baix 

Jaume Batlle i Ferrer

Consultor d’Innovació km.0