I sidste uge vedtog Europa-Parlamentet deres forhandlingsmandat til at indlede de afsluttende substansforhandlinger med medlemslandene i Rådet om EU-lovgivning om kunstig intelligens.
Der er tale om en banebrydende og omfattende lovgivning, som ikke er set noget sted i verden før.
Loven – når den bliver vedtaget – skal på den ene side bidrage med at fremme udbredelsen af menneskecentreret, pålidelig kunstig intelligens og innovation. Samtidigt skal den sikre et højt niveau for beskyttelse af vores alles sundhed, sikkerhed, grundlæggende rettigheder, demokrati og retsstatsprincipper.
Parlamentet forbyder brug af social scoring
Den nye lovgivning bygger på en risikobaseret tilgang til kunstig intelligens. Jo højere risiko for f.eks. menneskers sikkerhed og sundhed, jo flere krav og pligter stilles der til udbydere og systemer.
Et system kan også helt forbydes. F.eks. så forbyder Parlamentet brug af social scoring, som kan klassificere mennesker på baggrund af deres sociale opførelse og personlighedstræk.
Ved højrisiko-systemer er der et krav om, at brugerne skal foretage en grundig analyse af mulige konsekvenser for menneskers grundlæggende rettigheder.
Endeligt indfører Parlamentet krav til anvendelsen af de nye generative systemer såsom ChatGPT.
Medarbejdere skal inddrages
Som noget helt nyt har Europa-Parlamentet inddraget arbejdstagere og arbejdsmarkedsaspekter i lovgivningen. Dette er ud fra en betragtning om, at brugen af kunstig intelligens kryber ind i vores arbejdsliv, hvilket også flere nye internationale undersøgelser peger på.
Parlamentet foreslår derfor, at inden ibrugtagning eller anvendelse af et kunstigt intelligenssystem på en arbejdsplads, skal brugerne høre arbejdstagernes repræsentanter om brugen af systemet samt informere de berørte medarbejdere om, at de vil være underlagt systemet.
Forslaget vil gælde på hele arbejdsmarkedet og ikke kun i visse sektorer såsom platforme.
FH: Skridt i den rigtige retning
For FH er det et skridt i den rigtige retning. Brug af kunstig intelligens på arbejdspladsen kan have flere fordele, men det skal ske under fuld åbenhed og med inddragelse af arbejdstagerne.
Ligeledes skal en algoritme eller en app aldrig kunne overtage ledelsesmæssige beslutninger. Det kommer forslaget ikke ind på.
Forslaget adresserer heller ikke de arbejdsmiljømæssige konsekvenser, som overvågning og kunstig intelligens kan have på et menneskes arbejdsliv.
Før loven bliver endeligt vedtaget, skal Europa-Parlamentet og medlemslandene forhandle alle brikkerne på plads og blive enige. Det forventes at ske omkring årsskiftet.
ChatGPT truer med at trække sig
Grundlægger af ChatGPT Sam Altman truer allerede nu med at trække firmaet ud af EU, hvis kunstig intelligens reguleres for stramt og firmaet skal bruge for mange kræfter på at leve op til den nye stramme lovgivning.
Onsdag beskrev Sam Altman lovgivningen som “overregulering” til Reuters. Selvom han for nylig opfordrede til regulering og lovgivning under sit vidnesbyrd for Kongressen i USA, ser det ud til, at han alligevel har ændret holdning, når det gælder Europa.
