AI Act: Et skritt i tide for å sikre menneskehetens fremtid?
EU har vedtatt forordningen for kunstig intelligens (KI), men USA frykter at det snart er for sent å avverge en sikkerhetskatastrofe.
Det har ligget i kortene en stund og nå er altså AI Act, eller KI-forordningen på norsk, vedtatt av Europaparlamentet. Ifølge parlamentet skal lovverket beskytte grunnleggende rettigheter, demokratiet, regelverk og miljømessig bærekraft fra høyrisiko-KI – og attpåtil fremme innovasjon og sørge for at Europa blir en leder på KI-feltet.
Hårete målsettinger, med andre ord.
Som Tek.no skriver har loven vært heftig diskutert, og på oppløpssiden ble noen av de strengeste forslagene fra det opprinnelige utkastet myknet. Det gjelder blant annet totalforbudet mot biometriske masseovervåkningssystemer, som nå tillates kun i noen svært begrensede tilfeller.
Vedtaket i Europaparlamentet til tross, lovverket er ikke over mållinjen riktig ennå. Først må den juridiske teksten godkjennes, noe som trolig vil skje en gang før sommeren.
Når det er gjort, blir bestemmelsene innført stegvis:
- Etter 6 måneder trer forbud mot KI-systemer definert som ulovlige i kraft
- Etter 12 måneder innføres regler for generelle KI-systemer, f.eks. chatboter
- Etter 36 måneder gjelder regler for såkalte høyrisikosystemer
Rammer ikke giganter – ennå
De fleste av oss trenger sannsynligvis ikke å tenke noe særlig på reglene i AI Act. Det fortalte Christian Bendiksen, partner i advokatfirmaet Bull, og muligens den i Norge som har fulgt prosessen tettest, da vi snakket med han i februar.
Forordningen vil heller ikke ha noe særlig å si for KI-utviklere med base i USA – i hvert fall på kort sikt, sier Paul Barrett, ved NYU Stern-senteret for næringsliv og menneskerettigheter, til The Verge.
Siden AI Act ikke trer i kraft for fullt før i 2025, vil aktører som OpenAI, Microsoft, Google og Meta sannsynligvis fortsette å posisjonere seg, mener han – særlig med tanke på fraværet av tilsvarende lover i USA.
Og det har fått varsellampene til å lyse rødt i det amerikanske utenriksdepartementet.
– Minner om atomvåpen
Samtidig som nyheten om AI Act-vedtaket, kom nemlig en ny rapport som tegner et alarmerende bilde av KI-utviklingen. Det er rådgivingsselskapet Gladstone AI som står bak rapporten, på oppdrag fra USAs utenriksdepartement, skriver Time.
Rapporten er basert på intervjuer med over 200 eksperter, deriblant toppledere i KI-selskaper, sikkerhetsanalytikere og eksperter på masseødeleggelsesvåpen.
Den hevder at de mest avanserte KI-systemene kan potensielt utgjøre en trussel mot menneskeheten – enten ved at systemene bevæpnes til å påføre irreversible skader, eller at utviklerne mister kontrollen over systemene.
– Fremveksten av KI og kunstig generell intelligens har potensialet til å destabilisere global sikkerhet på måter som minner om introduksjonen av atomvåpen, heter det i rapporten.
Dermed medfører teknologien en risiko for KI-våpenkappløp og dødsulykker på skala med masseødeleggelsesvåpen.
Svakhet eller styrke?
Ifølge Gladstone AI er tiden i ferd med å løpe ut for å stagge den potensielt farlige KI-utviklingen. I rapporten anbefaler de at myndighetenemyndigheten innfører en rekke tiltak så fort som mulig.
Blant annet bør det etableres et KI-byrå med ansvar for å håndtere nasjonale sikkerhetsrisikoer, og begrense hvor mye datakraft selskaper har lov til å bruke til KI-trening. I tillegg bør myndighetene oppmuntre selskapene til å sette sikkerhet øverst på agendaen, selv om det betyr å bremse utviklingen.
Det er interessant at denne rapporten slippes samtidig som at AI Act blir vedtatt. Som nevnt er et av målene for KI-forordningen at europeiske aktører skal bli ledende på feltet – men kritiske røster (deriblant Frankrikes president Emmanuel Macron) har advart at loven vil stikke kjepper i hjulene for innovasjon.
Men i lys av rapporten fra Gladstone AI: kan lovverket vise seg å være en styrke, heller enn en svakhet? Svaret får vi kanskje i 2025.
Fikk du forresten med deg disse KI-godbitene?:
- Google Deepmind trener en videospill-KI til å være din co-op-partner (TechCrunch)
- OpenAI lagde ville videoer av meg – så svarte CTO-en på (de fleste av) mine spørsmål (The Wall Street Journal)
- Amazon vil la selgere lime inn en lenke slik at KI kan lage en produktside (The Verge)
- Robot-startupen Bear Robotics får 60 millioner dollar fra LG (TechCrunch)
Kina: – USA følger «logikken til en skurk»
Sabelrasling fra stormaktene rundt TikTok-forbud – og Unge Høyre slenger seg på.
- Forslaget som kan forby TikTok er vedtatt i Representantenes hus (TechCrunch)
- Kina går hardt ut mot USA etter avstemningen om TikTok-forbud (Digi.no)
- Unge Høyre-lederen vil forby Tiktok i Norge (E24)
Samtidig vil TikTok ta opp kampen med Instagram:
- En bildedelings-app kan være på trappene (Android Authority)
300 000 nordmenn bruker ulovlig tjeneste
Norske kjendiser blir misbrukt i nettsvindel
Hackere tok seg inn i Postens infrastruktur
- – Føler at du er med i en film (Digi.no)
Rema får kinesiske betalingsterminaler med kamera:
Er vi en elbil-nasjon på grunn av Morten Harket?
Husker du da Vox var på besøk for å bli klok på det norske elbilmarkedet? Nå har også The Guardian tatt turen:
- Hvordan ble Norge en elbil-supermakt? Oljepenger, sivil ulydighet – og Morten fra a-ha (The Guardian)
Dypdykk i et voldelig globalt nettverk:
Prøv et av våre gratis kurs:
Service
Digitale kurs
Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.
