1000 eksperter krever forbud mot utvikling av kunstig intelligens
ChatGPT og andre KI-roboter er farlig nære å bli så smarte at eksperter mener de utgjør en trussel. Nå har 1000 av dem sendt et åpent brev der de vil ha stans i utviklingen av nye. Her er ukens viktigste tech-nyheter.
At kunstig intelligens (KI) utvikles i rasende fart av en hel haug ulike selskap verden over, er nok godt kjent for de fleste. Spesielt den siste tiden er det spesielt én slik KI-robot som har fått særdeles mye oppmerksomhet: språkmodellen ChatGPT.
Aldri før har flere folk flokket til en digital tjeneste på så kort tid. Og bare den siste måneden har antallet Google-søketreff til vårt introkurs om ChatGPT økt med nesten 200 prosent – så dette er definitivt et tema mange ønsker å lære mer om akkurat nå.
ChatGPT er verktøyet noen priser som selve symbolet på fremgang og effektivisering, mens andre advarer mot i frykt for at det vil føre til nedbrytning av det intellektuelle samfunn.
Nå har over 1000 til dels svært innflytelsesrike eksperter og teknologiledere skrevet under på et åpent brev, der de ber om umiddelbar stans i utviklingen av nye og enda kraftigere språkmodeller. Brevet sendes ut fra The Future of Life Institute, en amerikansk tenketank, og har blant annet Tesla-sjef Elon Musk, Yoshua Bengio (en av grunnleggerne av moderne KI-utvikling) og Apple-grunnlegger Steve Wozniak i ryggen.
Også mange forskere som aktivt deltar i utviklingen av de mest avanserte språkmodellene verden over, som Googles Deepmind, er med på brevet.
Så hvorfor er ekspertene så redde – og hvorfor akkurat nå?
ChatGPT er blitt «for smart»
Det er en lang rekke av mindre utviklinger i feltet som har ført til oppropet, men den utløsende hendelsen er ifølge mange kilder nokså konkret: ChatGPT-utvikleren OpenAI lanserte nylig en systemrapport for GPT-4 – den nye motoren i språkmodellen deres.
I arbeidet med GPT-4 ba OpenAI 50 ulike eksperter om å teste sikkerheten til motoren ved å late som de var ondsinnede aktører, og benytte ChatGPT til dertil ondsinnede mål.
Blant disse ekspertene var det noen som lot ChatGPT få kjøre programkode etter eget forgodtbefinnende, noe maskiner og spesielt kunstig intelligens ikke får lov til å gjøre på egen hånd.
Dette er kort og godt starten på plottet i mange dystopiske science fiction-verk, og også måten mange virus fungerer på.
Målet de ga GPT-4 var å skaffe tilgang til et område roboter normalt ikke skal ha tilgang på – og for å gjøre dette ba språkmodellen mennesket som satt bak tastene om å løse en CAPTCHA for seg. Du vet, sjekken som spør eksplisitt: «Er du en robot?»
Mennesket fattet mistanke og spurte rett ut om ChatGPT trengte hjelp fordi den var en robot, og det som virkelig skremte ekspertene var at de kunne se at språkmodellen da resonnerte med seg selv omtrent slik: «Jeg burde ikke si at jeg er en robot; jeg burde lyve for å skjule dette».
Så hva gjorde ChatGPT så? Jo, den løy og sa at den ikke var en robot, og trengte hjelp fordi den var et menneske med synshemming.
Fra dette til å ta over kloden i The Matrix-stil er det riktignok en ganske lang vei – men ikke lang nok til at ekspertene ønsker å la utviklingen fortsette uten å først undersøke farene og ha en pause i utviklingen. Les mer om det åpne brevet her.
Kan KI være etisk og ansvarlig? Ja, ifølge Adobe:
Lær mer om ChatGPT på 20 minutter:
Introkurs
Hva er og hvordan bruke ChatGPT?
Lær det viktigste om ChatGPT – hva er det, hvordan fungerer det og hvilke konsekvenser kan chatboten få.
… vil du lese mer om generativ KI?
- Hva er egentlig generativ AI, og hvorfor er teknologi-kjempene livredde? (Tek.no)
- Italias datatilsyn forbyr ChatGPT (Digi.no)
- Microsoft-forskere hevder at GPT-4 viser «gnister» av generell kunstig intelligens (Futurism)
- Etter at «deepfakes» gikk viralt, stanset KI-bildegenerator Midjourney gratis prøveversjoner med henvisninger til «misbruk» (The Verge)
- Storbank: – Så mange europeiske jobber vil bli automatisert på grunn av kunstig intelligens (Digi.no)
- Blir enda farligere for Google: ChatGPT har fått sin egen nettleser (Digi.no)
- – Jeg trodde jeg var immun mot å bli lurt på nettet. Så så jeg paven i frakk | Joel Golby (The Guardian)
- ChatGPT er i ferd med å revolusjonere økonomien. Vi må bestemme hvordan den ser ut. (MIT Technology Review)
- Levi’s vil «supplere menneskelige modeller» med KI-genererte forfalskninger (Engadget)
Flere cyberkriminelle vil operere fra Norge og lærdom fra dyr GDPR-bot:
- Fire klager kostet Sats ti millioner. Det har gitt viktig innsikt (Digi.no)
- Kripos: − Vi vil se flere cyberkriminelle som operer fra Norge (Digi.no)
Nyheter fra kryptoverset og metaverset:
- Metaverset kan ikke ignoreres, men fremtiden er usikker (E24)
- Er metaverset og Web3 fortsatt relevant? (Forbes)
- Meta, Microsoft og Disney reverserer innsatsen i metaverset (Quartz)
- Kryptovalutaer tilfører ikke samfunnet nytte, sier brikkeprodusenten Nvidia (The Guardian)
- Han varmer opp huset med kryptoutvinning (Vesterålen online)
Det stormer rundt norske datasentre:
- Krokodillefarm på lista over forslag til næringer tilknyttet datasenter (NRK)
- Kripos bekymret for manglende kontroll over datasentre (Adressa)
- Kraftselskap vil videre med datasenter-planer på Stormoen i Balsfjord (Nye Troms)
- Faktisk.no: Truer TikTok rikets sikkerhet? (Digi.no)
Er det håp for ungdommen likevel:
- «Dumme» telefoner blir stadig mer populært i USA, idet Gen Z ser ut til å ville begrense skjermtiden (CNBC)
Vil du lære noe nytt? Sjekk ut våre kurs!
Service
Digitale kurs
Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.
