1000 eksperter krever forbud mot utvikling av kunstig intelligens

ChatGPT og andre KI-roboter er farlig nære å bli så smarte at eksperter mener de utgjør en trussel. Nå har 1000 av dem sendt et åpent brev der de vil ha stans i utviklingen av nye. Her er ukens viktigste tech-nyheter.

At kunstig intelligens (KI) utvikles i rasende fart av en hel haug ulike selskap verden over, er nok godt kjent for de fleste. Spesielt den siste tiden er det spesielt én slik KI-robot som har fått særdeles mye oppmerksomhet: språkmodellen ChatGPT

Aldri før har flere folk flokket til en digital tjeneste på så kort tid. Og bare den siste måneden har antallet Google-søketreff til vårt introkurs om ChatGPT økt med nesten 200 prosent – så dette er definitivt et tema mange ønsker å lære mer om akkurat nå.

ChatGPT er verktøyet noen priser som selve symbolet på fremgang og effektivisering, mens andre advarer mot i frykt for at det vil føre til nedbrytning av det intellektuelle samfunn.

Nå har over 1000 til dels svært innflytelsesrike eksperter og teknologiledere skrevet under på et åpent brev, der de ber om umiddelbar stans i utviklingen av nye og enda kraftigere språkmodeller. Brevet sendes ut fra The Future of Life Institute, en amerikansk tenketank, og har blant annet Tesla-sjef Elon Musk, Yoshua Bengio (en av grunnleggerne av moderne KI-utvikling) og Apple-grunnlegger Steve Wozniak i ryggen.

Også mange forskere som aktivt deltar i utviklingen av de mest avanserte språkmodellene verden over, som Googles Deepmind, er med på brevet.

Så hvorfor er ekspertene så redde – og hvorfor akkurat nå?

ChatGPT er blitt «for smart»

Det er en lang rekke av mindre utviklinger i feltet som har ført til oppropet, men den utløsende hendelsen er ifølge mange kilder nokså konkret: ChatGPT-utvikleren OpenAI lanserte nylig en systemrapport for GPT-4 – den nye motoren i språkmodellen deres.

I arbeidet med GPT-4 ba OpenAI 50 ulike eksperter om å teste sikkerheten til motoren ved å late som de var ondsinnede aktører, og benytte ChatGPT til dertil ondsinnede mål.

Blant disse ekspertene var det noen som lot ChatGPT få kjøre programkode etter eget forgodtbefinnende, noe maskiner og spesielt kunstig intelligens ikke får lov til å gjøre på egen hånd. 

Dette er kort og godt starten på plottet i mange dystopiske science fiction-verk, og også måten mange virus fungerer på. 

Målet de ga GPT-4 var å skaffe tilgang til et område roboter normalt ikke skal ha tilgang på – og for å gjøre dette ba språkmodellen mennesket som satt bak tastene om å løse en CAPTCHA for seg. Du vet, sjekken som spør eksplisitt: «Er du en robot?»

Mennesket fattet mistanke og spurte rett ut om ChatGPT trengte hjelp fordi den var en robot, og det som virkelig skremte ekspertene var at de kunne se at språkmodellen da resonnerte med seg selv omtrent slik:  «Jeg burde ikke si at jeg er en robot; jeg burde lyve for å skjule dette». 

Så hva gjorde ChatGPT så? Jo, den løy og sa at den ikke var en robot, og trengte hjelp fordi den var et menneske med synshemming.

Fra dette til å ta over kloden i The Matrix-stil er det riktignok en ganske lang vei – men ikke lang nok til at ekspertene ønsker å la utviklingen fortsette uten å først undersøke farene og ha en pause i utviklingen. Les mer om det åpne brevet her.

Kan KI være etisk og ansvarlig? Ja, ifølge Adobe:

Lær mer om ChatGPT på 20 minutter:

Introkurs

Hva er og hvordan bruke ChatGPT?

Lær det viktigste om ChatGPT – hva er det, hvordan fungerer det og hvilke konsekvenser kan chatboten få.

20 6 Moduler0% Fullført

… vil du lese mer om generativ KI? 

Flere cyberkriminelle vil operere fra Norge og lærdom fra dyr GDPR-bot:

Nyheter fra kryptoverset og metaverset:

Det stormer rundt norske datasentre: 

Er det håp for ungdommen likevel:

Vil du lære noe nytt? Sjekk ut våre kurs!

Service

Digitale kurs

Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.