– Kan miste kontrollen på kunstig intelligens fullstendig

Forskere advarer om at selskaper og myndigheter må gjøre mer for å sikre oss mot irreversibelt frislipp av autonom, kunstig intelligens (KI). Les mer om dette og andre saker i ukens Bits & Bytes.

– Vi risikerer å fullstendig miste kontrollen over autonom, kunstig intelligens, med mindre vi utøver stor forsiktighet. Mister vi kontrollen vil det være irreversibelt og umulig å rette opp for mennesker. 

Det skriver en lang rekke forskere i et åpent brev til selskaper og myndigheter. Brevet, med tittelen Managing AI Risks in an Era of Rapid Progress, understreker den enorme hastigheten kunstig intelligens nå utvikles i:

– I 2019 kunne ikke GPT-2 telle til ti. Fire år senere kan teknologien skrive kode og generere fotorealistiske bilder på et blunk. Når disse systemene nå skaleres, vil uforutsette egenskaper og oppførsel oppstå spontant – helt uten input fra mennesker.

Og det er nettopp det som er så farlig, ifølge både forskerne bak rapporten og mange andre i industrien. Elon Musk advarte tidligere i år om at KI kan bety slutten på sivilisasjonen, mens Google-sjef Sundar Pichai innrømmet at farene ved KI-utvikling holdt ham våken om natten.

Både positive og negative ringvirkninger

Samtidig som de altså advarer mot farene, påpeker de også at teknologien har enormt potensial for positive ringvirkninger for menneskeheten. Spesielt gjelder dette effektivisering av mange oppgaver mennesker anser som kjedelige eller strabasiøse. Det er også mye penger å spare når KI tas i bruk, både for enkeltmennesker, selskaper og myndigheter.

Bekymringen blant eksperter verden over er derfor at man i en slags effektiviseringsrus skal overse farene, og potensielt utvikle programvare vi til slutt ikke kan kontrollere.

– Vi risikerer en eskalerende kjedereaksjon av bekymringsfull adferd, der alt fra mindre digitale lovbrudd til sosial manipulering og total utslettelse av menneskeheten er potensielle utfall, skriver forskerne.

– Finnes en ansvarlig sti

De ber videre alle selskap som utvikler KI om å dedikere minst én tredjedel av utviklingsbudsjettene sine til sikkerhet og etikk. Myndigheter oppfordres på sin side til å lovfeste og håndheve strengere standarder, samt samarbeide bedre på tvers av landegrenser for å forhindre hensynsløshet og misbruk av KI-teknologi.

Dette har enkelte land allerede kommet godt i gang med; EU jobber for tiden med AI Act, et lovverk som ifølge unionen skal gjøre europeiske land til pionerer innen KI-regulering og rettigheter på nettet. Men med mindre alle verdens land samarbeider om lignende reguleringer vil farlige KI-teknologier ubønnhørlig oppstå.

– Kunstig intelligens kan være teknologien som former dette århundret. Og det finnes en riktig og ansvarlig sti, dersom vi er kloke nok til å følge den, avslutter forskerne i rapporten.

Er du sulten på flere KI-nyheter fra uken som har gått? Da kan du ta en titt på sakene under:

Lyst til å snakke trygt med KI? Prøv prompting-kurset:

Introkurs

Lær prompting med språkmodeller som ChatGPT

Slik snakker du trygt og effektivt med kunstig intelligente verktøy  med bruk av prompt engineering.

10 min7 Moduler0% Fullført

Norge er under digitalt angrep – igjen:

Threads vokser og vokser – snart større enn Twitter/X?

Biologi og teknologi i harmoni:

Romfartsindustrien durer videre:

Fornybar energi er også viktig i dette århundret:

Spotify vil endre inntjeningen til artistene:

Google endrer på sin digitale brevdue:

Hva med litt spillnyheter sånn på tampen?

Lær noe nytt med et av våre gratis kurs:

Service

Digitale kurs

Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.