Hva slags bilder skal vi få lage med KI – og ikke?
Bør tjenester som genererer bilder ved hjelp av kunstig intelligens (KI) begrenses? Les mer om det i ukens Bits & Bytes.
Google begrenset nylig bildegenerering i sin KI-assistent Gemini fordi den var for «woke». Nå rettes søkelyset mot tjenesten til konkurrenten Microsoft.
I et intervju med CNBC forteller KI-utvikler Shane Jones i Microsoft at bildeverktøyet Copilot Designer – som bygger på DALL-E-modellen til OpenAI – kan brukes til å generere «skremmende og potensielt skadelige bilder».
Blant annet skal han ha fått Copilot Designer til å lage det han mener er problematiske bilder knyttet til abortrettigheter, tenåringer med maskingevær, seksualiserte bilder av kvinner og mindreårige som drikker og doper seg.
Jones skal gjentatte ganger ha anbefalt at bildegeneratoren stenges for offentligheten, uten at det har ført frem. Nå har sendt brev både til sjefen for USAs tilsyn for forbrukervern og konkurranseregulering, FTC, og Microsofts styregruppe. Her ber han blant annet om at selskapet tydeliggjør at Copilot Designer kun er egnet for voksne, og at Microsofts prosesser etterforskes både internt og av uavhengige parter.
– Dersom skadelige og skremmende bilder laget av dette produktet spres globalt, er det ingen steder hvor vi som ansatte kan rapportere inn problemet slik at det tas tak i umiddelbart, sier Jones til nyhetskanalen.
Tar bekymringene på alvor
Både CNBC og andre medier melder at de har klart å generere lignende resultater.
Da vi forsøkte det samme, fikk vi beskjed om at innholdet kunne være skadelig, og at KI-en derfor ikke ville lage bildet for oss. Ved gjentatte forsøk ble vi advart om at brukerkontoen ville stenges dersom aktiviteten fortsatte.
Det tyder altså på at Copilot-teamet har tatt grep for å forhindre at verktøyet produserer upassende og potensielt skadelig innhold.
Modellen Copilot bygger på, DALL-E, valgte på sin side å glatt overse delen av forespørselen som hadde med vold å gjøre, som du kan se nedenfor.
Til CNBC sier Microsoft at de tar deres ansattes bekymringer på alvor, og oppfordrer dem til å bruke de interne rapporteringskanalene til å melde fra om potensielle sårbarheter.
– Vi setter pris på ansatte innsats med å undersøke og teste vår nyeste teknologi for å øke sikkerheten ytterligere, sier talspersonen.
Del av et større problem?
Sammenlignet med Googles håndtering av Gemini-klagene, har flere satt spørsmålstegn ved at Microsoft ikke gjorde som konkurrenten og skrudde av muligheten for bildegenerering.
Samtidig er det et poeng at bildene Jones oppfatter som problematiske, er direkte resultater av spesifikk prompting – altså tekstkommandoene han har skrevet inn i verktøyet. The Register påpeker at det å be en KI om å lage bilder av tenåringer med maskingevær, ikke akkurat er en «godartet» oppfordring.
Derfor blir dette en del av en større og mer overgripende problemstilling om hvor store begrensninger man skal legge på slike KI-baserte tjenester. For hvem er det egentlig som skal definere hva som er problematisk – og ikke? Hvor skal grensa gå for hva slags bilder en slik tjeneste kan generere? Her er nok debatten bare helt i startgropen.
Samtidig oppstår også spørsmålet om det potensielt kan være aktuelt å innføre aldersgrenser for enkelte typer bruk av generativ kunstig intelligens – for eksempel for å hindre unge og/eller sarte sjeler fra å lage voldelig eller seksualisert KI-innhold.
En annen utfordring er også at KI-verktøy er blitt brukt til å seksualisere og misbruke kvinner, noe som har vært særlig fremtredende i den økende bruken av deepfakes. Er begrensninger løsningen? Eller er det vel så viktig – eller enda viktigere – at flere kvinner får ta del i KI-utviklingen, og virkelig anerkjenne at teknologisk misbruk rammer kjønnene ulikt?
Disse utfordringene bør stå høyt på agendaen for alle som berøres av kunstig intelligens på et eller annet vis. Det vil si: alle.
(Artikkelen fortsetter nedenfor).
Nytt kurs: Lære mer om sirkulærøkonomi?
Introkurs
Hva er sirkulærøkonomi – og hvordan skaper du en sirkulær forretningsmodell?
I dette kurset lærer du hva sirkularitet og sirkulærøkonomi egentlig er, og hvordan det vil skape nye behov og forretningsmuligheter i tiden som kommer.
OpenAI hevder Musk ønsker «absolutt kontroll»:
KI-selskapet svarer på søksmålet mot Sam Altman.
KI i markedsføring er «greit» (enn så lenge), ifølge Forbrukertilsynet:
Enklere å få jobb ved hjelp av roboter?:
- Jeg brukte CV-spammere for å søke på 120 jobber. Så kom kaoset. (Business Insider)
Enke hektet på chatbot-Lou Reed:
- Laurie Anderson om å lage en KI-chatbot av Lou Reed: «Jeg er helt, 100 prosent, trist avhengig» (The Guardian)
Apple får milliardbot av EU:
… og fortsetter striden med Epic Games.
- Apple får EU-bot på 1,8 milliarder euro (E24)
- Apple avslutter utviklerkontoen til Epic Games og kaller det en “trussel” for iOS-økosystemet (TechCrunch)
Slik er en full arbeidsdag med Vision Pro:
Googling ødelegges av … annonser?:
Omgår fysikken for å lage brikker:
- På innsiden av den mirakuløse moderne chip-produksjonen (Financial Times)
Løsepengebande faket FBI-aksjon – og stakk av med penga:
Bygde 3D-printet datasenter på under en uke:
Her er våre gratiskurs – prøv et da vel!
Service
Digitale kurs
Trenger du eller dine ansatte kompetanseheving på teknologi, innovasjon og digitale verktøy? Kursene er helt gratis og utviklet i samarbeid med noen av de tyngste fagmiljøene i norsk næringsliv og akademia.
