Klassekampen.no
Torsdag 4. januar 2018
HILS PÅ FRAMTIDA: De fleste KI-forskere mener vi vil nå et punkt der KI-systemene er like intelligente som mennesker, og vil kunne ta styringen selv. Her verdens første politirobot i Dubai. Foto: Giuseppe Cacaci, AFP/NTB scanpix
Utviklingen av kunstig intelligens går lynraskt. Valgene vi tar nå, bestemmer hvordan vår framtid skal se ut.
Vår tids viktigste samtale?
Forskerne er nødt til å lage et fornuftig rammeverk før maskinene finner på å utdefinere oss.

kunstig intelligens

For en tid tilbake kunne mediene melde at Stephen Hawking og Elon Musk var bekymret for vår skjebne når maskinene tar over. Dette ble sett på som et kuriosum, og illustrert med bilder fra sci-fi-filmer. Det mediene ikke hadde fått med seg, var at også verdens fremste forskere innen kunstig intelligens (KI) deler denne bekymringen og har samlet seg om et opprop, «The Asilomar AI Principles». Oppropet har fått underskrifter fra over tusen KI-forskere, pluss andre forskere og datagründere.

Fakta:

KI og vi:

• Den svensk-amerikanske fysikkprofessoren Max Tegmark har skrevet boka «Life 3.0 – Being Human in the Age of Artificial Intelligence».

• I denne skriver han om utviklingen innenfor kunstig intelligens (KI) og veien videre.

• Tegmark er blant flere forskere som er bekymret for at mennesker kan miste kontroll over utviklingen av KI.

• Han har tatt til orde for et rammeverk, de såkalte Asilomar-prinsippene. Over tusen KI-forskere har så langt skrevet under.

Spilleregler må på plass

Hva er det verdens ledende dataforskere er bekymret for? Det er ikke skumle roboter, men heller at KI-forskningen i årene framover skal gå så fort at vi mister kontrollen og for eksempel setter i gang et KI-våpenkappløp. Eller at vi slipper løs forskning som vi ikke aner de etiske følgene av. Asilomar-erklæringen kan sees som dataforskernes versjon av liknende erklæringer fra forskere innen atomfysikk og bioteknologi. I likhet med disse handler det ikke om noe forbud, men om å lage et rammeverk forskningen kan foregå innenfor.

Den fremste pådriveren for Asilomar-prinsippene er svensk-amerikanske Max Tegmark. Tegmark var et datageni allerede i tenårene, da han laget et tekstbehandlingsprogram sammen med en kompis, og er nå fysikkprofessor på MIT. Han kjenner de fleste som betyr noe innen data- og KI-forskningen, og har samlet dem på to konferanser i 2015 og 2017.

Tanken bak var at KI-feltet nå utvikler seg så raskt – etter en lengre stagnasjon – at man bør få visse sikkerhetsmessige spilleregler på plass. Å få det til gjennom nasjonale eller internasjonale myndigheter ville ta altfor lang tid, så det beste var å samle de som faktisk skaper denne teknologien eller befinner seg i forskningsfronten.

Ingen tid å miste

I boken «Life 3.0 – Being Human in the Age of Artificial Intelligence» forteller Tegmark om bakgrunnen for dette initiativet, men også generelt om utviklingen innen kunstig intelligens og det han (og andre) ser som den sannsynlige veien videre.

Tegmark inviterer oss med på «den viktigste samtalen i vår tid». Grunnen er at om vi trår feil på dette stadiet, vil vi ikke kunne angre eller gå tilbake. Og utviklingen går så raskt at vi ikke kan vente: De valgene vi tar – eller ikke tar – nå, vil legge premissene for den videre teknologiske utviklingen. Og vi må være forberedt på de etiske og samfunnsmessige dilemmaene teknologien vil sette opp for oss.

Riktig håndtert, kan kunstig intelligens løse mange av våre viktigste utfordringer, og sikre de fleste av oss et godt liv. Nye måter å utvinne energi på, fange drivhusgasser fra atmosfæren og skaffe mat til verdens befolkning er i prinsippet mulig, men det krever kanskje mer smarte løsninger enn vi mennesker er i stand til å finne på – uten hjelp fra maskinene.

De som tenker for oss

Problemet er bare at jo mer avanserte vi lager datasystemene, desto mer utfordrende blir det å holde styr på dem. Mange er ikke klar over at de allerede har overlatt en del av sitt tankearbeid, og sine valg, til datasystemer som utviser en form for kunstig intelligens. Du bruker dem når du er på Facebook, googler et spørsmål, får hjelp fra din digitale assistent på smarttelefonen – stadig oftere hver gang du bruker en elektronisk duppeditt.

Men dette er bare begynnelsen. Flere og flere menneskelige funksjoner vil bli overtatt av KI-systemer – i hverdagsliv og arbeidsliv, i offentlig forvaltning, i næringslivet, i underholdning, i militæret. Til og med valg av livspartner vil mer og mer bli overlatt til slike systemer.

Kontrollen blir også vanskeligere fordi den nye generasjonen KI-systemer ikke programmeres, slik forrige generasjon ble. De lærer «selv», ved å bli utsatt for en enorm mengde data og ved å prøve seg fram til riktige eller optimale løsninger. På den måten kan systemene ende opp med løsninger som mennesker ikke forstår.

En forsmak på dette fikk vi da KI-programmet AlphaZero nylig knuste den menneskeprogrammerte sjakkcomputeren Stockfish i en match. Noen systemer kan også forbedre seg selv gjennom «darwinistisk programmering», der stadig nye versjoner konkurrerer mot hverandre. Da har menneskene virkelig sluppet tøylene.

Maskinenes neste trekk

Det kritiske punktet som KI-forskere (og andre) mener vi må være forberedt på, er når vi får de første KI-systemene med en like høy generell intelligens som mennesker. Det vil si en intelligens som kan brukes ikke bare til spesifikke oppgaver som å spille sjakk, men til å takle et like vidt spektrum av oppgaver som vi kan.

Siden KI utvikler seg raskt, mens vi står på stedet hvil – eller til og med går litt tilbake – intelligensmessig, vil nemlig dette være et flyktig forstadium til en dramatisk ny situasjon der maskinene er menneskene overlegne. Det er da det gjelder å ha gjort hjemmeleksen, og forberedt situasjonen slik at maskinenes neste trekk ikke vil være å eliminere oss.

Singulariteten kommer

Hvor langt fram ligger så dette punktet – «singulariteten» -– og vil det faktisk inntreffe? Et stort flertall KI-forskere mener dette vil skje en gang, men de er uenige om når. En survey Tegmark selv tok blant kjente AI-forskere, viste at de i snitt mente dette kunne skje allerede rundt år 2047. Noen, som Googles sjefforsker Ray Kurzweil, mener det kan skje før. Men det er også noen som mener dette ligger mye lengre fram. Uenigheten ligger ikke så mye i hva man forventer av teknologien, men i hvordan man forstår naturlig (menneskelig) intelligens.

Tegmark skriver ikke hva han selv tror om dette, men argumenterer i stedet for at vi bør være forberedt på at det kan skje før vi aner. Og da må vi ha utstyrt KI-systemene med mål som er så godt og klart definerte at vi ikke risikerer at de setter vår eksistens over styr.

Men allerede før singulariteten inntreffer, vil KI-systemer gi oss mange utfordringer. Ett aktuelt sådan er autonome kjøretøyer, som mange mener vil være sikrere enn menneskekjørte, men som allerede har forårsaket dødsulykker.

Hvordan sikre at disse bilene tar gode vurderinger i mye situasjoner? En ekstrem variant av dette er selvtenkende droner brukt i krig. Hvordan kan vi stole på at disse tar gode valg?

viten@klassekampen.no

Artikkelen er oppdatert: 30. januar 2018 kl. 10.39

Klassekampen benytter informasjons­kapsler (cookies) så vi kan gi deg bedre service, og for å holde styr på om du er logget inn på våre tjenester. Du kan lese mer om vår bruk av informasjons­kapsler her.

Lukk