Klassekampen.no
Torsdag 8. november 2018
LIV OG DØD: Selvkjørende biler må programmeres for hvilke liv de skal prioritere hvis noe går galt. Her velger Thelma og Louise selv. FOTO: DISTRIBUTØR??
Selvstyrte bilers etikk vil bli et stadig mer aktuelt tema framover – og kulturforskjeller kompliserer spørsmålet.
Når bilen bestemmer selv
Ville du kjørt over bestemor eller bikkja? Svaret kommer an på hvor i verden du bor.

TEKNOLOGI

Tidenes mest vellykkede filosofiske tankeeksperiment, ut fra hvor mye tenkning og diskusjon det har generert, må være trolleyproblemet, som den britiske filosofen Philippa Foot formulerte i 1967. Det handler om en tenkt situasjon der man kan styre et kjøretøy, i utgangspunktet en løpsk jernbanetralle, inn i ett av to spor, begge med fatal utgang. Dilemmaet er hvilken av de to man skal velge – et valg som vil ha ulike konsekvenser, og som involverer ulike handlinger fra den som skal foreta valget. Også det å avstå fra å velge er et valg.

Fakta:

Sporvognsproblemet:

• Et moralfilosofisk tankeeksperimentet som ble formulert av Philippa Foot i 1967:

• Se for deg en sporvogn som er på vei mot en gruppe uskyldige mennesker. De vil bli drept med mindre du endrer vognens kurs over på et sidespor – der kun ett uskyldig menneske vil bli drept.

• Spørsmålet er: Vil du endre sporvognens kurs?

• Varianter av sporvognsproblemet har blitt benyttet på mange moralfilosofiske problemstillinger.

Ung eller gammel?

Trolleyproblemets popularitet skyldes ikke minst at det lett lar seg teste ut i tenkte situasjoner, og gjør det lett å teste hvordan ulike mennesker reagerer på etiske dilemmaer. Som dette: Om man kan styre trallen slik at færre personer dør, er dette OK selv om det innebærer at man aktivt sender en person i døden? Og hva om valget står mellom fem unge og syv eldre ofre? Kan man prioritere de unge? Ting som har vist seg å styre valget i den ene eller andre retningen, er blant annet hvor nær den som skal ta valget, er vis-à-vis situasjonen. Svært få vil dytte et menneske ut i døden, selv om dette kan spare mange liv. Da velger man heller å la trallen rulle – og snu ryggen til følgene.

I dag har trolleyproblemet fått en ny aktualitet på grunn av at man tar i bruk førerløse biler, som styres av kunstig intelligens. Disse vil jo – som vanlige sjåfører – komme opp i situasjoner der de må gjøre det vi vil kalle etiske valg, om det hadde vært mennesker ved rattet. Og da bør vi ha tenkt over, og kanskje helst være enige om, hvilke etiske prioriteringer vi vil at disse bilene skal gjøre.

Regionale forskjeller

Der er også interessant å se hvordan mennesker i ulike land, med ulike kulturer, vurderer disse dilemmaene. Og det er faktisk forskjeller fra land til land, viser en verdensomspennende spørreundersøkelse forskere fra MIT (Massachusetts Institute of Technology) gjorde. Dette var en survey over nettet, der over to millioner personer, fra over 200 land, deltok. Deltakerne oppga land, alder, inntekt, med mere, og forskerne forsøkte å se om det var regionale, nasjonale eller kulturelle typer svar som gikk igjen. (Nature) Dilemmaene deltakerne skulle svare på, var flere, men mønsteret var at man sto overfor en situasjon der en førerløs bil ville bli innblandet i en ulykke, og man skulle si hvordan man ville bilen skulle prioritere et valg mellom to onder. Det vil si: hvem eller hva skulle ofres i ulykken?

Menneske eller dyr?

Ifølge en av forskerne, Edmond Awad, var det tre prinsipper de fleste syntes å være enige om, uansett hvor de kom fra: For det første at bilen burde spare mennesker framfor dyr. For det andre at man burde spare flere liv framfor færre, der dette var mulig. Og kanskje mer kontroversielt: at bilen burde spare unge, heller enn eldre.

Men i det sistnevnte dilemmaet kom kulturforskjellene fram: Mens folk fra områder forskerne definerte som «sør» (Afrika, Sør-Amerika) mente man burde prioritere de unge, ville ikke de fra «øst» (Asia) gjøre dette i samme grad. Mens folk fra «vest» ikke hadde klare meninger her.

Ett av spørsmålene denne undersøkelsene aktualiserte, var derfor om bilprodusentene blir nødt til å justere bilenes etiske preferanser etter hvor de skal brukes. Dette for å unngå at bilenes valg i alvorlige situasjoner kommer for mye på kant med befolkningens moralske preferanser. Det kan i så fall gjøre dem upopulære. I Øst-Asia vil det for eksempel ikke bli godt mottatt at en førerløs bil velger å kjøre ned en bestemor, mens kanskje hunder er lettere å ofre der, enn i det kjæledyrelskende Vesten.

Selvstyrt etikk

Slike undersøkelser vil vi garantert få se mange av i årene framover, fordi selvstyrte bilers «etikk» vil bli et hett tema (dersom Philippa Foots arvinger kunne kreve royalties fra bilprodusentene, kunne de bli rike). Befolkningens aksept av slike biler vil jo være avhengig av at man føler at de «oppfører» seg riktig.

Men det vil nok også være et spektrum av «avgjørelser» slike biler vil måtte ta, som ikke så lett lar seg belyse – for ikke å si avgjøre – ved denne slags undersøkelser. Fordi moralske avgjørelser sjelden lar seg passe inn i noe skjema eller formular. Det vil alltid være små forskjeller, små hensyn som kun gjelder der og da. Og det er der menneskets forunderlige evne til å avgjøre ting ved skjønn kommer til anvendelse: evnen til å ta med en helhet av til dels svært ulike betraktninger med i bildet.

De som uansett kan gni seg i hendene, er moralfilosofene, som plutselig opplever at deres ekspertise blir aktuell.

viten@klassekampen.no

Artikkelen er oppdatert: 12. desember 2018 kl. 16.56