Politikk, religion og samfunn The trolley problem

Er det riktig å trekke i spaken?

  • Ja

    Stemmer: 8 88.9%
  • Nei

    Stemmer: 1 11.1%

  • Totalt antall stemmer
    9
S

Slubbert

Gjest
Fikk ikke plass til å skrive hele spørsmålet i pollteksten: Et tog dundrer nedover en skinnegang. Fem personer står og arbeider på skinnegangen og vil bli drept om toget fortsetter. En operatør ser dette. Hvis operatøren trekker i en spak vil toget svinge over i et nytt spor og de fem personene blir reddet. På det andre sporet står det imidlertid én person og arbeider, og han vil bli drept dersom operatøren trekker i spaken. Er det riktig å trekke i spaken?

Dette er ment å være en tråd om politikk og moral, og ikke et psykologisk eksperiment som the trolley problem opprinnelig var. Operatøren kan være en person eller operatøren kan være staten.
 
Sist redigert:

WayAhead

Æresmedlem
Ble medlem
27.12.2017
Innlegg
14.625
Antall liker
3.441
Sted
Sky No Limit....
Torget vurderinger
0
ift poll troll:


1) Hvilken spak? Linje 1 eller linje 2?
2) Spaken til kompressorhornet?
 

OMF

Æresmedlem
Ble medlem
26.02.2002
Innlegg
16.174
Antall liker
9.283
Sted
Bergen
Torget vurderinger
14
Jeg har svart på denne i sammenheng med diskusjon runt selvkjørende biler.

Og der tenker jeg at det er viktig å begrenses "bilenes" valgmuligheter.

Altså dersom en selvkjørende bil har en 3 mennesker foran seg i veibanen den ikke greier å stoppe for, og alternativt kan svinge inn på fortauet og kun treffe 1 menneske, så skal den alikevel ikke ha mulighet til å foreta slike valg.

Alle maskiner/kunstig inteliigens - må forholde seg til et klart definert handlingsrom, og i så tilfelle skal en selvkjørende bil aldri på fortauet eller i motsatt kjørebane.

Mvh
OMF
 
S

Slubbert

Gjest
Greit om noen også kan skrive hva de svarer og hvorfor, ellers blir det ikke mye til diskusjon. Mitt svar er "nei", fordi drap aldri kan forsvares annet enn i selvforsvar. Og at å svare "ja" vil åpne en Pandoras eske av mulige overgrep mot enkeltmennesker.
 
S

Slubbert

Gjest
Jeg har svart på denne i sammenheng med diskusjon runt selvkjørende biler.

Og der tenker jeg at det er viktig å begrenses "bilenes" valgmuligheter.

Altså dersom en selvkjørende bil har en 3 mennesker foran seg i veibanen den ikke greier å stoppe for, og alternativt kan svinge inn på fortauet og kun treffe 1 menneske, så skal den alikevel ikke ha mulighet til å foreta slike valg.

Alle maskiner/kunstig inteliigens - må forholde seg til et klart definert handlingsrom, og i så tilfelle skal en selvkjørende bil aldri på fortauet eller i motsatt kjørebane.
Ja, det psykologiske eksperimentet ble reaktualisert som et moralsk spørsmål først og fremst i konteksten selvkjørende biler. Men hva om operatøren er en stat? Skal den være utilitaristisk eller regelbasert? Hva man svarer på dette spørsmålet burde ha masse implikasjoner også for hva man mener at en stat kan tillate seg å gjøre, samfunnskontrakten og lover og regler m.v.
 

OMF

Æresmedlem
Ble medlem
26.02.2002
Innlegg
16.174
Antall liker
9.283
Sted
Bergen
Torget vurderinger
14
Og at å svare "ja" vil åpne en Pandoras eske av mulige overgrep mot enkeltmennesker.
Ja, enig i dette.

For meg er dette en problemstilling som jeg faktisk synes det er rart at blir trukket frem som et stort etisk problem ifm kunstig intelligens. (En grei diskusjon på et akuttmottak feks ved store ulykker hvor man må velge å bruke mye resusser på 1 veldig hardt skadd med liten sjans for overlevelse vs å bruke mer ressurser på andre som har litt bedre sjans, men fortsatt er kritiske)

Dersom, man enkelt og greit sier at maskinene aldri skal dra i hendelen, så vil selvsagt ulykker skje, men konsekvensene er da en direkte følge av feilen. Altså har man gått på rød mann, eller sensoren sviktet så går det skeis for de som sensoren skulle oppdage.

Åpner man opp for at maskinene skal gjøre valg - så blir det umulig å sette en grense. Og man vil også få en del andre "kjipe" episoder som feks:
*En bil som feilaktig tror det står en barnehageklasse i veien og heller svinger inn i en gjeng overvektige pensjonister.

Og hvor akutt kan må det være - kan man risikere at bilen ikke vil svinge inn til McDonalds hvis man er overvektig..?

Mvh
OMF
 
S

Slubbert

Gjest
Hva om handlingen kunne avgjøres ved en folkeavstemming? Vil det vært riktig? I det psykologiske eksperimentet svarte ca 80% av respondentene "ja" da de ble spurt om de selv ville trukket i spaken. Men da de ble spurt om de ville dytte en feit person utfor en bru så han falt ned på skinnegangen og toget kjørte på ham og sporet av (the fat man problem), så svarte 80% "nei". I begge tilfeller dreper man én person for å redde fem, altså er ikke folks meninger logisk konsistente. Så skal demokratiet da ha makt til å ta slike avgjørelser?
 

Hardingfele

Æresmedlem
Ble medlem
25.10.2014
Innlegg
24.049
Antall liker
18.314
Torget vurderinger
2
Slike overgrep begås konstant, ved Triage, for eksempel:

Triage (fransk for sortering) er en prosess for å bestemme prioritering i behandling av pasienter basert på hvor alvorlig deres medisinske tilstand er. Dette skal gjøre pasientbehandlingen mer effektiv når ressursene er for utilstrekkelige til at alle kan bli behandlet med en gang.
https://no.wikipedia.org/wiki/Triage

Sporvognsproblemet er blitt aktuelt pga utvikling av kunstig intelligens, og da spesielt i forbindelse med selvkjørende biler. Hvem skal bilen sikte på, ved en potensiell trafikkulykke?

Da kan man minnes Azimovs Robotlover og satse på at bilen stanser, fremfor at den dundrer på.

A robot may not injure a human being or, through inaction, allow a human being to come to harm. A robot must obey orders given it by human beings except where such orders would conflict with the First Law. A robot must protect its own existence as long as such protection does not conflict with the First or Second Law.

Årsaken til at man har definert dette som et sporvognsproblem er at man ønsker å ha et kjøretøy på faste baner, med en gitt stoppedistanse som ikke kan unngås, og med to ulike utfall, som skal utgjøre det moralske dilemmaet.

Det brukes mye tid på å diskutere sporvognsproblemet i forbindelse med utvikling av Kunstig intelligens (KI heretter i tråden fra meg). Utfordringen med det opprinnelige problemet, som ble stipulert på tidlig 1960-tall, er at det er deterministisk og uten flertydighet i utfallet: enten A eller B. Men med f.eks. selvkjørende biler vil man ha flere utfallsmuligheter -- alle behøver ikke oppføre seg som mannskapet på Helge Ingstad og dure på mot "land" (i følge Havarikommisjonens forsøk på å finne unnskyldninger).

Bilen kan stanse, den kan sikte andre steder. De som ønsker å bruke problemet for å avsløre hvorvidt man er i stand til å velge et moralsk rett utfall tar gjerne ikke høyde for flertydighet og krever at man skal velge A eller B. I senere versjoner er problemet blitt utvidet ved at man setter en betrakter på en bro over skinnegangen, bak en veldig fet mann, som betrakteren kan dytte ut i skinnegangen. Dette vil avspore toget og redde arbeiderne på begge spor. Men det sies ikke stort om lokfører, mannskap og eventuelle passasjerer. Her er det også gjort mange studier om hva man vil gjøre dersom det er et lite barn man skal dytte, eller et kjæledyr.

Hva man bør gjøre? Skal man redde én eller flere? Skal man la toget følge sin bane, eller endre på denne?

Det er en myte at Churchill unnlot å varsle befolkningen i Coventry for å sikre at tyskerne fortsatte å bruke sin ENIGMA-kryptering, men i katastrofe- eller krigssituasjoner står man ofte overfor slike valg.

Det viktige spørsmålet her er: Skal man la være å gjøre noe som helst?
 

WayAhead

Æresmedlem
Ble medlem
27.12.2017
Innlegg
14.625
Antall liker
3.441
Sted
Sky No Limit....
Torget vurderinger
0
AI løser det der elegant:

Formula One will use artificial intelligence to better explain racing to fans during broadcasts of events in 2019, using some data not available to the teams themselves.
 
S

Slubbert

Gjest
Slike overgrep begås konstant, ved Triage, for eksempel:

Triage (fransk for sortering) er en prosess for å bestemme prioritering i behandling av pasienter basert på hvor alvorlig deres medisinske tilstand er. Dette skal gjøre pasientbehandlingen mer effektiv når ressursene er for utilstrekkelige til at alle kan bli behandlet med en gang.
https://no.wikipedia.org/wiki/Triage
Jeg er ikke enig i at det er samme type overgrep. I triage hvis jeg har forstått det riktig, unnlater man å redde noen av hensyn til andre. I trolley utfører man aktivt handlingen å drepe noen av hensyn til andre. Helt fundamental forskjell der. Om man aktivt drepte en døende pasient for å gi hxns organer til en annen litt mindre døende pasient ville det vært mer sammenlignbart.

Hva om det var hundre mennesker på togskinna? Eller hundre tusen? Jeg har fortsatt vanskelig for å komme til noen annen konklusjon enn at det aldri vil være riktig å trekke i spaken. Eneste unntaket kunne kanskje vært om det var så mange mennesker på skinna at den gjenværende populasjonen ikke lenger ville vært levedyktig.
 

OMF

Æresmedlem
Ble medlem
26.02.2002
Innlegg
16.174
Antall liker
9.283
Sted
Bergen
Torget vurderinger
14
Hva om det var hundre mennesker på togskinna? Eller hundre tusen?
Vel, det lar seg jo ikke gjøre å sette opp noe forholdstall.
Enten velger man det som gir minst skade (altså drar i spaken hvis det er 999 på sidesporet og 1000 på hovedsporet. Ellers drar man ikke i spaken.

Mvh
OMF
 

erato

Æresmedlem
Ble medlem
15.03.2003
Innlegg
20.036
Antall liker
10.690
Sted
Bergen
Torget vurderinger
1
Jeg ville trukket i spaken. En unnlatelsessynd er også en synd. Men det er jo betydelig sjanse for at i en slik situasjon blir man handlingslammet.

Men psykologisk er dette vanskelig. Å drepe en ved en aktiv handling kan godt oppleves som svært mye tyngre enn å stå å se på at 5 mennesker blir drept uten å gripe inn.
 
Sist redigert:

Spiralis

Æresmedlem
Ble medlem
13.03.2005
Innlegg
19.678
Antall liker
8.078
Torget vurderinger
0
Slike overgrep begås konstant, ved Triage, for eksempel:

Triage (fransk for sortering) er en prosess for å bestemme prioritering i behandling av pasienter basert på hvor alvorlig deres medisinske tilstand er. Dette skal gjøre pasientbehandlingen mer effektiv når ressursene er for utilstrekkelige til at alle kan bli behandlet med en gang.
https://no.wikipedia.org/wiki/Triage
Jeg er ikke enig i at det er samme type overgrep. I triage hvis jeg har forstått det riktig, unnlater man å redde noen av hensyn til andre. I trolley utfører man aktivt handlingen å drepe noen av hensyn til andre. Helt fundamental forskjell der. Om man aktivt drepte en døende pasient for å gi hxns organer til en annen litt mindre døende pasient ville det vært mer sammenlignbart.

Hva om det var hundre mennesker på togskinna? Eller hundre tusen? Jeg har fortsatt vanskelig for å komme til noen annen konklusjon enn at det aldri vil være riktig å trekke i spaken. Eneste unntaket kunne kanskje vært om det var så mange mennesker på skinna at den gjenværende populasjonen ikke lenger ville vært levedyktig.
Slemt sagt, men om så mange individer leker på jenbanelinja så bør de av hensyn til framtiden for arten tas ut av genpoolen!

Når det gjelder sotering av pasienter så er det noe som blir gjort allerede i dag. Grunnet det faderilge opphavs stilling i Sivilforsvaret vet jeg at man der under øvelser trener på slik sortering. De som uansett vil dø, får smertelindring om nødvendig, men så er det slutt. De begrensede ressursene man da har skal benyttes til å berge de som kan berges. Bruker man 100% av ressursene på et tvilsomt kasus med små sjanser for overlevelse får man ikke hjulpet flere andre som kunne ha overlevd. Resultatet er derfor gjerne at alle de skadde dør og det blir feil. Slik sortering foretas i alle situasjoner der man har begrensede ressurser i forhold til behovet ved større katastrofer / krig. og det er imho både nødvendig, logisk og riktig!
 

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.592
Antall liker
11.576
Det forekommer meg noe underlig at det ikke finnes noen flere premisser i spørsmålet, for i virkeligheten er det nemlig flust av dem. Uansett hva du gjør eller ikke gjør, så er du selv et offer, fordi du vet om en katastrofe, som du senere skal måtte leve med hver dag resten av livet. Du skal leve med valget om å drepe 1 eller drepe 5, fordi du akkurat nå ble gitt makten til å bestemme over liv og død. Er den ene et barn, er det en gammel person, er det din gravide, vakre kone, eller vet du ganske enkelt ingenting om hvem det er, bare at de er hhv. 1 og 5 personer?

Det finnes intet moralsk riktig svar på spørsmålet, det blir vanskelig å klandre noen som utsettes for et så umenneskelig valg. Snur du på det, kan du stille spørsmålet om du ønsker å redde 1 eller 5 fra den sikre død, i stedet. Jeg tror jeg velger 5.

Disqutabel
 

WayAhead

Æresmedlem
Ble medlem
27.12.2017
Innlegg
14.625
Antall liker
3.441
Sted
Sky No Limit....
Torget vurderinger
0
Slub ønsket å sette opp det klassiske Catch 22 dilemmaet - no options men scenarioet er ikke formfast nok slik at det ikke bare er mulig men helt logisk å stille spørsmål rundt "konseptet".
 
S

Slubbert

Gjest
Det forekommer meg noe underlig at det ikke finnes noen flere premisser i spørsmålet, for i virkeligheten er det nemlig flust av dem. Uansett hva du gjør eller ikke gjør, så er du selv et offer, fordi du vet om en katastrofe, som du senere skal måtte leve med hver dag resten av livet. Du skal leve med valget om å drepe 1 eller drepe 5, fordi du akkurat nå ble gitt makten til å bestemme over liv og død. Er den ene et barn, er det en gammel person, er det din gravide, vakre kone, eller vet du ganske enkelt ingenting om hvem det er, bare at de er hhv. 1 og 5 personer?

Det finnes intet moralsk riktig svar på spørsmålet, det blir vanskelig å klandre noen som utsettes for et så umenneskelig valg. Snur du på det, kan du stille spørsmålet om du ønsker å redde 1 eller 5 fra den sikre død, i stedet. Jeg tror jeg velger 5.
Som sagt ble dilemmaet postet i en politisk kontekst, ikke psykologisk. Hvis staten er operatøren, hva bør den da gjøre og hvorfor? Og hva med demokratiets fullmakter, ville det vært riktig å bestemme om man skal trekke i spaken eller ei via en flertallsavgjørelse?
 

Hardingfele

Æresmedlem
Ble medlem
25.10.2014
Innlegg
24.049
Antall liker
18.314
Torget vurderinger
2
Jeg mener vedkommende som bys å dra i spaken står i samme stilling som en som skal sortere skadede ved katastrofe eller krig. Det handler om hvorvidt man skal redde noen eller ikke, og en stedsbestemt vurdering av utsiktene til overlevelse. Hvor mange ressurser skal anvendes, hvor mange ressurser kan reddes.

Den vanlige "løsningen" på sporvognsproblemet er å redde flest mulige. Men man kan begynne å leke med faktorene: den ene er din venn; den ene er en som vil kurere kreft, osv. De fem er forkledde og skal gjennomføre et ran.
Er det da antallet eller utfallet som blir viktigst?

Her er en nådiktet versjon: mennesker har helseapper i sine telefoner og man får mer og mer sofistikert sporing av helsetilstanden. En person ser noen som er i ferd med å drukne og skal til å redde denne. GPS i telefonen og analyse av hva som skjer i forhold til kroppens bevegelser, forteller appen at innehaveren har tenkt å svømme ut i havet. Appen vet at innehaver lett får luftveissykdommer og nåværende status er at man er disponibel for å få en livstruende lungebetennelse.

Skal appen redde den druknende eller innehaveren av appen? "Du vil få lungebetennelse om du svømmer uti, immunsystemet ditt er meget svakt nå. Du risikerer livet."

I forbindelse med sporvognsproblemet for selvkjørende biler ser man dilemmaer som går på formuestatus til person A versus person B. Pris på bilen. Stilling i samfunnet (lett å fastslå med dagens oppkoblede biler/mobilnett). Nær slektning. Fremmed.

Er det mulig for mennesker å handle kun utfra respekt for liv, eller innvirker andre faktorer. Bør man søke å programmere slike inn i KI, eller bør algoritmen kun ta hensyn til antallet personer?

Franske politikere står nå overfor et valg. De har hittil valgt feil, med økonomi som imperativ og samfunnet befinner seg i krise.

Edouard Louis reflekterer: Et vanlig fenomen, denne differensierte oppfatningen av vold: En stor del av medie- og politikerverdenen vil ha oss til å tro at det å føre en politikk som ødelegger tusenvis av liv og kaster dem ut i fattigdom, ikke er vold, men å sette fyr på noen biler, er det. En kan virkelig aldri ha kjent fattigdom på kroppen hvis en mener at tagging på et historisk monument er verre enn å ikke kunne ta vare på helsen sin, leve, skaffe mat til seg selv eller til sin familie.
https://www.lesinrocks.com/2018/12/...-un-gilet-jaune-insultait-mon-pere-111149208/

Hvilken spak bør franske politikere velge? Skal de fortsette å gjøre livene til millioner til et håpløst helvete?
 
Sist redigert:

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.592
Antall liker
11.576
Slub ønsket å sette opp det klassiske Catch 22 dilemmaet - no options men scenarioet er ikke formast nok slik at det er mulig å stille spørsmål rundt "konseptet".
Vet det, men dermed blir litt i overkant hypotetisk. Og jeg velger å se spørsmålet som: "Om du kunne velge, ønsker du å redde 1 eller 5 fra den sikre død?"

Disqutabel
 

Dr Dong

Æresmedlem
Ble medlem
23.01.2011
Innlegg
14.505
Antall liker
14.006
Sted
landskapet uten motstand
Torget vurderinger
1
Hva om handlingen kunne avgjøres ved en folkeavstemming? Vil det vært riktig? I det psykologiske eksperimentet svarte ca 80% av respondentene "ja" da de ble spurt om de selv ville trukket i spaken. Men da de ble spurt om de ville dytte en feit person utfor en bru så han falt ned på skinnegangen og toget kjørte på ham og sporet av (the fat man problem), så svarte 80% "nei". I begge tilfeller dreper man én person for å redde fem, altså er ikke folks meninger logisk konsistente. Så skal demokratiet da ha makt til å ta slike avgjørelser?
Nei, tilfellene er ikke like. I det første tilfellet er ikke den ene personen et middel for å redde de andre. I det andre tilfellet er personen et rent middel for å redde de andre. Folks intuisjoner er her meget gode.
 

WayAhead

Æresmedlem
Ble medlem
27.12.2017
Innlegg
14.625
Antall liker
3.441
Sted
Sky No Limit....
Torget vurderinger
0
Analogi: Hvor mange liv, US soldater, Nippon soldater og sivile reddet man ved å slippe A-bombene over Hiroshima og Nagasaki?
 

Hardingfele

Æresmedlem
Ble medlem
25.10.2014
Innlegg
24.049
Antall liker
18.314
Torget vurderinger
2
Slub ønsket å sette opp det klassiske Catch 22 dilemmaet - no options men scenarioet er ikke formast nok slik at det er mulig å stille spørsmål rundt "konseptet".
Vet det, men dermed blir litt i overkant hypotetisk. Og jeg velger å se spørsmålet som: "Om du kunne velge, ønsker du å redde 1 eller 5 fra den sikre død?"

Disqutabel
Fra mitt innlegg over:

Den vanlige "løsningen" på sporvognsproblemet er å redde flest mulige. Men man kan begynne å leke med faktorene: den ene er din venn; den ene er en som vil kurere kreft, osv. De fem er forkledde og skal gjennomføre et ran.
Er det da antallet eller utfallet som blir viktigst?

---

I forbindelse med sporvognsproblemet for selvkjørende biler ser man dilemmaer som går på formuestatus til person A versus person B. Pris på bilen. Stilling i samfunnet (lett å fastslå med dagens oppkoblede biler/mobilnett). Nær slektning. Fremmed.

Er det mulig for mennesker å handle kun utfra respekt for liv, eller innvirker andre faktorer. Bør man søke å programmere slike inn i KI, eller bør algoritmen kun ta hensyn til antallet personer?
 

WayAhead

Æresmedlem
Ble medlem
27.12.2017
Innlegg
14.625
Antall liker
3.441
Sted
Sky No Limit....
Torget vurderinger
0
Slub ønsket å sette opp det klassiske Catch 22 dilemmaet - no options men scenarioet er ikke formast nok slik at det er mulig å stille spørsmål rundt "konseptet".
Vet det, men dermed blir litt i overkant hypotetisk. Og jeg velger å se spørsmålet som: "Om du kunne velge, ønsker du å redde 1 eller 5 fra den sikre død?"

Disqutabel
Fra mitt innlegg over:

I forbindelse med sporvognsproblemet for selvkjørende biler ser man dilemmaer som går på formuestatus til person A versus person B. Pris på bilen. Stilling i samfunnet (lett å fastslå med dagens oppkoblede biler/mobilnett). Nær slektning. Fremmed.

Er det mulig for mennesker å handle kun utfra respekt for liv, eller innvirker andre faktorer. Bør man søke å programmere slike inn i KI, eller bør algoritmen kun ta hensyn til antallet personer?
JEG faktoren burde vært med som 3 opsjon i pollen. Er du villig til å ofre eget liv for å redde andres... AI gjør jobben her en gang i fremtiden. Hold On To Your Hat...
 
S

Slubbert

Gjest
Hva om handlingen kunne avgjøres ved en folkeavstemming? Vil det vært riktig? I det psykologiske eksperimentet svarte ca 80% av respondentene "ja" da de ble spurt om de selv ville trukket i spaken. Men da de ble spurt om de ville dytte en feit person utfor en bru så han falt ned på skinnegangen og toget kjørte på ham og sporet av (the fat man problem), så svarte 80% "nei". I begge tilfeller dreper man én person for å redde fem, altså er ikke folks meninger logisk konsistente. Så skal demokratiet da ha makt til å ta slike avgjørelser?
Nei, tilfellene er ikke like. I det første tilfellet er ikke den ene personen et middel for å redde de andre. I det andre tilfellet er personen et rent middel for å redde de andre. Folks intuisjoner er her meget gode.
Hm, det er en distinksjon som jeg ikke har tenkt over, men jeg ser ikke helt hvorfor den burde ha noen innvirkning på utfallet. I begge tilfeller utfører du handlingen "å drepe" for å redde andre. Hvorfor er det mer forsvarlig hvis personen ikke er et middel?
 

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.592
Antall liker
11.576
Slub ønsket å sette opp det klassiske Catch 22 dilemmaet - no options men scenarioet er ikke formast nok slik at det er mulig å stille spørsmål rundt "konseptet".
Vet det, men dermed blir litt i overkant hypotetisk. Og jeg velger å se spørsmålet som: "Om du kunne velge, ønsker du å redde 1 eller 5 fra den sikre død?"

Disqutabel
Fra mitt innlegg over:

Den vanlige "løsningen" på sporvognsproblemet er å redde flest mulige. Men man kan begynne å leke med faktorene: den ene er din venn; den ene er en som vil kurere kreft, osv. De fem er forkledde og skal gjennomføre et ran.
Er det da antallet eller utfallet som blir viktigst?

---

I forbindelse med sporvognsproblemet for selvkjørende biler ser man dilemmaer som går på formuestatus til person A versus person B. Pris på bilen. Stilling i samfunnet (lett å fastslå med dagens oppkoblede biler/mobilnett). Nær slektning. Fremmed.

Er det mulig for mennesker å handle kun utfra respekt for liv, eller innvirker andre faktorer. Bør man søke å programmere slike inn i KI, eller bør algoritmen kun ta hensyn til antallet personer?
Ja, de mulige variasjoner er uendelige, og dermed umulig å fatte det ene korrekte valget.

Disqutabel
 
S

Slubbert

Gjest
Den vanlige "løsningen" på sporvognsproblemet er å redde flest mulige. Men man kan begynne å leke med faktorene: den ene er din venn; den ene er en som vil kurere kreft, osv. De fem er forkledde og skal gjennomføre et ran.
Er det da antallet eller utfallet som blir viktigst?
Det her begynner vel å nærme seg litt kjernen i hvorfor jeg mener det aldri vil være riktig å trekke i spaken. For hvis man sier at det er riktig så åpner man en Pandoras eske, hvor operatøren kan gjøre nettopp slike vurderinger. Og i tilfellet operatør=stat så vil det umuliggjøre prinsipper som likhet for loven, eller for den del samfunnskontrakten som sådan.
 
  • Liker
Reaksjoner: MML
S

Slubbert

Gjest
Analogi: Hvor mange liv, US soldater, Nippon soldater og sivile reddet man ved å slippe A-bombene over Hiroshima og Nagasaki?
Krig≠fred. Når den er i krig bedriver en stat kollektivt selvforsvar. Da tilsidesettes de vanlige samfunnsreglene og lovene, og for krig har man derfor egne regler.
 

OMF

Æresmedlem
Ble medlem
26.02.2002
Innlegg
16.174
Antall liker
9.283
Sted
Bergen
Torget vurderinger
14
Jeg mener vedkommende som bys å dra i spaken står i samme stilling som en som skal sortere skadede ved katastrofe eller krig. Det handler om hvorvidt man skal redde noen eller ikke, og en stedsbestemt vurdering av utsiktene til overlevelse. Hvor mange ressurser skal anvendes, hvor mange ressurser kan reddes.
Nei, det er forskjell på å la ting skje, og aktivt gripe inn.

Skal du sammenligne, så er alternativet i krig å ha 3 skadde soldater som trenger blod, om du da skal ta livet av han irriterende fyren som snorker og tappet blodet hans for å redde de tre andre!

Mvh
OMF
 

Hardingfele

Æresmedlem
Ble medlem
25.10.2014
Innlegg
24.049
Antall liker
18.314
Torget vurderinger
2
Jeg mener vedkommende som bys å dra i spaken står i samme stilling som en som skal sortere skadede ved katastrofe eller krig. Det handler om hvorvidt man skal redde noen eller ikke, og en stedsbestemt vurdering av utsiktene til overlevelse. Hvor mange ressurser skal anvendes, hvor mange ressurser kan reddes.
Nei, det er forskjell på å la ting skje, og aktivt gripe inn.

Skal du sammenligne, så er alternativet i krig å ha 3 skadde soldater som trenger blod, om du da skal ta livet av han irriterende fyren som snorker og tappet blodet hans for å redde de tre andre!

Mvh
OMF
Om man reduserer det til det moralske dilemmaet: hvem skal reddes? - er situasjonene like. Jeg ser ikke helt hvorfor blodet til den snorkende soldaten skal sammenstilles med å sikte toget inn på den ene arbeideren. Antallet arbeidere og hvorvidt noen har en irriterende snorking, blir tilleggselement som egentlig ikke burde påvirke det moralske valget. Slubbert velger å ikke gripe inn og tar dermed livet av 5. Dermed bryter han med Benthams utilitarisme, som definerte moralsk handlerom som den handling som gir mest nytte for flest personer i samfunnet. Men som vist over kan dette tilsløres ved at man bruker tilleggsverdier på faktorene, utover selve antallet.
 
S

Slubbert

Gjest
Forskjellen er helt fundamental og ligger i den aktive handlingen "å drepe". Hvis man sier at den aktive handlingen "å drepe" er forsvarlig mellom mennesker, så har man fjernet samfunnskontrakten som grunnlag for fredelig sameksistens. Da er vi i prinsippet tilbake til naturtilstanden.

Og om man sier at handlingen ikke er forsvarlig mellom mennesker, men allikevel er forsvarlig for en myndighet å utøve mot mennesker, så bryter man hele grunnlaget for den liberale rettsstaten. Den logiske konsekvensen av utilitarisme er en totalitær/fascistisk stat.
 
Sist redigert:

bambi

Æresmedlem
Ble medlem
27.01.2011
Innlegg
16.461
Antall liker
12.514
Sted
Smurfeland
Analogi: Hvor mange liv, US soldater, Nippon soldater og sivile reddet man ved å slippe A-bombene over Hiroshima og Nagasaki?
Krig≠fred. Når den er i krig bedriver en stat kollektivt selvforsvar. Da tilsidesettes de vanlige samfunnsreglene og lovene, og for krig har man derfor egne regler.
Krig eller fred er en ubetydelig distinksjon for de som ble drept av atombombene. Død er død, enten det er krig eller ikke.

Ellers føler jeg meg ikke kompetent til å svare på spørsmålet i åpningsinnlegget, men jeg tenker vel at jeg ikke ville dratt i spaken og aktivt bidratt til at en annen måtte ofres. Hvis de tre arbeidet på en trafikkert toglinje og den ene personen var på et inaktivt sidespor, så måtte de tre på den trafikkerte linjen vite at det ville være en viss risiko involvert med jobben de gjorde. De har selv valgt å være der, sannsynligvis vel vitende om at situasjoner som dette kan oppstå.
 

Terje-A

Æresmedlem
Ble medlem
16.05.2013
Innlegg
13.719
Antall liker
9.587
Sted
Østfold
Torget vurderinger
19
Jeg hadde trukket i spaken. Føles mest riktig. Om jeg hadde dyttet tjukken er jeg mer usikker på. Hadde tjukken vært 90 år så kanskje..
 

OMF

Æresmedlem
Ble medlem
26.02.2002
Innlegg
16.174
Antall liker
9.283
Sted
Bergen
Torget vurderinger
14
Jeg mener vedkommende som bys å dra i spaken står i samme stilling som en som skal sortere skadede ved katastrofe eller krig. Det handler om hvorvidt man skal redde noen eller ikke, og en stedsbestemt vurdering av utsiktene til overlevelse. Hvor mange ressurser skal anvendes, hvor mange ressurser kan reddes.
Nei, det er forskjell på å la ting skje, og aktivt gripe inn.

Skal du sammenligne, så er alternativet i krig å ha 3 skadde soldater som trenger blod, om du da skal ta livet av han irriterende fyren som snorker og tappet blodet hans for å redde de tre andre!

Mvh
OMF
Om man reduserer det til det moralske dilemmaet: hvem skal reddes? - er situasjonene like. Jeg ser ikke helt hvorfor blodet til den snorkende soldaten skal sammenstilles med å sikte toget inn på den ene arbeideren. Antallet arbeidere og hvorvidt noen har en irriterende snorking, blir tilleggselement som egentlig ikke burde påvirke det moralske valget. Slubbert velger å ikke gripe inn og tar dermed livet av 5. Dermed bryter han med Benthams utilitarisme, som definerte moralsk handlerom som den handling som gir mest nytte for flest personer i samfunnet. Men som vist over kan dette tilsløres ved at man bruker tilleggsverdier på faktorene, utover selve antallet.
Nei, situasjonene er på ingen måte like.

Vet ikke om skjebne er riktig ord her, men for meg er det åpenbart at det er en stor forskjell på det å gripe aktivt inn og endre noens "skjebne", og det å foreta en vanskelig prioritering for å gjøre det beste ut av en situasjon man har havnet opp i.

Dette er jo også helt åpenbart - når du nevner Triage - så er jeg rimelig sikker på at det ikke er en kolonne for "dersom det er kritisk organsvinkt på mer enn 2 pasienter, så skal man slakte enn av de ansatte på sukehuset og hente organer.

Jeg tror uenigheten gjerne skyldes forskjellig fokus.
* De som vil dra i spaken - ser gjerne på hele situasjonen.
* De som ikke vil dra i spaken - ser gjerne på handlingen.

Men situasjonen er gjerne oppstått av en rekke handlinger, tilfeldigheter og uheldige omstendigheter og det er på ingen måte gitt at de som har ansvaret (hva nå det skulle være) er den som står med valget. Og man kan ikke forvente at alle mennesker til enhver tid skal være dommer i alle situasjoner og gå inn og handle for best nytte for samfunnet.
 
S

Slubbert

Gjest
Den logiske handlingen for en utilitaristisk stat, er å drepe alle mennesker når de når pensjonsalder. Fordi pensjonister er en ren utgift for staten. Staten, og med det de menneskene som ikke er pensjonister, vil få bedre levekår om denne utgiften forsvinner.

Noe av det skumleste med tanken om singulariteten og AGI. (artificial general intelligence), er at den etter all sannsynlighet vil bli utilitaristisk. Så den kan fort finne ut at det mest hensiktsmessige er å ta livet av alle mennesker hvis det tjener et mål. I motsetning til en AGI så har mennesker har utviklet sin intelligens over lang tid og i avhengighet av andre (mennesket kan ikke overleve uten en flokk), og derfor har vi også gjennom evolusjonen utviklet empati. Siden en AGI ikke er avhengig av andre for å overleve, så er det i prinsippet ingen grunn til at den skal utvikle empati. Den blir mest sannsynlig rent utilitaristisk.
 

WayAhead

Æresmedlem
Ble medlem
27.12.2017
Innlegg
14.625
Antall liker
3.441
Sted
Sky No Limit....
Torget vurderinger
0
Analogi: Hvor mange liv, US soldater, Nippon soldater og sivile reddet man ved å slippe A-bombene over Hiroshima og Nagasaki?
Krig≠fred. Når den er i krig bedriver en stat kollektivt selvforsvar. Da tilsidesettes de vanlige samfunnsreglene og lovene, og for krig har man derfor egne regler.
Krig eller fred er en ubetydelig distinksjon for de som ble drept av atombombene. Død er død, enten det er krig eller ikke.

Ellers føler jeg meg ikke kompetent til å svare på spørsmålet i åpningsinnlegget, men jeg tenker vel at jeg ikke ville dratt i spaken og aktivt bidratt til at en annen måtte ofres. Hvis de tre arbeidet på en trafikkert toglinje og den ene personen var på et inaktivt sidespor, så måtte de tre på den trafikkerte linjen vite at det ville være en viss risiko involvert med jobben de gjorde. De har selv valgt å være der, sannsynligvis vel vitende om at situasjoner som dette kan oppstå.
Jovisst men du starter med å dra i håndtaket som du vet tar livet av 100 000 sivile.....
 

jane

Hi-Fi freak
Ble medlem
27.06.2004
Innlegg
3.163
Antall liker
1.202
Sted
'
Kjenner jeg noen av de involverte?
Hvis f eks dattera mi hadde stått i gruppen på 5 hadde det blitt enklere å rettferdiggjøre valget ovenfor meg selv, der og da.
 

bambi

Æresmedlem
Ble medlem
27.01.2011
Innlegg
16.461
Antall liker
12.514
Sted
Smurfeland
Analogi: Hvor mange liv, US soldater, Nippon soldater og sivile reddet man ved å slippe A-bombene over Hiroshima og Nagasaki?
Krig≠fred. Når den er i krig bedriver en stat kollektivt selvforsvar. Da tilsidesettes de vanlige samfunnsreglene og lovene, og for krig har man derfor egne regler.
Krig eller fred er en ubetydelig distinksjon for de som ble drept av atombombene. Død er død, enten det er krig eller ikke.

Ellers føler jeg meg ikke kompetent til å svare på spørsmålet i åpningsinnlegget, men jeg tenker vel at jeg ikke ville dratt i spaken og aktivt bidratt til at en annen måtte ofres. Hvis de tre arbeidet på en trafikkert toglinje og den ene personen var på et inaktivt sidespor, så måtte de tre på den trafikkerte linjen vite at det ville være en viss risiko involvert med jobben de gjorde. De har selv valgt å være der, sannsynligvis vel vitende om at situasjoner som dette kan oppstå.
Jovisst men du starter med å dra i håndtaket som du vet tar livet av 100 000 sivile.....
Skjønner ikke hva du mener?
 

bambi

Æresmedlem
Ble medlem
27.01.2011
Innlegg
16.461
Antall liker
12.514
Sted
Smurfeland
Kjenner jeg noen av de involverte?
Hvis f eks dattera mi hadde stått i gruppen på 5 hadde det blitt enklere å rettferdiggjøre valget ovenfor meg selv, der og da.
Hadde ikke tankeeksperimentet blitt ubrukelig med premisser som at man kjenner noen av de involverte?

Edit: med mindre man kjente noen i begge grupper, men da ville hele saken blitt noe helt annet også.
 
S

Slubbert

Gjest
Analogi: Hvor mange liv, US soldater, Nippon soldater og sivile reddet man ved å slippe A-bombene over Hiroshima og Nagasaki?
Krig≠fred. Når den er i krig bedriver en stat kollektivt selvforsvar. Da tilsidesettes de vanlige samfunnsreglene og lovene, og for krig har man derfor egne regler.
Krig eller fred er en ubetydelig distinksjon for de som ble drept av atombombene. Død er død, enten det er krig eller ikke.
Det har du helt rett i, men det har alt å si for de styrende prinsippene til en stat. Det kan aldri være riktig å slippe bomber over mennesker i fredstid. Men hvis man ikke åpner for å bryte slike regler i krig, så vil en "snill stat" (en som ikke bomber mennesker) være fullstendig forsvarsløs ovenfor en "slem stat" (en som bomber mennesker). Og da viil den "slemme staten" bare utrydde alle de "snille statene" og overta verden. Derfor må det gjelde andre regler for krig enn i fredstid. I krig bedriver stater kollektivt selvforsvar.

Ellers er dette også grunnen til at det finnes ett unntak mot regelen om at det aldri kan være rett å drepe (fordi vi da havner tilbake i naturtilstanden): Selvforsvar. Hvis vi ikke kan drepe i selvforsvar så vil "slemme mennesker" (de som dreper) bare kunne utrydde "snille mennesker" (de som ikke dreper). Så det unntaket må være der.
 
Sist redigert:
S

Slubbert

Gjest
Kjenner jeg noen av de involverte?
Hvis f eks dattera mi hadde stått i gruppen på 5 hadde det blitt enklere å rettferdiggjøre valget ovenfor meg selv, der og da.
Ja, vi er mennesker, vi er ikke rasjonelle og vil aldri handle helt og holdent i henhold til prinsipper. Men jeg mener fortsatt at det prinsipielt aldri kan være riktig å dra i spaken, siden vi da i praksis er tilbake til naturtilstanden. Men at vi gjør handlinger som vi selv mener er prinsipielt feil i enkelte situasjoner; selvsagt gjør vi det. Vi er mennesker og ikke roboter. Men igjen; jeg stilte dette spørsmålet mer i konteksten operatør = stat, heller enn operatur = deg.
 

Terje-A

Æresmedlem
Ble medlem
16.05.2013
Innlegg
13.719
Antall liker
9.587
Sted
Østfold
Torget vurderinger
19
Man skiller her på antall mennesker, men så kan man dra inn hierarki, alder, funksjonsdyktighet og kjønn. Står Kong Harald og Sonja på det ene sporet og en gruppe pensjonister med rullator på det andre sporet så kan man jo vurdere.
 
Topp Bunn