Politikk, religion og samfunn The trolley problem

Er det riktig å trekke i spaken?

  • Ja

    Stemmer: 8 88.9%
  • Nei

    Stemmer: 1 11.1%

  • Totalt antall stemmer
    9
S

Slubbert

Gjest
Slubbert: Er det mer riktig å ikke gjøre noe for å redusere omfanget av skaden, når 1) du er den eneste som kan gjøre det? og 2) det eneste du trenger å gjøre er å trekke i en spak som du allerede har ansvaret for å styre?

Ellers ville det være interessant å lese hva du tenker om den litt justerte varianten jeg presenterte i innlegg 67.
Jeg tror ikke den justerte varianten vil forandre saken, "å slippe" er også en aktiv handling. Og logikken er ikke at du "ikke gjør noe galt når du toer dine hender", da har du ikke forstått logikken. Poenget er at et samfunn som dreper sine egne ikke lenger er et samfunn. Og samme for en AI, hvis den får som regel/input at enkelte situasjoner faktisk kan rettferdiggjøre drap på mennesker, så har du åpnet Pandoras eske. Da vil den etter hvert forsøke å drepe oss alle.
 
Sist redigert:

AndersR

Hi-Fi freak
Ble medlem
15.05.2011
Innlegg
5.236
Antall liker
4.031
Sted
Oslo
Torget vurderinger
1
Mener du at du ikke bidrar til å sikre deres død ved å ikke gripe inn når det er så enkelt å redde dem?
 
S

Slubbert

Gjest
Mener du at du ikke bidrar til å sikre deres død ved å ikke gripe inn når det er så enkelt å redde dem?
Jo da har du medansvar, og selvsagt bør du gripe inn om du kan, men ikke hvis du griper inn ved å drepe en annen person.

Hva om en AI, mye mer intelligent enn oss, finner ut at den ved å drepe tusen (for oss) vilkårlige folk på gata en gang i blant, kan redde millioner av liv i en fremtiden? Fordi det er sannsynlig at én av disse vil bli en despot som starter en ny verdenskrig (det kan AIen regne ut mye bedre enn oss)? Eller ville det vært riktig å drepe Hitler som baby så han ikke startet andre verdenskrig, og slik reddet millioner av uskyldige mennesker? Ja? Hva om man da kan regne ut at det er 90% sannsynlig at "den neste Hitler" blir født i det og det samfunnslaget i det og det landet? Hvorfor ikke da bare drepe alle babyer som passer disse kriteriene? Jeg antar at du ser hvor det bærer hen, men poenget er at å åpne opp for at drap på uskyldige/vilkårlige kan rettferdiggjøres, selv om det er for å redde andre, i praksis er å oppheve forutsetningene for at vi kan leve i et fredelig samfunn.
 
Sist redigert:
G

Gjestemedlem

Gjest
En annen ting er at om man går å soser på et jernbanespor med trafikk, så har man strengt tatt sannsynligvis seg selv i takke om det smeller. Samme om man spiller crocket på en motorvei.

--
Et par år gamle tall, men ikke noe som tyder på vesentlig endring.

https://www.tv2.no/a/3713737/


41 mennesker drept av toget hver dag i India
– En massakre, sier indiske myndigheter.

Nesten 15.000 mennesker mister hvert år livet fordi de forsøker å krysse indiske jernbanelinjer utenom bruer og planoverganger og blir påkjørt av tog. Indiske myndigheter beskriver togdøden som en «massakre».

---

41 drepte i snitt hver dag av tog, stort sett fordi folk tar snarveier over sporene og ikke gidder å bruke sikre overganger. Så en doku om en indisk togfører en gang, og han hadde vel kjørt på 60-70 mennesker mente han.

Da kan man nesten hevde at det er sannsynlig at det fortsetter i samme gate, og at man kun ved å velge å gå på jobb mer eller mindre med sikkerhet vil kjøre et tog som dreper flere mennesker. Men er det galt av den grunn? Mange mennesker er avhengig av toget. Mumbai Suburban Railway har 7,5 millioner passasjerer DAGLIG.
 

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.579
Antall liker
11.541
Mener du at du ikke bidrar til å sikre deres død ved å ikke gripe inn når det er så enkelt å redde dem?
Jo da har du medansvar, og selvsagt bør du gripe inn om du kan, men ikke hvis du griper inn ved å drepe en annen person.

Hva om en AI, mye mer intelligent enn oss, finner ut at den ved å drepe tusen (for oss) vilkårlige folk på gata en gang i blant, kan redde millioner av liv i en fremtiden? Fordi det er sannsynlig at én av disse vil bli en despot som starter en ny verdenskrig (det kan AIen regne ut mye bedre enn oss)? Eller ville det vært riktig å drepe Hitler som baby så han ikke startet andre verdenskrig, og slik reddet millioner av uskyldige mennesker? Ja? Hva om man da kan regne ut at det er 90% sannsynlig at "den neste Hitler" blir født i det og det samfunnslaget i det og det landet? Hvorfor ikke da bare drepe alle babyer som passer disse kriteriene? Jeg antar at du ser hvor det bærer hen, men poenget er at å åpne opp for at drap på uskyldige/vilkårlige kan rettferdiggjøres, selv om det er for å redde andre, i praksis er å oppheve forutsetningene for at vi kan leve i et fredelig samfunn.
Jeg deler ikke helt oppfatningen av at en menneskelig inngripen i det opprinnelige problemet, kan sammenlignes med AI. Årsaken er at om du eller en annen person opplever denne tenkte situasjonen er også du et offer. En eller annen variant over AI vil aldri kunne bli et offer, den vil bare handle i tråd med en eller annen logikk.
Som menneske vil du ha en magefølelse der og da, basert på hvemvethva, og denne vil få deg til å handle / ikke handle, og du vil mest sannsynlig miste mye nattesøvn over problemstillingen "gjorde jeg rett?" i årevis etterpå, kanskje resten av ditt liv.

Om du ser to personer som er i ferd med å drukne, og du kan velge å redde den ene, hvem velger du, og hvorfor? Har du da valgt å drepe den ene du valgte bort? Det er umulig å påstå at det ene eller det andre er feil.

Disqutabel
 
S

Slubbert

Gjest
Følelser er komplekse. De er også sterkt individuelle, så derfor kan regler åpenbart ikke baseres på følelser. Regler må baseres på et rasjonale. Regler skal gjelde for alle, og sånn sett er de antitesen til følelser, som er individuelle. Og sånn sett er heller ikke regler for en AI og regler for et samfunn ulike.

Du har for øvrig ikke drept noen som du ikke redder. Du har gjort en unnlatelsessynd ja, men drept dem har du ikke.
 

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.579
Antall liker
11.541
Følelser er komplekse. De er også sterkt individuelle, så derfor kan regler åpenbart ikke baseres på følelser. Regler må baseres på et rasjonale. Regler skal gjelde for alle, og sånn sett er de antitesen til følelser, som er individuelle. Og sånn sett er heller ikke regler for en AI og regler for et samfunn ulike.

Du har for øvrig ikke drept noen som du ikke redder. Du har gjort en unnlatelsessynd ja, men drept dem har du ikke.
Da bringer du i så fall til torgs regelen om at antall og situasjon er uvesentlig, det eneste som er vesentlig, er om noe eller noen skal gripe inn å ta liv for å hindre en ren katastrofe. Den tenkte situasjon at noen hacker et fly, og tenker å styrte det ved hjelp av radiostyring, kan du forhindre, men bare om du regelrett henretter mannen med radiostyringen. Rett eller feil å ta ut vedkommende?
Du husker kanskje kapringsforsøket på Torp? Der valgte statens maktmonopol å ta ut en potensiell morder for å unngå videre vold. Det må man av og til. Og i enkelte ufattelige tilfeller kan man møte velget mellom 1 eller 1000, og velge den ene. Det er umulig å si etterpå at du handlet feil.

Disqutabel
 
S

Slubbert

Gjest
Rett. I motsetning til fyren på toglinja er ikke radiomannen en vilkårlig/uskyldig. Han har gjennom sin handling (å ta over styringen av et fly med den hensikt å styrte det) selv meldt seg ut av samfunnet og samfunnskontrakten. Da kan samfunnet for å beskytte sine borgere rettmessig gå til ytterligheter mot vedkommende.
 

MartinSandvik

Overivrig entusiast
Ble medlem
18.03.2008
Innlegg
811
Antall liker
514
Sted
Trondheim
Torget vurderinger
8
Mener jeg leste en forskningsrapport på det aktuelle spørsmålet for en tid tilbake.
Funnene deres var at majoriteten av folk ikke ville dratt i spaken for å redde de 5. Ganske enkelt fordi de da aktivt tar livet av 1 person istedet for å være uskyldige vitner til at 5 stk ble drept.
Rapporten sa også at majoriteten sier de ville gjort det, men simulerte forsøk (hvor deltakerene ikke visste de var med på et forsøk) beviste at de snakket usant.

Har ikke sett noe forskning på AndersR's vending hvor man står å holder i spaken som dreper 5stk, hvor å slippe spaken penser toget over på det andre sporet med 1 person.
Da er man allerede aktivt involvert, og det er sånn jeg ser det større sjanse for at den ene blir ofra til fordel for de andre 5.
Ved å holde inn spaken dreper man "aktivt", ved å slippe redder man 4.

Så kan man ta alle eventualiteter hvor man kjenner, er i slekt med eller blir direkte påvirket selv, ville man nok ofra de på det andre sporet, selv om din næreste stod alene og det var 10000 på det andre sporet du ikke kjente.
Man er seg selv nærmest.

--
Martin
 

AndersR

Hi-Fi freak
Ble medlem
15.05.2011
Innlegg
5.236
Antall liker
4.031
Sted
Oslo
Torget vurderinger
1
Husk at det til stadighet dømmes folk for å indirekte drap, ved å "ha forlatt noen i hjelpeløs tilstand" som det så fint heter.
I praksis betyr dette som oftest å ha mishandlet folk så grundig at de senere dør av skadene (eller forventes å dø), men det kan også benyttes om situasjoner hvor det fremstår som rimelig at man burde gripe inn, men lot være å gjøre det.
Akkurat hva som er rimelig er selvsagt ikke alltid like enkelt å definere når vi snekrer ekstreme tilfeller som vi gjør med togeksemplene våre her, men det kan være greit å ta med. Og jeg er svært usikker på om sporvekslerbetjent Slubbert ville sluppet anklage dersom han snudde ryggen til når han så at han måtte ta et valg. Mye formildene omstendigheter selvsagt. Panikk er selvsagt det vanligste, men dersom det kom frem at du kalkulert hadde gjort et valg om å ikke gripe inn , og det ikke var et resultat av akutt panikk tror jeg nok du ville slitt mer enn den som valgte å ofre en for å redde fem.


Slubbert: Når det er sagt, ta gjerne en titt på variasjonen jeg nevnte i innlegg 67. Endrer det situasjonen din at du faktisk holder spaken nede`i forkant av at du oppdager faren, eller slipper du den (utfører en aktiv handling) for å unngå å gjøre en aktiv handling som vil føre til at noen dør?
 

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.579
Antall liker
11.541
Rett. I motsetning til fyren på toglinja er ikke radiomannen en vilkårlig/uskyldig. Han har gjennom sin handling (å ta over styringen av et fly med den hensikt å styrte det) selv meldt seg ut av samfunnet og samfunnskontrakten. Da kan samfunnet for å beskytte sine borgere rettmessig gå til ytterligheter mot vedkommende.
Men hvem skal være etterforsker, dommer og bøddel i løpet av sekunder i en slik sak? Det finnes ingen enkle svar.

Disqutabel
 

OMF

Æresmedlem
Ble medlem
26.02.2002
Innlegg
16.173
Antall liker
9.281
Sted
Bergen
Torget vurderinger
14
Føler debatten går på litt ulike ting her:

Er vel bare jeg og Slubbert som har sagt nei så langt, og jeg svarte i lys av selvkjørende biler.

Jeg ønsker selvsagt å redde flest mulig liv, og om det kommer et tog dundrende et eller annet sted og man ikke får stoppet det, så støtter jeg å pense toget i den retningen det er færrest mennesker.

Det jeg ikke støtter, er at ulike former for kunstig intelligens - skal få mulighet til å gjøre slik valg. Teknologien må "løse problemet" innefor de handlingsrammene som er definert. Så dersom et eller annnet svikter på en selvkjørende bil, så vil jeg ikke la den få lov til å svinge over i motsatt kjørebane/på fortauet og potensielt drepe færre. Dersom bilen har flere "lovlige valg" (feks plassering til høyre eller venstre i sitt kjørefelt, så skal den selvsagt få velge lavest skade innenfor et slikt scenariet).

Jeg er forøvrig ikke bekymret for slik teknologi skal ta hensyn til inntekt, status eller at man skal kunne kjøpe forsikringer som gjør at selvkjørende biler svinger bort hvis du som rikmann skulle havne i fare. Jeg ser vel heller ingen tegn i tiden som peker på en slik utvikling, snarere blir det meste i samfunnet mer transparent og det blir færre og færre skjulte privilegier.

Mvh
OMF
 
S

Slubbert

Gjest
Slubbert: Når det er sagt, ta gjerne en titt på variasjonen jeg nevnte i innlegg 67. Endrer det situasjonen din at du faktisk holder spaken nede`i forkant av at du oppdager faren, eller slipper du den (utfører en aktiv handling) for å unngå å gjøre en aktiv handling som vil føre til at noen dør?
Jeg svarte på den i #81. Jeg tror ikke det ville forandret saken. Når du slipper med intensjon om å drepe den ene, så er det en aktiv handling. Og igjen, et samfunn som tillater drap på uskyldige/vilkårlige blant sine egne, selv om det er for å redde andre liv, har gjennom det oppløst samfunnskontrakten.

Rett. I motsetning til fyren på toglinja er ikke radiomannen en vilkårlig/uskyldig. Han har gjennom sin handling (å ta over styringen av et fly med den hensikt å styrte det) selv meldt seg ut av samfunnet og samfunnskontrakten. Da kan samfunnet for å beskytte sine borgere rettmessig gå til ytterligheter mot vedkommende.
Men hvem skal være etterforsker, dommer og bøddel i løpet av sekunder i en slik sak? Det finnes ingen enkle svar.
Synes ikke det vanskeliggjør svaret, eller er relevant for det moralske dilemmaet for den del. Etterforsker og dommer vil være de som tiltaler deg etter at du har drept vedkommende. Du har tatt et liv, følgelig vil du bli etterforsket for mord. Hvis de finner ut at du har drept vedkommende fordi han var i ferd med å styrte et fly med uskyldige så bør du frikjennes, i og med at dette vil være en moralsk tillatelig handling i en slik situasjon (fordi han du har drept gjennom sin handling meldte seg ut av samfunnet). Hvis han du har drept er uskyldig må du dømmes.

Her er forøvrig en lengre versjon av Dr. Dongs "middel-argument". Når jeg tenkte meg om kom jeg på at jeg har sett det før: https://rintintin.colorado.edu/~van...yNlpSDgzxHSOGqWc1W-gReMjETIb1lEZIwpCAR-5udztk

Det er for så vidt en interessant diskusjon, men jeg synes de later til å hoppe bukk over det samfunnsmessige elementet. Altså at et samfunn ikke kan tillate drap på usyldige/vilkårlige blant sine egne, selv for å redde andre, uten at det med det opphever grunnlaget for å være et samfunn.
 

AndersR

Hi-Fi freak
Ble medlem
15.05.2011
Innlegg
5.236
Antall liker
4.031
Sted
Oslo
Torget vurderinger
1
Slubbert: Når det er sagt, ta gjerne en titt på variasjonen jeg nevnte i innlegg 67. Endrer det situasjonen din at du faktisk holder spaken nede`i forkant av at du oppdager faren, eller slipper du den (utfører en aktiv handling) for å unngå å gjøre en aktiv handling som vil føre til at noen dør?
Jeg svarte på den i #81. Jeg tror ikke det ville forandret saken. Når du slipper med intensjon om å drepe den ene, så er det en aktiv handling. Og igjen, et samfunn som tillater drap på uskyldige/vilkårlige blant sine egne, selv om det er for å redde andre liv, har gjennom det oppløst samfunnskontrakten.
Beklager, jeg feiltolket det som at det var et svar på noe annet enn selve det justerte dilemmaet. La faktisk ikke merke til at du kommenterte at det VAR et svar på den justerte varianten. Sannsynligvis var det fordi jeg hadde forventet noe helt annet og derfor, inne i mitt eget hode, hadde du ikke tatt stilling til problemet. Beklager!

Det jeg føler er det problematiske, er at om du holder spaken på plass for å tillate at den planlagte togpasseringen finner sted til tross for faren du har oppdaget, så har du jo også gjort en aktiv handling som respons på en vurdering du har gjort.

Vi er sannsynligvis alle enige om at det ikke bare er riktig om du hadde sluppet spaken og penset toget over på det andre sporet dersom det hadde vært tomt for folk, men faktisk din plikt å gjøre dette. Det er jo derfor du sitter med hånda på spaken, for å sørge for at toget blir penset over på riktig spor for å unngå ulykker.

Den biten er grei.

Det interessante dilemmaet oppstår når det skjer ting på det andre sporet også, slik at man ikke kan unngå skade uansett hva man velger.
På spor 1 er det alltid fem mennesker som arbeider med å fikse noe viktig på linja.

Når slutter det å være greit å pense toget over på spor 2?

1: Det står en pall med ekstremt kostbare reservedeler på spor 2. Sjansen er stor for at toget kan kræsje i pallen uten at det oppstår personskade, kun kostbare materielle skader på toget som bør kunne repareres, samt at pallen med reservedeler blit totalødelagt.

2: På spor 2 er det en kurv med åtte bittesmå kattunger som venter på å komme til et nytt hjem.

3: På spor 2 står en liten godsvogn innredet som medisinsk lab som akkurat har utviklet den første fungerende kreftvaksinen og er på vei til en SOS Barneby for å for første gang kunne kurere 300 kreftsyke barn som ellers vil dø av kreft. Den portable laben med innhold er den eneste av sitt slag, og det er umulig å få ut en ny vaksine før de fleste av de 300 barna har dødd for lenge siden. Vognen er for øyeblikket ubemannet, så det er ingen ombord i vognen som vil bli skadet, men vognen i seg selv vil totalødelegges, og det bortimot garantert alvorlig personskade blant personell og passasjerer i toget dersom det treffer denne godsvognen. Moderat fare for tap av liv.

4: På spor 2 er det 20 førerhunder som har lagt seg til å sove mens de venter på at eierne kommer tilbake fra... øh.... et seminar. Toget vil ikke påføres skade.

5: På spor 2 står en fangetransportvogn med en 118 år gammel mann ombord som er på vei til et nytt fengsel hvor han skal henrettes. Ingen andre er ombord. Det forventes materielle skader på toget, men ingen personskade ved sammenstøt. Fangevognen forventes totalødelagt og det er minimal sjanse for at passasjeren vil overleve.

6: På spor 2 er det et nyfødt barn (ikke spør hvorfor. det er sånt som skjer).

7: På spor 2 sitter Justin Bieber i en campingstol og justerer sveisen.

8: På spor 2 står en godsvogn med de siste gjenværende dråpene i verden fra Port Ellen. Toget forventes å klare å pulverisere godsvognen med store materielle og en del tilfeller av moderat alvorlige personskader.

9: På spor 2 er det en haug betongsviller lagret opp. Ingen mennesker. Toget vil etter sammenstøtet garantert spore av og antallet liv som vil gå tapt blir sannsynligvis enormt.

10: På spor _1_ er det betongsviller lagret opp sammen med de fem linjearbeiderne. På spor 2 er det ett menneske som smugrøyker som burde vært på spor 1 og hjulpet de andre fem. Ingen andre hindringer på spor 2.

Jeg liker slike tankeeksperimenter selv om det sklir ut i mye fjollete eksempler som vist ovenfor. Men jeg liker at det utfordrer det etiske tankemønsteret, for ofte vil man kjapt kunne komme til en konklusjon, men det er vanskeligere å argumentere for hvorfor valget er korrekt.


Når det kommer til at et samfunn som ikke kan tillate drap på noen for å redde andre, ikke lenger er et samfunn, synes jeg blir for enkelt.
Jeg skjønner konseptet med at det aldri vil være riktig å drepe noen, uansett hvor god grunn man mener man har.
Og da er spørsmålet ikke om det er RIKTIG å drepe noen for å redde andre. Det kan like gjerne om det er riktig å la være.

Eller for å si det enkelt: Alt blir galt, uansett. Men hva er minst galt?

Skadebegrensing. Enkelt og greit. Jeg synes eksempelet med flyet er godt. Det er aldri riktig å drepe noen som bor alene på en ellers forlatt campingplass ved å kræsje flyet sitt der, men å la flyet kræsje midt i sentrum der det vil dø titusenvis av mennesker vil være MER galt. Så det blir feil uansett, men noe blir altså mer feil enn andre ting.
Å la være å velge fordi det er vanskelig er ingen løsning. Og du kommer til å slite med valget (uansett om valget var å ikke gjøre et valg) resten av livet uansett, dersom du overlever prosessen selv.

Konklusjon: Alt blir feil. Uansett.
Spørsmålet blir: Hvilken feil kan du klare å leve med?




Når dere har funnet svarene deres (trenger ikke poste de her nødvendigvis) kan det være relevant å tenke over om det har noe å si om det et er et menneske eller en AI som har tar de samme avgjørelsene som du selv ville tatt.
 
Sist redigert:

BT

Æresmedlem
Ble medlem
13.10.2005
Innlegg
21.445
Antall liker
6.862
Dårlig tidspunt å begynne å dra i spaken, spør du meg.
Men enkelte gjør nok mye rart for å gå over i spor 2.
 

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.579
Antall liker
11.541
Slubbert: Når det er sagt, ta gjerne en titt på variasjonen jeg nevnte i innlegg 67. Endrer det situasjonen din at du faktisk holder spaken nede`i forkant av at du oppdager faren, eller slipper du den (utfører en aktiv handling) for å unngå å gjøre en aktiv handling som vil føre til at noen dør?
Jeg svarte på den i #81. Jeg tror ikke det ville forandret saken. Når du slipper med intensjon om å drepe den ene, så er det en aktiv handling. Og igjen, et samfunn som tillater drap på uskyldige/vilkårlige blant sine egne, selv om det er for å redde andre liv, har gjennom det oppløst samfunnskontrakten.

Rett. I motsetning til fyren på toglinja er ikke radiomannen en vilkårlig/uskyldig. Han har gjennom sin handling (å ta over styringen av et fly med den hensikt å styrte det) selv meldt seg ut av samfunnet og samfunnskontrakten. Da kan samfunnet for å beskytte sine borgere rettmessig gå til ytterligheter mot vedkommende.
Men hvem skal være etterforsker, dommer og bøddel i løpet av sekunder i en slik sak? Det finnes ingen enkle svar.
Synes ikke det vanskeliggjør svaret, eller er relevant for det moralske dilemmaet for den del. Etterforsker og dommer vil være de som tiltaler deg etter at du har drept vedkommende. Du har tatt et liv, følgelig vil du bli etterforsket for mord. Hvis de finner ut at du har drept vedkommende fordi han var i ferd med å styrte et fly med uskyldige så bør du frikjennes, i og med at dette vil være en moralsk tillatelig handling i en slik situasjon (fordi han du har drept gjennom sin handling meldte seg ut av samfunnet). Hvis han du har drept er uskyldig må du dømmes.

Her er forøvrig en lengre versjon av Dr. Dongs "middel-argument". Når jeg tenkte meg om kom jeg på at jeg har sett det før: https://rintintin.colorado.edu/~van...yNlpSDgzxHSOGqWc1W-gReMjETIb1lEZIwpCAR-5udztk

Det er for så vidt en interessant diskusjon, men jeg synes de later til å hoppe bukk over det samfunnsmessige elementet. Altså at et samfunn ikke kan tillate drap på usyldige/vilkårlige blant sine egne, selv for å redde andre, uten at det med det opphever grunnlaget for å være et samfunn.
Poenget er jo at du selv påtar deg dommer og bøddel-ansvar i det du velger å ta liv. Sett at det er to som har radiostyring, og du ikke vet hvem av dem som har kontrollen, bare at det er en av dem; skal du da drepe begge? Og skal du si så fall etterpå dømmes for det ene drapet, og frikjennes for det andre?

Disqutabel
 

BT

Æresmedlem
Ble medlem
13.10.2005
Innlegg
21.445
Antall liker
6.862
Man velger ikke å ta liv i den situasjonen. Man velger strengt tatt bare hvor mange.
 
S

Slubbert

Gjest
Poenget er jo at du selv påtar deg dommer og bøddel-ansvar i det du velger å ta liv. Sett at det er to som har radiostyring, og du ikke vet hvem av dem som har kontrollen, bare at det er en av dem; skal du da drepe begge?
Nei, ingen av dem.

Jeg fremhevet det vel spesifikt, men jeg formoder at du er inneforstått med at jeg ikke snakker om menneskelige vurderinger i den gitte situasjonen, men regler for rett og galt. Om du erstatter mennesket med en AI blir prinsippene nøyaktig de samme.
 

Disqutabel

Æresmedlem
Ble medlem
28.09.2016
Innlegg
11.579
Antall liker
11.541
Poenget er jo at du selv påtar deg dommer og bøddel-ansvar i det du velger å ta liv. Sett at det er to som har radiostyring, og du ikke vet hvem av dem som har kontrollen, bare at det er en av dem; skal du da drepe begge?
Nei, ingen av dem.

Jeg fremhevet det vel spesifikt, men jeg formoder at du er inneforstått med at jeg ikke snakker om menneskelige vurderinger i den gitte situasjonen, men regler for rett og galt. Om du erstatter mennesket med en AI blir prinsippene nøyaktig de samme.
Ja, og vi er ganske enige (men ikke helt) hva angår instrumentelle drap (AI / Stat), men jeg mener også at den typen prinsipp ikke er direkte overførbart til menneskelige avgjørelser. Og akkurat det poenget skaper også den lille uenigheten vi har omkring AI; for dersom mennesket opplever det som et dillemma, vil også en velutviklet AI på et eller annet tidspunkt gjøre det. Fordi det ikke finnes et riktig og et feil svar.

Disqutabel
 
S

Slubbert

Gjest
Poenget er jo at du selv påtar deg dommer og bøddel-ansvar i det du velger å ta liv. Sett at det er to som har radiostyring, og du ikke vet hvem av dem som har kontrollen, bare at det er en av dem; skal du da drepe begge?
Nei, ingen av dem.

Jeg fremhevet det vel spesifikt, men jeg formoder at du er inneforstått med at jeg ikke snakker om menneskelige vurderinger i den gitte situasjonen, men regler for rett og galt. Om du erstatter mennesket med en AI blir prinsippene nøyaktig de samme.
Ja, og vi er ganske enige (men ikke helt) hva angår instrumentelle drap (AI / Stat), men jeg mener også at den typen prinsipp ikke er direkte overførbart til menneskelige avgjørelser. Og akkurat det poenget skaper også den lille uenigheten vi har omkring AI; for dersom mennesket opplever det som et dillemma, vil også en velutviklet AI på et eller annet tidspunkt gjøre det. Fordi det ikke finnes et riktig og et feil svar.
Det er nettopp derfor regler er så viktige, for en AI så vel som for samfunnet/politikken. For å ta AI-kasuset spesifikt, så er det som sagt ingen grunn til at en AI skal utvikle empati. Vi mennesker har utviklet empati fordi vi er flokkdyr, som en evolusjonsmessig overlevelsesmekanisme. Men en AI er ikke avhengig av andre for å overleve, så selv om den utvikler en IQ på 1000, så er det ingen grunn til at den skal utvikle empati. For AIen vil dette ikke bli et emosjonelt dilemma, uansett hvor intelligent den utvikler seg til å bli, for den blir det en ren kost-/nyttevurdering. For den vil drap være å "skru av et menneske", slik vi skrur av en maskin.

Og igjen, min overbevisning om spørsmålet ligger i hva det åpner for. Hvis vi åpner for at drap på vilkårlige/uskyldige borgere i et samfunn kan rettferdiggjøres, selv for å redde andre liv, så har vi ingen kontroll over hva som kan skje. Da kan en superintelligent AI med regnekraft hinsides noe vi kan forestille oss, for eksempel beregne seg frem til at å utrydde den og den befolkningsgruppen (eller det og det samfunnslaget, eller alle utdannet ved et gitt universitet, eller hva som helst) vil redde mange flere liv enn det som går tapt. For eksempel fordi det er en gitt sannsynlighet for at én av dem vil vokse opp til å bli en krigsherre i fremtiden. Og da kan vi alle, uten å selv vite det, bli legitime drapsmål fordi noen har funnet ut at det å drepe oss eller alle som oss redder flere menneskeliv enn det som vil gå tapt. Og da har vi ikke lenger et samfunn, da er vi tilbake til naturtilstanden, jungelen, alles krig mot alle.

Og det samme gjelder i videre forstand for reglene for et samfunn (altså lover, eller politikken om du vil). Hvis vi åpner for at drap på uskyldige/vilkårlige borgere av en stat kan rettferdiggjøres, så har vi brutt det mest fundamentale i en samfunnskontrakt, lik rett til liv. Da kan politikerne eller byråkratiet en gang i fremtiden regne seg frem til det samme som en AI (eller for den del ved hjelp av en AI), og hvis man følger denne tankegangen (utilitarismen) "down the line", så vil igjen konsekvensen bli at vi havner tilbake i naturtilstanden, i alles krig mot alle. Samme om det var en demokratisk avgjørelse; hvis man kan si at en folkeavstemming rettmessiggjør drap av vilkårlige/uskyldige, feks for å redde liv, så åpner det en Pandoras eske som siste instans kan ende i folkemord. Så igjen, rettighetene, de ukrenkelige, de er hva som definerer et samfunn. De er hva som definerer en sivilisasjon. Alternativet er jungelens lov.
 
Sist redigert:
S

Slubbert

Gjest
Jeg vil forresten på det varmeste anbefale "Westworld". Den serien berører en del av disse temaene. Også hva som skjer når en maskin utvikler bevissthet og hva i så fall, om noe, som gjør oss til noe vesensforskjellig fra den.
 
G

Gjestemedlem

Gjest
En liten oppdatering siden dette er dagsaktuelt..

--

Henrik Jönsson

Världen befinner sig nu i en extremt trängd situation, med en global pandemi på ena sidan och en kollapsande världsekonomi på den andra. Vilka är valen vi nu står inför? Vad riskerar deras konsekvenser att bli? Och hur ser den världsekonomiska situationen egentligen ut? Dessa frågor tar jag upp i veckans video.


 
Topp Bunn