Politikk, religion og samfunn Sjukt skremmende AI

BT

Æresmedlem
Ble medlem
13.10.2005
Innlegg
21.400
Antall liker
6.795

Dette er den mest skremmende artikkelen jeg har lest på lenge, selv om det egentlig ikke er så mye nytt.
Spørsmålet er bare hva som er mest skremmende.

At man kan likvidere folk med et ubemannet AI-styrt maskingevær kommandert av en person som befinner seg et annet sted på kloden.
Det er kanskje ikke mer skremmende enn at man kan gjøre det samme med en drone, men likevel.

At det er viktig for Israel å ta ut iranske atomforskere er også skremmende på mange måter.
En atomkoffert i hendene på en ayatollah kan fort føre til den endetiden som en del amerikanske evangelister ønsker seg.
I tillegg er Iran flink til å forsyne sine støttespillere med våpen, siden de ønsker krigføring for å styrke egen posisjon, men ikke i eget land.

Bruk av AI i krigføring har pågått en stund, men hva dette vil føre til i tiden som kommer er langt mer skremmende. Det brukes til å påvirke valg i demokratiske land, av ledere som hater demokrati, med Jinping i førersetet, og Kim, Putin og Khamene'i som svært aktive medspillere. Dette fører gjerne til at ytterliggående partier får vind i seilene. Det skjer også her i steinrøysa vår.
Det fører til at land som Iran forsyner med våpen og kommanderer til å angripe andre land, får omfattende vestlig støtte. Det er spesielt synlig i Norge, hvor de støttes av media og en stor del av opinionen, og til og med av regjeringen. De bruker også AI til å kartlegge kritisk infrastruktur hos andre land, og forbereder hvordan den mest effektivt kan slås ut, når det en gang kan bli aktuelt. Det ser vi også her i landet, hvordan bl.a. sjøkabler og jernbanelinjer blir ødelagt uten forvarsel. Det vi har sett hittil er ingenting i forhold til hva som vil skje om de virkelig ønsker å slå til. Da er vi fort uten strøm, signaler, rent vann, farbare veier, osv.

AI gjør det også svært vanskelig å skjule seg, for den som måtte ha behov for det, f.eks statsledere, bedriftsledere og militære ledere.

AI utvikler seg hele tiden, og det skjer fryktelig fort. Det er sikkert den som er best på dette som "vinner".
 

xerxes

Æresmedlem
Ble medlem
08.01.2005
Innlegg
11.257
Antall liker
6.940
Sted
Holmestrand
Jeg ville ikke ha lånt bort ei bok jeg ikke ville ha tilbake til IOC.
IOC er en bande uten skrupler, moral eller prinsipper og burde være nektet all tilgang til KI.
 

xerxes

Æresmedlem
Ble medlem
08.01.2005
Innlegg
11.257
Antall liker
6.940
Sted
Holmestrand

Dette er den mest skremmende artikkelen jeg har lest på lenge, selv om det egentlig ikke er så mye nytt.
Spørsmålet er bare hva som er mest skremmende.

At man kan likvidere folk med et ubemannet AI-styrt maskingevær kommandert av en person som befinner seg et annet sted på kloden.
Det er kanskje ikke mer skremmende enn at man kan gjøre det samme med en drone, men likevel.

At det er viktig for Israel å ta ut iranske atomforskere er også skremmende på mange måter.
En atomkoffert i hendene på en ayatollah kan fort føre til den endetiden som en del amerikanske evangelister ønsker seg.
I tillegg er Iran flink til å forsyne sine støttespillere med våpen, siden de ønsker krigføring for å styrke egen posisjon, men ikke i eget land.

Bruk av AI i krigføring har pågått en stund, men hva dette vil føre til i tiden som kommer er langt mer skremmende. Det brukes til å påvirke valg i demokratiske land, av ledere som hater demokrati, med Jinping i førersetet, og Kim, Putin og Khamene'i som svært aktive medspillere. Dette fører gjerne til at ytterliggående partier får vind i seilene. Det skjer også her i steinrøysa vår.
Det fører til at land som Iran forsyner med våpen og kommanderer til å angripe andre land, får omfattende vestlig støtte. Det er spesielt synlig i Norge, hvor de støttes av media og en stor del av opinionen, og til og med av regjeringen. De bruker også AI til å kartlegge kritisk infrastruktur hos andre land, og forbereder hvordan den mest effektivt kan slås ut, når det en gang kan bli aktuelt. Det ser vi også her i landet, hvordan bl.a. sjøkabler og jernbanelinjer blir ødelagt uten forvarsel. Det vi har sett hittil er ingenting i forhold til hva som vil skje om de virkelig ønsker å slå til. Da er vi fort uten strøm, signaler, rent vann, farbare veier, osv.

AI gjør det også svært vanskelig å skjule seg, for den som måtte ha behov for det, f.eks statsledere, bedriftsledere og militære ledere.

AI utvikler seg hele tiden, og det skjer fryktelig fort. Det er sikkert den som er best på dette som "vinner".
Helt enig, men du glemte å nevne Netanyahu.
 

Tweedjakke

Hi-Fi freak
Ble medlem
29.01.2008
Innlegg
4.371
Antall liker
4.498
Sted
Sunnmøre
Kan det gå bra?

Neppe.

Det ligg nærast i naturen til eit kvart forsvar å forsøkja å utvikla seg langs desse linjene, særleg i land med borgarrettar og demokrati. Å kunne styrka kampkrafta til militæret utan å ofra eigne soldatar, vil nesten alltid vera ein god ting, og logikken bak nesten kvart einaste militærteknologiske framsteg (brei pensel her).

Moduliseringa av militære operasjonar (som Auftragstaktik) er jo som skapt for dette: Angrip den fiendlege styrken (eller krigsmaskina) der borte; beskytt dette området. Akkurat som offiseren veit best korleis troppen kan løysa den oppgåva, greier dronesvermen å organisera dette best sjølv. Eller svermar-av-svermar, om oppgåvene er på høgare nivå.

Logikken bak akkurat den-og-den måten å løysa oppgåva på, vil vera vanskeleg å forstå for ein menneskeleg hjerne som heller arbeider med ein forenkla modell av oppgåva. Akkurat som det kan vera vanskeleg å forstå kvifor ei sjakkdatamaskin gjer nett det og det trekket.

Kven kan då stillast til ansvar for sivile tap, og korleis skal tolkinga av rimelegheit slå inn når ein skal vurdera "collateral damage"?

Denne har stått på leselista i meir enn ti år, og eg kan ikkje gje ein god forklaring på kvifor eg ikkje har lese henne enno. Men eg trur ho er relevant.


The only winning move is not to play.
 
Sist redigert:

PederP

Hi-Fi freak
Ble medlem
27.04.2019
Innlegg
6.909
Antall liker
20.107
Sted
Nordvest på Jæren
Torget vurderinger
4
Logikken bak akkurat den-og-den måten å løysa oppgåva på, vil vera vanskeleg å forstå for ein menneskeleg hjerne som heller arbeider med ein forenkla modell av oppgåva. Akkurat som det kan vera vanskeleg å forstå kvifor ei sjakkdatamaskin gjer nett det og det trekket.

Kven kan då stillast til ansvar for sivile tap, og korleis skal tolkinga av rimelegheit slå inn når ein skal vurdera "collateral damage"?
Me ser jo allereide at enkelte freister å flytte akseptable grenser for "collateral damage" i væpna konflikter. Kanskje kan AI og bli brukt som unnskyldning for å overskride desse grensene.

Me ser altså at dette klarer me ikkje å kontrollere når det er nokolunde under menneskeleg kontroll, korleis skal det det då gå når AI tek over meir av oppgåva?

Det hjelper kanskje litt at du og eg les om det, men nokre fleire må opne augene og ta del i debatten om me skal ha håp om å kunne styre dette i noko som helst retning.
 

Tweedjakke

Hi-Fi freak
Ble medlem
29.01.2008
Innlegg
4.371
Antall liker
4.498
Sted
Sunnmøre
Me ser altså at dette klarer me ikkje å kontrollere når det er nokolunde under menneskeleg kontroll, korleis skal det det då gå når AI tek over meir av oppgåva?
Eg deler den bekymringa.

Ikkje så mykje for "Skynet has become self-aware" (Terminator); men for det vi (menneskeheita) alltid har frykta i "fiendenes soldatar" eller ville dyr: Nokon som ikkje forstår språket og som ikkje ser ut til å handla etter ein logikk vi kan kjenna oss att i - men som er ute etter å drepa oss.

På sett og vis er ikkje dette noko nytt.

Dersom fienden hadde fått ei formeining om at det skjulte seg "terroristar" her i bygda, og bestemt seg for å teppebomba henne, hadde ikkje det gjort mindre skade enn om dei hadde sendt nokre dronesvermar. Ikkje om dei hadde skote alle menn over 16 og sendt kvinner og barn til kz-leirar, heller. Eller eitt anna krigsbrotsverk.

Eg vonar det springande resonnementet peikar i ei retning, eller mot eit slags vanskeleg spørsmål: For det første er det dødelege potensialet til krigs-KI grotesk, på hi sida er krig i seg sjølv grotesk. Krigen har dei 200 siste åra, flytta seg langt vekk frå at edle soldatar møtest på valen til ærleg dyst.

Er det rimeleg at fienden skal kunne sitja trygt i stridsvogna si, dersom ein panserbrytande granat slept frå ei hyllevare-drone kan stoppa ho? Vert det urimeleg om eg sender eit dusin slike mot han, for å overmanna forsøk på å verna seg? Vert det urimeleg når eg bed dei samarbeida?
 
Sist redigert:

PederP

Hi-Fi freak
Ble medlem
27.04.2019
Innlegg
6.909
Antall liker
20.107
Sted
Nordvest på Jæren
Torget vurderinger
4
Rimeleg/urimeleg/... - eg veit ikkje om det er dei rette orda, men eg veit heller ikkje kva ord me skal nytta. Eg håper at dei som veks opp nå finn ut av det.
 

Hardingfele

Æresmedlem
Ble medlem
25.10.2014
Innlegg
23.732
Antall liker
17.772
Torget vurderinger
2
NotebookLM

Legg inn noen linker til artikler, forskningsrapporter, youtube-videoer og be den lage et sammendrag, i podcastformat.

F.eks. som her, om konspi-teorier. Stemmene og samtalen er AI-genererte.


 

bambadoo

Æresmedlem
Moderator
Ble medlem
11.10.2002
Innlegg
22.541
Antall liker
11.561
Sted
Lørenskog
Torget vurderinger
16
Har testet ut den der. Ganske snasent og litt skremmende. Gjorde det f.eks. ved å linke til forskjellige langtidsstrategier innen diverse fagfelt.
 
Topp Bunn