Politikk, religion og samfunn Sjukt skremmende AI

BT

Æresmedlem
Ble medlem
13.10.2005
Innlegg
21.453
Antall liker
6.873

Dette er den mest skremmende artikkelen jeg har lest på lenge, selv om det egentlig ikke er så mye nytt.
Spørsmålet er bare hva som er mest skremmende.

At man kan likvidere folk med et ubemannet AI-styrt maskingevær kommandert av en person som befinner seg et annet sted på kloden.
Det er kanskje ikke mer skremmende enn at man kan gjøre det samme med en drone, men likevel.

At det er viktig for Israel å ta ut iranske atomforskere er også skremmende på mange måter.
En atomkoffert i hendene på en ayatollah kan fort føre til den endetiden som en del amerikanske evangelister ønsker seg.
I tillegg er Iran flink til å forsyne sine støttespillere med våpen, siden de ønsker krigføring for å styrke egen posisjon, men ikke i eget land.

Bruk av AI i krigføring har pågått en stund, men hva dette vil føre til i tiden som kommer er langt mer skremmende. Det brukes til å påvirke valg i demokratiske land, av ledere som hater demokrati, med Jinping i førersetet, og Kim, Putin og Khamene'i som svært aktive medspillere. Dette fører gjerne til at ytterliggående partier får vind i seilene. Det skjer også her i steinrøysa vår.
Det fører til at land som Iran forsyner med våpen og kommanderer til å angripe andre land, får omfattende vestlig støtte. Det er spesielt synlig i Norge, hvor de støttes av media og en stor del av opinionen, og til og med av regjeringen. De bruker også AI til å kartlegge kritisk infrastruktur hos andre land, og forbereder hvordan den mest effektivt kan slås ut, når det en gang kan bli aktuelt. Det ser vi også her i landet, hvordan bl.a. sjøkabler og jernbanelinjer blir ødelagt uten forvarsel. Det vi har sett hittil er ingenting i forhold til hva som vil skje om de virkelig ønsker å slå til. Da er vi fort uten strøm, signaler, rent vann, farbare veier, osv.

AI gjør det også svært vanskelig å skjule seg, for den som måtte ha behov for det, f.eks statsledere, bedriftsledere og militære ledere.

AI utvikler seg hele tiden, og det skjer fryktelig fort. Det er sikkert den som er best på dette som "vinner".
 

xerxes

Æresmedlem
Ble medlem
08.01.2005
Innlegg
11.881
Antall liker
7.574
Sted
Holmestrand
Jeg ville ikke ha lånt bort ei bok jeg ikke ville ha tilbake til IOC.
IOC er en bande uten skrupler, moral eller prinsipper og burde være nektet all tilgang til KI.
 

xerxes

Æresmedlem
Ble medlem
08.01.2005
Innlegg
11.881
Antall liker
7.574
Sted
Holmestrand

Dette er den mest skremmende artikkelen jeg har lest på lenge, selv om det egentlig ikke er så mye nytt.
Spørsmålet er bare hva som er mest skremmende.

At man kan likvidere folk med et ubemannet AI-styrt maskingevær kommandert av en person som befinner seg et annet sted på kloden.
Det er kanskje ikke mer skremmende enn at man kan gjøre det samme med en drone, men likevel.

At det er viktig for Israel å ta ut iranske atomforskere er også skremmende på mange måter.
En atomkoffert i hendene på en ayatollah kan fort føre til den endetiden som en del amerikanske evangelister ønsker seg.
I tillegg er Iran flink til å forsyne sine støttespillere med våpen, siden de ønsker krigføring for å styrke egen posisjon, men ikke i eget land.

Bruk av AI i krigføring har pågått en stund, men hva dette vil føre til i tiden som kommer er langt mer skremmende. Det brukes til å påvirke valg i demokratiske land, av ledere som hater demokrati, med Jinping i førersetet, og Kim, Putin og Khamene'i som svært aktive medspillere. Dette fører gjerne til at ytterliggående partier får vind i seilene. Det skjer også her i steinrøysa vår.
Det fører til at land som Iran forsyner med våpen og kommanderer til å angripe andre land, får omfattende vestlig støtte. Det er spesielt synlig i Norge, hvor de støttes av media og en stor del av opinionen, og til og med av regjeringen. De bruker også AI til å kartlegge kritisk infrastruktur hos andre land, og forbereder hvordan den mest effektivt kan slås ut, når det en gang kan bli aktuelt. Det ser vi også her i landet, hvordan bl.a. sjøkabler og jernbanelinjer blir ødelagt uten forvarsel. Det vi har sett hittil er ingenting i forhold til hva som vil skje om de virkelig ønsker å slå til. Da er vi fort uten strøm, signaler, rent vann, farbare veier, osv.

AI gjør det også svært vanskelig å skjule seg, for den som måtte ha behov for det, f.eks statsledere, bedriftsledere og militære ledere.

AI utvikler seg hele tiden, og det skjer fryktelig fort. Det er sikkert den som er best på dette som "vinner".
Helt enig, men du glemte å nevne Netanyahu.
 

Tweedjakke

Hi-Fi freak
Ble medlem
29.01.2008
Innlegg
4.759
Antall liker
4.907
Sted
Sunnmøre
Kan det gå bra?

Neppe.

Det ligg nærast i naturen til eit kvart forsvar å forsøkja å utvikla seg langs desse linjene, særleg i land med borgarrettar og demokrati. Å kunne styrka kampkrafta til militæret utan å ofra eigne soldatar, vil nesten alltid vera ein god ting, og logikken bak nesten kvart einaste militærteknologiske framsteg (brei pensel her).

Moduliseringa av militære operasjonar (som Auftragstaktik) er jo som skapt for dette: Angrip den fiendlege styrken (eller krigsmaskina) der borte; beskytt dette området. Akkurat som offiseren veit best korleis troppen kan løysa den oppgåva, greier dronesvermen å organisera dette best sjølv. Eller svermar-av-svermar, om oppgåvene er på høgare nivå.

Logikken bak akkurat den-og-den måten å løysa oppgåva på, vil vera vanskeleg å forstå for ein menneskeleg hjerne som heller arbeider med ein forenkla modell av oppgåva. Akkurat som det kan vera vanskeleg å forstå kvifor ei sjakkdatamaskin gjer nett det og det trekket.

Kven kan då stillast til ansvar for sivile tap, og korleis skal tolkinga av rimelegheit slå inn når ein skal vurdera "collateral damage"?

Denne har stått på leselista i meir enn ti år, og eg kan ikkje gje ein god forklaring på kvifor eg ikkje har lese henne enno. Men eg trur ho er relevant.


The only winning move is not to play.
 
Sist redigert:

PederP

Hi-Fi freak
Ble medlem
27.04.2019
Innlegg
7.686
Antall liker
21.853
Sted
Nordvest på Jæren
Torget vurderinger
4
Logikken bak akkurat den-og-den måten å løysa oppgåva på, vil vera vanskeleg å forstå for ein menneskeleg hjerne som heller arbeider med ein forenkla modell av oppgåva. Akkurat som det kan vera vanskeleg å forstå kvifor ei sjakkdatamaskin gjer nett det og det trekket.

Kven kan då stillast til ansvar for sivile tap, og korleis skal tolkinga av rimelegheit slå inn når ein skal vurdera "collateral damage"?
Me ser jo allereide at enkelte freister å flytte akseptable grenser for "collateral damage" i væpna konflikter. Kanskje kan AI og bli brukt som unnskyldning for å overskride desse grensene.

Me ser altså at dette klarer me ikkje å kontrollere når det er nokolunde under menneskeleg kontroll, korleis skal det det då gå når AI tek over meir av oppgåva?

Det hjelper kanskje litt at du og eg les om det, men nokre fleire må opne augene og ta del i debatten om me skal ha håp om å kunne styre dette i noko som helst retning.
 

Tweedjakke

Hi-Fi freak
Ble medlem
29.01.2008
Innlegg
4.759
Antall liker
4.907
Sted
Sunnmøre
Me ser altså at dette klarer me ikkje å kontrollere når det er nokolunde under menneskeleg kontroll, korleis skal det det då gå når AI tek over meir av oppgåva?
Eg deler den bekymringa.

Ikkje så mykje for "Skynet has become self-aware" (Terminator); men for det vi (menneskeheita) alltid har frykta i "fiendenes soldatar" eller ville dyr: Nokon som ikkje forstår språket og som ikkje ser ut til å handla etter ein logikk vi kan kjenna oss att i - men som er ute etter å drepa oss.

På sett og vis er ikkje dette noko nytt.

Dersom fienden hadde fått ei formeining om at det skjulte seg "terroristar" her i bygda, og bestemt seg for å teppebomba henne, hadde ikkje det gjort mindre skade enn om dei hadde sendt nokre dronesvermar. Ikkje om dei hadde skote alle menn over 16 og sendt kvinner og barn til kz-leirar, heller. Eller eitt anna krigsbrotsverk.

Eg vonar det springande resonnementet peikar i ei retning, eller mot eit slags vanskeleg spørsmål: For det første er det dødelege potensialet til krigs-KI grotesk, på hi sida er krig i seg sjølv grotesk. Krigen har dei 200 siste åra, flytta seg langt vekk frå at edle soldatar møtest på valen til ærleg dyst.

Er det rimeleg at fienden skal kunne sitja trygt i stridsvogna si, dersom ein panserbrytande granat slept frå ei hyllevare-drone kan stoppa ho? Vert det urimeleg om eg sender eit dusin slike mot han, for å overmanna forsøk på å verna seg? Vert det urimeleg når eg bed dei samarbeida?
 
Sist redigert:

PederP

Hi-Fi freak
Ble medlem
27.04.2019
Innlegg
7.686
Antall liker
21.853
Sted
Nordvest på Jæren
Torget vurderinger
4
Rimeleg/urimeleg/... - eg veit ikkje om det er dei rette orda, men eg veit heller ikkje kva ord me skal nytta. Eg håper at dei som veks opp nå finn ut av det.
 

Hardingfele

Æresmedlem
Ble medlem
25.10.2014
Innlegg
24.141
Antall liker
18.428
Torget vurderinger
2
NotebookLM

Legg inn noen linker til artikler, forskningsrapporter, youtube-videoer og be den lage et sammendrag, i podcastformat.

F.eks. som her, om konspi-teorier. Stemmene og samtalen er AI-genererte.


 

bambadoo

Æresmedlem
Moderator
Ble medlem
11.10.2002
Innlegg
22.679
Antall liker
11.822
Sted
Lørenskog
Torget vurderinger
16
Har testet ut den der. Ganske snasent og litt skremmende. Gjorde det f.eks. ved å linke til forskjellige langtidsstrategier innen diverse fagfelt.
 

Hardingfele

Æresmedlem
Ble medlem
25.10.2014
Innlegg
24.141
Antall liker
18.428
Torget vurderinger
2
Ikke nødvendigvis AI, men i like vel:
Corporate greed, AI, BigData
WIRED har skrevet en rekke artikler om hvordan John Deere skrur bønder, opp, ned, på skrått, innover og utover, med dataplattformene de kaller traktorer.
Har vært morsomt å følge. En rekke bønder har gitt opp ultradigitale traktorer som kan settes i stå av JD og de kjemper nå for "RIght to Repair", samtidig som markedet for "analoge" traktorer som JD ikke har kontroll over øker.
 

xerxes

Æresmedlem
Ble medlem
08.01.2005
Innlegg
11.881
Antall liker
7.574
Sted
Holmestrand
WIRED har skrevet en rekke artikler om hvordan John Deere skrur bønder, opp, ned, på skrått, innover og utover, med dataplattformene de kaller traktorer.
Har vært morsomt å følge. En rekke bønder har gitt opp ultradigitale traktorer som kan settes i stå av JD og de kjemper nå for "RIght to Repair", samtidig som markedet for "analoge" traktorer som JD ikke har kontroll over øker.
Også interessant, men langt fra overraskende at forskjellig utstyr, maskiner, biler og vått-nått utnyttes til å hente inn informasjon av forskjellig slag om bruk og brukere.
Informasjon som igjen utnyttes kommersielt på forskjellig vis som i sin tur kan ramme eieren av utstyret på forskjellig vis.
BigData sammen med AI åpner for ganske skremmende perspektiver på så mange måter og områder.
 
Sist redigert:
Topp Bunn