Jeg har også lekt litt med både ChatGPT og Stable Diffusion. Da jeg begynte å forstå litt av hvordan Stable Diffusion fungerer prøvde jeg å få ChatGPT til å forklare meg et litt tricky punkt. Svaret den kom med var direkte feil, 180 grader, såpass at selv jeg forsto at dette ikke kunne stemme. Så jeg konfronterte den diplomatisk med det, noe i retning av "OK, but I thought that it [...]". ChatGPT's respons startet med noe slikt som "You are correct, and I appreciate the clarification" før den fortsatte med en litt mer plausibel forklaring som bare var ca 90 grader feil. Helsikes bullshitartist.
Nå i helgen forsøkte jeg å la Stable Diffusion generere et bilde av meg utkledd som julenisse i sleden, spesifikt
(Asbjørn dressed as santa claus) riding in a magically flying sled pulled by reindeer across the sky high above a snow covered landscape, starry sky in the background, snowflakes, christmas trees
Det er sagtens noe julelig ved det, men kanskje litt uklar på konseptet. Tror fortsatt ikke at jeg blir overflødiggjort av AI det nærmeste året. Den er dum som et brød.
Jeg har også lekt litt med både ChatGPT og Stable Diffusion. Da jeg begynte å forstå litt av hvordan Stable Diffusion fungerer prøvde jeg å få ChatGPT til å forklare meg et litt tricky punkt. Svaret den kom med var direkte feil, 180 grader, såpass at selv jeg forsto at dette ikke kunne stemme. Så jeg konfronterte den diplomatisk med det, noe i retning av "OK, but I thought that it [...]". ChatGPT's respons startet med noe slikt som "You are correct, and I appreciate the clarification" før den fortsatte med en litt mer plausibel forklaring som bare var ca 90 grader feil. Helsikes bullshitartist.
Nå i helgen forsøkte jeg å la Stable Diffusion generere et bilde av meg utkledd som julenisse i sleden, spesifikt
Det er sagtens noe julelig ved det, men kanskje litt uklar på konseptet. Tror fortsatt ikke at jeg blir overflødiggjort av AI det nærmeste året. Den er dum som et brød.
Nå ble jeg litt usikker på hva du egentlig arbeider med, men jeg regner med at det ikke er grafikk. Din prompt er for utydelig og åpner for altfor mange fortolkninger.
Her er første resultat når elementene brytes opp, for en mer presis instruksjon.
Her har forøvrig ChatGPT løst en utfordring jeg faktisk har tenkt på, når jeg har sett tradisjonelle visualiseringer av Julenissen med sleden trukket av reinsdyr:
Hvordan unngår man at sleden henger ned under reinsdyrene foran? For den tradisjonelle visualiseringen er selvsagt umulig. Dette aksepterte ikke AIen, ser det ut som.
(Uten at jeg behøvde sette inn noen reinsdyr bak sleden, som holder den oppe).
Casey Newton tar for seg Googles Multi Modal Large Language Model, som allerede er tilgjengelig i to grunnversjoner, og som kommer i Ultraversjon straks over nyttår.
Multi Modal betyr at den kan krysse kategorier i input/output modus, tekst til video, video til tekstbeskrivelser, dataprogram til visualiseringer, scanning av et bilde for å tolke innholdet, osv.
Gemini also appears to be a very good software engineer. Last year, using an older language model, DeepMind introduced an AI system named AlphaCode that outperformed 54 percent of human coders in coding competitions. Using Gemini, Google built a next-generation version named AlphaCode 2. The sequel outperformed an estimated 85 percent of humans, the company said.
Competitive coding is meaningfully different from day-to-day software engineering in some important ways: it can be both more and less difficult than what the typical engineer is asked to do. But still, the rate of progress here is striking.
Gemini is natively multimodal, meaning that it can analyze the contents of a picture and answer questions about it, or create an image out of a text prompt. During a briefing on Tuesday, a Google executive uploaded a photo of some math homework in which the student had shown their calculations leading up to the final answer. Gemini was able to identify at which step in the student’s process they had gone awry, and explained their mistake and how to answer the question correctly.
“Multimodal” can read like awkward jargon, but the term comes up constantly in conversation with Google executives. The ability of AI systems to take different kinds of data (text, images, video, audio), analyze them using a single tool, and translate them in and out of various formats is the kind of foundational innovation that makes lots of other progress possible. (All of which is a long way of saying: sorry for the number of times the word “multimodal” appears in the interview below.)
Nå ble jeg litt usikker på hva du egentlig arbeider med, men jeg regner med at det ikke er grafikk. Din prompt er for utydelig og åpner for altfor mange fortolkninger.
Her er første resultat når elementene brytes opp, for en mer presis instruksjon.
Det er definitivt ikke grafikk, nei, men jeg er også av profesjonelle grunner interessert i å forstå grensene for hva dagens AI-løsninger kan og ikke kan gjøre. Det er lettere for meg å forstå hva som foregår i en grafikk-genererende sak enn med tekst. Det virker som prompt parsing i Stable Diffusion fungerer litt annerledes enn i ChatGPT, og det virker også som tilleggsvektene for å kunne generere et bilde av meg muligens roter til noe annet.
Kan forsøke å mate inn eksakt samme prompt som du brukte med ChatGPT og se hva som skjer i Stable Diffusion. Det bør være et konsept inni der om «Santa’s sled», hvis man kan formulere en prompt som matcher den teksten som er assosiert med konseptet.
Edit: Fortsatt litt uklar på konseptet, ser det ut til. To forskjellige sett vekter, begge uten noen modell av meg innmultiplisert.
Create an image of Santa Claus driving his flying sled across the sky. The sled is pulled by reindeer, high above a snow covered winter landscape. In the background we see a starry sky. Snowflakes are falling.
Forstod Dewey Desimalsystemet bøkene det katalogiserte?
Var det nyttig med dette desimalsystemet, for dem som søkte opp bestemte bøker?
Jeg tror mange lar seg "utfordre" av såkalt AI. "Jeg kommer ikke til å bli erstattet." Etter snart et år med diskusjoner og erfaringer omkring LLM-varianter har jeg merket meg at det er spesielt folk med omfattende (og gjerne kostbare) utdannelser som er mest utfordret og avvisende, og som ynder å vise til hvor lite modellene "forstår".
Selv mener jeg at vi står overfor et fantastisk verktøy, som vi må lære oss å bruke rett. Påstander om "nært forestående Singularitet" bryr jeg meg lite om. Det som interesserer meg er katalogiseringskapabiliteten vi har fått, samt representasjonsmulighetene som denne byr på.
Dette, som enkeltstående fenomen, er en revolusjon. I tillegg kommer en mengde andre faktiske og potensielle gjennombrudd, for dem som benytter verktøyet rett.
Da jeg ruslet omkring i kartoteket på Nasjonalbiblioteket (Solli plass) i mine studentdager var jeg prisgitt et kartotek med kort katalogisert etter Dewey. Jeg kunne lete opp bøker, men det stod ikke stort om dem på bibliotekkortet.
Nå kan jeg bruke AI for å kjøre sammendrag av forskningsartikler (alt fra 1 til mange hundre tusen, om jeg vil), på en mengde forskjellige språk (!), og på den måten kaste et nett som ville vært utenkelig, ubegripelig stort, da jeg stod og bladde i kartoteket på Nasjonalbiblioteket.
Dette - enkeltstående - er sensasjonelt bra. Og samme "fangstnett" er nå muliggjort for bilder, kjemiske forbindelser, proteinmolekyler, gransking av geofysiske målinger ... eller etablering av realiteter omkring begrepet "terroir" i vindyrking (som vist til tidligere).
Dette er fantastisk. I tillegg åpner det utrolige inntektsmuligheter, for dem som er interessert i det. Bedriftsledere og ledere av team, gjerne med høye utdannelser, gidder ikke sitte og generere materiale de trenger til ulikt (som f.eks. en usedvanlig god presentasjon til et møte), så nå sitter folk og får veldig godt betalt for å skape illustrasjoner, katalogisere virksomheters aktiviteter, lage presentasjoner, illustrere virksomhetens tilstedeværelse på internett, osv.
Ved hjelp av fangsnettet som LLM har skapt. Vi fikk tilstrekkelig datakraft til å kunne lagre og katalogisere internettet, samt google-books, alt av bilder på Getty (osv), og gjøre dette øyeblikkelig tilgjengelig i nye konstellasjoner, utfra noen spesifikke bestillinger fra den som bruker verktøyet.
Her har jeg gitt ChatGPT noen veldig grunnleggende instruksjoner, bare for å få en visualisering å ta utgangspunkt i. Dette er første bud:
Neste steg:
Og det jeg fikk var veldig nyttig. Spesifikasjonen over tok det ett minutt å generere, maks.
Deretter kan jeg be om strukturplan, som viser installasjonene, bærende element, valg av materialer, osv.
For 20 USD i måneden ...
Jeg vil tro det er nyttigere for folk å sette seg inn i dette, for omtrent hva et lite glass pils koster på enkelte restauranter i Oslo, enn å drive og finne ut av hva AI ikke skjønner bæret av.
Absolutt, men vi befinner oss nok på en «peak of inflated expectations» og er på vei mot «valley of disillusionment» om man skal sitere Gartners hype curve. Deretter vil det stabilisere seg mot et varig nivå hvor det er et nyttig verktøy. Litt som dot com ca 2001.
Jeg har forøvrig også prøvd meg litt frem med Microsofts Copilot. Potensielt veldig nyttig en gang i fremtiden, men foreløpig helt ubrukelig som støtte til noe så enkelt som å formattere en Powerpoint.
Jeg skulle nylig holde en presentasjon nettopp om AI, fikk et utkast som bare var lister av bullet points fra en kollega, og ba Copiloten gjøre noe presentabelt utav det. Det eneste den gjorde var å legge på en forside som viste en skrivebordskalender slått opp på datoen April 1 og med teksten «April Fools Day» skrevet inn med kulepenn. Det var kanskje ikke helt hva jeg ba om.
Apropos det: Dette er et av de Stable Diffusion-genererte bildene som jeg faktisk brukte i denne AI-presentasjonen.
Jeg prøvde å bruke ChatGPT til å løse kryssord... det gikk ikke spesielt bra etter hvert. Dette ville jeg i utgangspunktet tro var ganske grei skuring for ChatGPT versjon 4, men tydeligvis ikke. Av en eller annen grunn klarer den ikke å forholde seg til informasjon som blir gitt. På enklere clues eller rene faktaopplysninger / navn (type hvem skrev en gitt bok etc) så klarte den seg imidlertid, som ventet, stort sett utmerket.
Det er interessant å grave litt i hvordan tingen virker. Den har ikke noe minne om dialogen med deg utover det som står i vinduet, dvs den prompten du legger inn nå og et visst antall tokens bakover i historikken. Den betalte versjonen har formodentlig et større historikkvindu enn gratisversjonen. Denne teksten klippes så opp i sine enkelte tokens og kodes som en numerisk vektor (egentlig tensor) i et f eks 738-dimensjonalt koordinatsystem, stort nok til å romme stort sett alle tenkelige ytringer som får plass i vinduet med unike koordinater.
We’re introducing a neural network called CLIP which efficiently learns visual concepts from natural language supervision. CLIP can be applied to any visual classification benchmark by simply providing the names of the visual categories to be recognized, similar to the “zero-shot” capabilities...
openai.com
For en billedgenerator mikses den tensoren med tilfeldig støy og reduseres til en kompakt (latent) representasjon. Deretter (mis)bruker man et neuralt nettverk som egentlig er ment brukt til støyreduksjon i medisinsk billedbehandling for å fjerne litt av støyen. Det repeteres til man har «fremkalt» et bilde fra støyen. Deretter oppskaleres dette fra den latente representasjonen til et fullskala bilde i ønsket oppløsning, mens postprosesseringen legger til ekstra detaljer utover komposisjonen fra latenten.
This article is one of the assigments of Data Glacier Intership 2023.
medium.com
For å lære nettverket et nytt konsept går man motsatt vei, starter med bilder og legger på tilfeldig støy mens nettverket forsøker å prediktere hvordan bilde + støy vil se ut. Differansen der utgjør et feilsignal som algoritmen forsøker å minimere ved å oppdatere vektene i nettverket for hver iterasjon, litt om gangen. Det hele henger sammen med mye python-kode, gaffatape og virtuell ståltråd.
En tekstmodell er ikke helt ulik, men opererer på tekst som input og output. I stedet for å generere et bilde forsøker den å prediktere neste ord ut fra historikken den har i vinduet sitt og vektene i det neurale nettverket, basert på at den har «lært» hvordan tekst vanligvis ser ut.
Stephen Wolfram explores the broader picture of what's going on inside ChatGPT and why it produces meaningful text. Discusses models, training neural nets, embeddings, tokens, transformers, language syntax.
writings.stephenwolfram.com
Det jeg ser som det store problemet er at den er en bullshitgenerator. Den har virkelig ingen underliggende modell av hva den snakker om, heller ingen oppfatning av hva som er sant eller usant, bare om hvordan tekst vanligvis ser ut i forlengelsen av teksten den får som input. Den kan like gjerne hallusinere opp en plausibelt utseende historiefortelling som å gi et korrekt svar. Det er bullshit i strengt filosofisk betydning av ordet.
For billedgenerering kan man gjerne la den kverne ut en 10-15 stykker, og så velge det ene som ser best ut. De andre kan være veldig feil, igjen fordi den mangler en modell av hvordan virkeligheten fungerer. Derfor ekstra fingre, armer som starter og slutter halvveis, reinsdyr som morpher inn i sledemeien, stolben som ikke rekker ned til gulvet, og så videre. Den forstår virkelig ingen ting av hva den forsøker å fremstille.
Nå kan jeg bruke AI for å kjøre sammendrag av forskningsartikler (alt fra 1 til mange hundre tusen, om jeg vil), på en mengde forskjellige språk (!), og på den måten kaste et nett som ville vært utenkelig, ubegripelig stort, da jeg stod og bladde i kartoteket på Nasjonalbiblioteket.
Dette sammendraget vil på ingen måte erstatte et tenkt - og i alle fall ikke et gjennomtenkt - sammendrag, så lenge det ikke er en person som gjør rasjonelle valg i konstruksjonen av sammendraget. En LLM vil gi et sammendrag, men hvor representativt det er, vet ingen. At det vil være mangelfullt er helt sikkert, men på hvilken måte?
LLM-er som GPT er jo ikke katalogiseringsverktøy, men tekstprediksjon på nitro.
Dette sammendraget vil på ingen måte erstatte et tenkt - og i alle fall ikke et gjennomtenkt - sammendrag, så lenge det ikke er en person som gjør rasjonelle valg i konstruksjonen av sammendraget. En LLM vil gi et sammendrag, men hvor representativt det er, vet ingen. At det vil være mangelfullt er helt sikkert, men på hvilken måte?
LLM-er som GPT er jo ikke katalogiseringsverktøy, men tekstprediksjon på nitro.
Missing the point, syns jeg.
Vi skal vel ikke koble av hodene våre, når vi bruker verktøyet?
Man kan stå på en brygge og kaste med en fiskestang ut i kunnskapshavet, eller bruke tråler, ekkolodd, satellitter, osv.
Og i siste instans må man granske det som kommer i trålen.
Disse verktøyene er ekstreme akselleratorer. Revolusjonerende og fortsatt i støpeskjeen.
Missing the point, syns jeg.
Vi skal vel ikke koble av hodene våre, når vi bruker verktøyet?
Man kan stå på en brygge og kaste med en fiskestang ut i kunnskapshavet, eller bruke tråler, ekkolodd, satellitter, osv.
Og i siste instans må man granske det som kommer i trålen.
Disse verktøyene er ekstreme akselleratorer. Revolusjonerende og fortsatt i støpeskjeen.
Tja. Min erfaring (så langt) er at det kan gi nyttig input, for eksempel da jeg hadde en meningsfull samtale med ChatGPT om wind chimes og etterhvert fikk penset den fra bare å gjenta new age-fjas til å svare på spørsmål som "what would Bill Sethares think about this?" I forlengelsen av det kunne jeg deretter spørre om hvilke andre forfattere som kunne være verdt å lese om temaet, og den ga faktisk en tre-fire anbefalinger som var verdt å sjekke ut. Eller jeg kunne bare sjekket linkene nederst i Wikipedia-artikkelen om William Sethares, siden jeg først måtte vite at en slik person fantes for å lirke ChatGPT ut av bullshitmodusen.
Min sønn programmereren var også nokså entusiastisk om bruk av AI for koding til å begynne med, men er nok nå mer i "the trough of disillusionment" - joda, den kan alltids hjelpe deg å smekke ut det første "hello world"-programmet i et nytt programmeringsmiljø, men kanskje ikke så veldig mye mer enn det.
Learn how the 2023 Gartner Hype Cycle™ identifies exciting innovations in artificial intelligence that will be beneficial to business.
www.gartner.com
Rent fundamentalt møter mye av forventningene om at "en AI skal lære seg å" kjenne igjen eller generere noe fort på induksjonens problem: Det er uendelig mange mulige forklaringer på et gitt sett hendelser, men korrelasjon betyr ikke kausalitet. For et par generasjoner siden hadde folk lært seg haugevis av værtegn og regler som at brød hever best på "floan' sjø å væksan' måne". En algoritme som "lærer" at en setning som starter med A gjerne fortsetter med B er dømt til å gjengi den rekkefølgen. I en verden som allerede er full av bullshit er det ingen garanti for at en AI som skraper web for teksteksempler vil snakke sant, snarere vil den bare gjenta tidens gjeldende overtro slik det gjengis på de nettstedene den har besøkt.
Tja. Min erfaring (så langt) er at det kan gi nyttig input, for eksempel da jeg hadde en meningsfull samtale med ChatGPT om wind chimes og etterhvert fikk penset den fra bare å gjenta new age-fjas til å svare på spørsmål som "what would Bill Sethares think about this?"
Bra tips! Det jeg har gjort ved noen anledninger er å gi den en hypotese om enn helt på jordet feil bare for å få den til å forstå at jeg vil ha den til å gå litt dypere i faglitratur for å finne svar. Spesielt har https://www.perplexity.ai/ vært nyttig til å finne ting på nettet med denne metoden siden den lister referanser.
Et par nyttige anvendelser jeg har funnet for Microsofts Copilot i Office 365:
Man får videresendt en laaang emailtråd med en one-liner øverst av typen «we would like your opinion on this». Normalt vil jeg da scrolle helt ned og begynne å lese i kronologisk rekkefølge for å finne ut hva «this» er. Med Copilot kan jeg be den gi meg «the three-bullet summary» først for å få enslags ramme for hva det handler om og hvem som er involvert. Noen ganger har jeg sikkert spart et helt minutt på det, men må jo likevel lese gjennom tråden for å forstå hva som foregår.
En av tidens svøper er å bli dobbeltbooket i Teams-møter. Det hender at jeg kommer inn i et møte midtveis. Da kan det være nyttig å spørre copiloten om å gi meg en oppsummering av hva som har skjedd så langt. Den sliter fælt med å forstå teknisk sjargong og språkförbistring, navn som Ståle kan bli til «Stollen», men man kan i det minste få en viss idé om hva som har foregått.
Men for å generere innhold er den omtrent like irriterende som gamle Clippy: «It looks like you are writing a letter. Would you like help with this?» Copilotens forslag til emailsvar blir gjerne helt feil i både tone og innhold. Morsomt å se hva den finner på de første to gangene, men det tar jo lenger tid å slette utkastet og skrive på nytt heller enn bare å skrive mailen. I sin tid avlivet jeg Clippy permanent med å bruke regedit så jeg slapp å se den. Ikke helt der ennå med Copilot, men det kommer nok til å ta en stund før jeg ber den foreslå innhold igjen.
The latest platform to emerge out of Redmond is the Copilot stack, which allows developers to infuse intelligent chatbots with minimal effort into any application they...
Poenget er at en sånn oppsummering du snakker om, er verdiløs om du ikke verifiserer den. Og da har du brukt mer tid enn ellers.
LLMer er fundamentalt sett ikke katalogiseringsverktøy, og derfor kan de heller ikke brukes sånn du beskriver.
Jeg ser poenget ditt om at de kan fungere som verktøy, men jeg er helt ærlig litt usikker på hvor nyttige de egentlig er. Det akselereres, men det er bare sånn ca i en fornuftig retning og det er umulig å styre særlig presist.
Ikke egentlig, men den har nå blitt en del av Microsofts Office 365, så det skal litt til å bli kvitt den igjen. Veldig mye speiles allerede til Microsofts ulike skytjenester, også kjent som Azure, eksempelvis forretningskritiske filer og driften av forretningskritiske systemer. Om det lekker så mye som en bit forretningshemmelighet derfra vil Microsoft bli saksøkt herfra til månen. Jeg anser det (inntil videre) som trygt mht konfidensialitet.
Hadde vært interessant å fått en AI-basert nettjeneste til å tegne ny fasade på hytta. Enten ut fra bilde eller aller helst ut fra en tekst som beskriver ønskene.
Noen som vet hvilke(n ) tjeneste(r) som fungerer godt? Å betale litt for et månedsabonnement vil være helt greit, om prisnivået ikke tar helt av.
Vet ikke om noe sånt finnes. Fru arkitekten kastet ett blikk på noen av de AI-genererte husene som blir vist på nett og slo fast at det der ikke ville holdt seg oppreist veldig lenge. AI-en «forstår» hvordan et Instagram-bilde av et hus i en bestemt stil pleier å se ut, men den forstår virkelig ikke bærekonstruksjoner eller noe annet om hvordan tingen på bildet fungerer.
Om det mer er inspirasjonsbilder du behøver burde sånt som Stable Diffusion fikse det. Den har en «inpaint»-funksjon hvor du kan markere et område i et eksisterende bilde og få den til å generere ønsket design der, eksempelvis en fasade i ønsket stil.
Hadde vært interessant å fått en AI-basert nettjeneste til å tegne ny fasade på hytta. Enten ut fra bilde eller aller helst ut fra en tekst som beskriver ønskene.
Noen som vet hvilke(n ) tjeneste(r) som fungerer godt? Å betale litt for et månedsabonnement vil være helt greit, om prisnivået ikke tar helt av.
Have fun. Dette kan du gjøre i Midjourney eller i ChatGPT+. Å bruke Midjourney er ikke vanskelig. Du kan også la programmet få ta utgangspunkt i eksisterende strukturer.
Stephen Wolfram explores the broader picture of what's going on inside ChatGPT and why it produces meaningful text. Discusses models, training neural nets, embeddings, tokens, transformers, language syntax.
writings.stephenwolfram.com
Det er vanskelig å se at ChatGPT innehar noen form for intelligens i ordets normale betydning. Det viser seg imidlertid at å generere naturlig språk er mindre mystisk enn hva man i utgangspuntket skulle tro.
(fun fact: Stephen Wolfram som har skrevet den fikk sin PhD i partikkelfysikk da han var såvidt over 20 år gammel. Vi har alle noe å strekke oss etter)
Skrev kortversjonen av dette her, for et halvår siden. Ordet intelligens er misvisende, men hva disse prosessene gjør er revolusjonerende, og virkelig verdt å følge med på og sette seg inn i.
De som uttaler seg skråsikkert om utviklerrollen og behovet for kodere i denne tråden har åpenbart ikke særlig peiling. Vi som jobber med utvikling er ikke spesielt bekymret, heller ikke for våre barn. Påstår du at software engineering ikke primært handler om å skrive korte kodesnutter for å...
Skrev kortversjonen av dette her, for et halvår siden. Ordet intelligens er misvisende, men hva disse prosessene gjør er revolusjonerende, og virkelig verdt å følge med på og sette seg inn i.
Spennende, definnitivt. Men eksemplene som gis fra programmering som det overes over er merkelige. Det er veldig få faktiske programmeringsproblemer som ser slik ut eller kan løses med et nettsøk - som langt på vei er hva ChatGPT gjør . I dag limte jeg inn jeg et screenshot fra et kryssord fra NYT og lurte på hva ChatGPT mente om det. Den svarte med noe Python-kode og noen løsninger på enkelte av cluene, hvorav et par utav 30 faktisk var korrekte. Hva Python-koden hadde der å gjøre er det nok kun ChatGPT som vet.
ChatGPT var helt ute av stand til å forholde seg til hvordan griden faktisk så ut eller hvordan svar på clues passet sammen med bokstaver fra andre clues. Den foreslp mellom annet ord på 4-5 bokstaver hvor griden vitterlig viste at svaret skulle inneholde 14.
Det er vanskelig å se at ChatGPT innehar noen form for intelligens i ordets normale betydning. Det viser seg imidlertid at å generere naturlig språk er mindre mystisk enn hva man i utgangspuntket skulle tro.
Det er også et ikke ubetydelig element av pareidolia (eller noe lignende) her. Man er ikke vant til at en maskin genererer språk, så menneskehjernen tolker inn intelligens der det ikke eksisterer. Det er bare et feed-forward-nettverk som forsøker å finne den mest sannsynlige fortsettelsen av et stykke tekst, inkludert sin egen output til nå. Det skal ikke mer til.
Ikke så halvgærent. Men det er ikke snakk om en fjollete idé eller metafor, det er snakk om hvordan mennesker forholder seg til ting som kan virke som de har en egen vilje. Det er snakk om en væremåte, enten den er strategisk valgt eller noe mennesker er født med.
Den prompten krevde forresten ca. en halvliter ferskvann:
Ikke så halvgærent. Men det er ikke snakk om en fjollete idé eller metafor, det er snakk om hvordan mennesker forholder seg til ting som kan virke som de har en egen vilje. Det er snakk om en væremåte, enten den er strategisk valgt eller noe mennesker er født med.
Den prompten krevde forresten ca. en halvliter ferskvann:
Det går jo med en del vann for å lage papir og trykke papiraviser også.
Samtidig sitter vi i glasshus når vi diskuterer dette på internett, bare en mobil basestasjon bruker ca 5kW med effekt (pr operatør).
På 90-tallet brukte vi BBS-er med et titalls brukere, det var bittelitt mer miljøvennlig kanskje. Som du sier har internett en betydelig og ganske usynlig miljøkostnad nå.
Min observasjon fra egne forsøk med Stable Diffusion: Det tar ca 0,01 kWh å generere ett høyoppløst bilde, men det tar i størrelsesorden 10 kWh å lære nettverket hvordan jeg ser ut såpass at det kan generere et gjenkjennelig bilde av meg. Da er det bare et lite plugin på toppen av et allerede opplært nettverk. Hvor mange kWh som ligger bak opplæringen av store språkmodeller og bildegeneratorer vet jeg ikke, men det er seriøst mye. Utstyrsriggen for å holde på med dette tilsvarer en bitcoin-mine, type XXL.
Min observasjon fra egne forsøk med Stable Diffusion: Det tar ca 0,01 kWh å generere ett høyoppløst bilde, men det tar i størrelsesorden 10 kWh å lære nettverket hvordan jeg ser ut såpass at det kan generere et gjenkjennelig bilde av meg. Da er det bare et lite plugin på toppen av et allerede opplært nettverk. Hvor mange kWh som ligger bak opplæringen av store språkmodeller og bildegeneratorer vet jeg ikke, men det er seriøst mye. Utstyrsriggen for å holde på med dette tilsvarer en bitcoin-mine, type XXL.
Jeg vil tro betydelig større. Microsofts investering i ChatGPT består av tilgang til datatid, verdt USD 13 milliarder. NVIDIAs nye HGX H200, som nå overtar etter H100, krever også sitt i investeringer og energi. H200 er 1,4x mer effektiv enn H100.
Men slike kalkyler over hva internettet krever av ressurser bør ha ulike innfallsvinkler. Hva gir egenskapene av utbytte, i forhold til innsats? Det tar mye datatid å gjøre en hotellbestilling, flyreisebestilling og leiebilbestilling, men er ganske nyttig. Og AI-generert kundeservice er i enorm fremmarsj, osv.
The Education Hub is a site for parents, pupils, education professionals and the media that captures all you need to know about the education system. You’ll find accessible, straightforward information on popular topics, Q&As, interviews, case studies, and more.
In recent years, the meteoric rise of artificial intelligence (AI) has sent shockwaves through society on both economic and cultural levels. Seemingly poised to become as ubiquitous as email, this rapidly evolving technology is transforming many aspects of daily life—including how we teach and learn
Legg merke til at det i alle eksemplene forutsettes at alt - kunnskap, estetikk, politikk, etikk, læring, samfunnsmessige og individuelle behov, for å nevne noe - kan settes på en formel som KI-en kan håndtere. Det er rett og slett ikke tilfelle og jeg er enig med @Asbjørn om at dette er overhyping.
Enn så lenge er den faktiske nytten av KI negativ, i min vurdering. For alt jeg vet kan den bli positiv på sikt, men det vil nok ta tid tror jeg.
