I en tid der grensene mellom vitenskap og science fiction stadig viskes ut, står vi nå ved dørstokken til en ny æra: Generell kunstig intelligens - AGI. Morten og Maren diskuterer et fremtidsbilde hvor intelligens transcenderer de biologiske begrensningene til menneskehjernen, et panorama av muligheter der maskiner kan lære og skape på et nivå som speiler – og potensielt overgår – menneskelig kapasitet. Med hastigheten av dagens teknologiske utvikling antyder noen av de mest fremtredende tankesmiene innen feltet at AGI ikke er tiår, men snarere år unna. Store språkmodeller, som GPT-4, har allerede begynt å vise oss glimt av fremtidens muligheter, skjønt de fortsatt mangler full forståelse for menneskelige følelser og sosiale nuanser. Med innsikt fra rapporter og ekspertuttalelser diskuterer vi potensialet for AGI til å revolusjonere alle aspekter av samfunnet, fra medisin til kunst, mens vi også står overfor de eksistensielle risikoene den utgjør.

Velkommen til en fascinerende diskusjon om den imminente fremtiden med generell kunstig intelligens.

Generell kunstig intelligens er nærmere enn du tror. Forestill deg en verden hvor intelligens ikke lenger er bundet av de biologiske grensene til menneskehjernen. En verden hvor maskiner ikke bare utfører oppgaver, men forstår, lærer og til og med tenker på tvers av myriaden av domener, fra kunst til ingeniørvitenskap, fra litteratur til kjemi.

Det er dette vi blir lovet med generell kunstig intelligens.

Med hastigheten til dagens teknologiske utvikling beveger vi oss raskere

mot generell kunstig intelligens, eller AGI, enn vi noen gang har klart å forestille oss.

Gjennombrudden innen kunstig intelligens-teknologi,

som store språkmodeller, har begynt å vise glimt av hva som kan være mulig.

Det vi en gang trodde var århundrer unna!

kan vi nå, ifølge noen ledende tenkere, bære innen rekkevidde i løpet av de neste ti årene.

Men med stor kraft kommer stort ansvar: Overgangen til en verden med AGI

bærer med seg en kaskade av etiske, sikkerhetsmessige, sosiale spørsmål:

Hvordan sikrer vi at AGI tjener menneskeheten positivt?

Hvordan navigerer vi de komplekse problemene med autonomi, kunstig bevissthet og moralsk ansvar?

Dette er pressende spørsmål som krever vår oppmerksomhet og diskusjon.

I starten av mars lanserte analysedelskapet Gladstone AI en rapport,

skrevet på oppdrag fra de amerikanske myndighetene.

Der hevder de at myndighetene må raskt trekke i nødbremsen

og begrense utviklingen av kunstig intelligens.

Alternativt kan være en teknologi som kanskje til og med kan utslette oss.

Så forbered deg på en fascinerende reise gjennom kompleksiteten og mulighetene rundt generell kunstig intelligens.

Velkommen til podkast om generell kunstig intelligens.

Generell kunstig intelligens.

Paw

AGI - generell kunstintelligens.

Vi snakker om AGI, generell kunstintelligens.

Kanskje på norsk kunne vi sagt GKI, generell kunstintelligens.

Kanskje vi bruker det engelske termen, AGI.

Men vi må jo først få opp i dagen hva AGI er. Hva er generell kunstintelligens?

Ja, så generell kunstintelligens er et hypotetisk fremtidsscenario,

hvor roboter har blitt like smarte som oss. Altså opererer på et menneskelig ...

På et menneskelig nivå av intelligens og er like kompetente som oss mennesker

i å utvide et bredt spektrum av oppgaver. Altså, de er lik oss mennesker.

Men de kan allikevel være identifiserbare som en robot.

Altså, når jeg snakker med ChatKPT eller snakker med Siri eller snakker med Gemini,

så er det tydelig at jeg snakker med en robot fordi jeg snakker med en nettside.

Så det er ikke sånn at de nødvendigvis lurer oss og virker som at vi ikke er en robot.

Jeg er et menneske.

Men generell kunstintelligens er altså når disse robotene er intelligente på menneskelig nivå.

Men på flere aspekter, da. For vi kan jo si at noen av disse chattverktøyene

nå er like gode som oss omtrent, eller?

Jo da. Så verktøyene som fins i dag, er definitivt like gode som oss på noen smale områder.

Og det er derfor nettopp det heter smal intelligens. Og det kan være språk.

Noen av de språkmodellene er veldig gode på å skrive norsk bedre

enn veldig mange andre til å skrive norsk.

Den er bedre enn meg på å skrive kinesisk, så den er ganske mye smartere enn meg.

Eller disse sjakkrobotene er flinke til å spille sjakk enn det noen mennesker er.

Så vi kan likevel ikke si det er generell kunstintelligens?

Ja, for ordet ligger i ordet "generell", som betyr at den kan gjøre mye generelt.

Det kan gjøre alt det vi mennesker kan.

Men en sterk kunstintelligens og generell kunstintelligens

har en tendens til å gli litt over i hverandre.

Mens generell kunstintelligens gjør alt det vi mennesker kan av intelligente oppgaver,

kan det være tydelig identifiserbart som kunstintelligens.

Mens sterk kunstintelligens utfører oppgaver som krever menneskelig intelligens,

men på en måte som er helt ugjenkjennelig fra menneskelig intelligens.

Men da syns jeg det er veldig vanskelig å se forskjellen på

generell kunstintelligens og sterk kunstintelligens.

Hvis begge skal oppføre seg like godt som et menneske.

Ja. Forskjellen er at den ene kan identifisere seg som en robot.

Og det kan være veldig robotmessig å være intelligent på alle nivåer.

Men bare si at den er en ... Altså, vi får ikke den emosjonelle følelsen.

Den trenger ikke nødvendigvis være glad.

Det vil vi få med generell kunstintelligens.

Ja, det er sterk kunstintelligens, for da har det alt som har med mennesket å gjøre.

Med generell kunstintelligens er det at den løser alle intelligente oppgaver som vi mennesker kan.

Det er ikke sikkert det er noen forskjell på disse to, for det er et stort filosofisk spørsmål.

Er det noen forskjell på en som bare kan gjøre alt det vi mennesker kan,

Og en som er helt ugjenkjennelig for mennesker. Det kan godt hende det ikke er noen forskjell.

For den ene, generell kunstintelligens, kan simulere følelser og oppføre seg smart.

Og den kan være intelligent og ta IQ-tester og skrive tekster og spille sjakk osv.

Men den trenger ikke å ... Mens en sterk kunstintelligens er da, kan man jo til og med spørre:

Tenker den, liksom. Er den tanken ...

Nivået over generell kunstintelligens igjen?

Det kan du godt si. Og noen vil jo si at for at vi skal få sterk kunstintelligens,

så må robotene begynne å tenke. Og det gjør de ikke i dag.

Mens for en generell kunstintelligens, så trenger de ikke å kunne tenke.

De kan bare løse alt sammen og simulere tenking, da.

Og så vil noen hevde at for at de skal kunne løse alt, så må de kunne tenke.

Og jeg tror jo kanskje ikke det, da. Den kan bare late som den tenker.

Men det høres ut som at generell kunstintelligens er innen rekkevidde,

men kanskje ikke sterk kunstintelligens foreløpig?

Ja. Mange hevder jo det, at nå er vi startet, da.

Ballen ruller så fort mot den generelle kunstintelligensen.

Vi har lenge trodd at hvis vi skal få maskiner til å gjøre alt det vi kan,

så må den være som et menneske. Den må tenke og føle som et menneske.

Men det er ikke sikkert. Kanskje vi ikke trenger det.

Men jeg tror at en verden med generell kunstintelligens er en verden

hvor grensene for hva teknologi kan oppnå, kommer til å bli dramatisk utvidet.

Så da får vi oppgaver som på tvers av domener kan få forståelse på en rekke ...

Vi kan be den gjøre alt fra å lage kakeoppskrifter til å sette kakene i praksis,

eller vi kan be den gjøre alle oppgavene på jobben nærmest, iallfall de repetitive.

Vi kan forvente bemerkelsesverdig fremskritt innen medisin, vitenskap og utdanning.

Men det er fremdeles spekulativt. Vet vi om dette er i ferd med å dukke opp?

Eller vet vi det ikke?

Men er det fortsatt noe som bare er i PC-en, på en måte?

Det blir som en robot. Det er ikke personifisert med at det må være noe fysisk noe

for å være generell kunstintelligens.

Det er også et godt spørsmål.

Så jeg tror jo at hvis man får generell kunstnerikdelen,

så er det bare et dataprogram, en ChatGPT-versjon 10, liksom.

Mens noen hevder jo da at hvis vi skal få intelligens

på alle menneskelige nivåer, så må vi også være som oss mennesker.

Så må vi være kopi av et menneske på alle tenkende former og bevissthetsfølelse.

På et helt annet nivå. Så svaret er ...

Så litt uenighet? Nei. Det er litt uenighet om definisjonen her.

Ja. Eller hva som skal til for å få det til. Ikke om definisjonen i seg selv,

men hva som skal til for å få til intelligensballnivå.

Så f.eks.: Klarer en kunstnerisk en som skriver en kjærlighetsroman uten å ha opplevd kjærlighet?

Jo, den klarer åpenbart å simulere en kjærlighetsroman,

men kanskje ikke en god nok, men med tiden kan vi kanskje få til det.

Spennende.

Ja. Så er det jo mange eksperter som har vært ute og uttalt seg om

hvor nærme vi er denne generelle kunstig intelligensen.

En av de er Sam Altman, sjefen av OpenAI,

som står bak ChatKPD og flere andre.

Og han har jo sagt at generell kunstig intelligens kan bli utviklet i hans ord:

Reasonable, close-ish future. Close-ish, faktisk.

Ja. Men altså, det er liksom i den nærmeste framtid, da, kan du si.

Sånn-ish. Om man skal si ish, sånn-ish.

Det er kanskje vagt sagt, men om det betyr ti år eller 50 år eller neste måned,

det er veldig vanskelig å skjønne fra hans uttalelse, da.

Men det som det er ingen tvil om, er hva som er OpenAIs mål.

Som er da de som står bak veldig mye av forskningen som ledes an nå, med store språkmodeller.

Bildegenerering osv. Det er å utvikle generell kunstig intelligens.

Så deres motto er: "Vi skal lage generell kunstig intelligens, og så skal vi spørre den"

"hvordan vi kan tjene penger, og så skal vi tjene penger for det".

Det er liksom hvordan de skal få hele dette målet sitt for å gå videre.

Og han har jo sagt at vi nå har GPT4, og da vi fikk GPT4, så vi ned på GPT3 hvor dårlig den var.

Da vi fikk GPT3, så vi ned på GPT2 hvor dårlig det var.

Og at den utviklingen går så raskt at kanskje får vi nå GPT5,

som er om en årstid, innen dette året, har han spådd.

Og da vil vi se ned på hvor elendig GPT4 er.

Fordi disse utvikler seg så enormt raskt.

Litt på samme måte som da vi fikk Gemini fra Google for paramatiskin,

så vi ned på GPT4 at jo, det var ganske mye Gemini fikk til som GPT4 gikk til.

Eller da vi fikk SORA, som kunne generere video,

så så vi ned på hva Google Imagine kunne få til for et år siden som var utrolig dårlig.

Og når vi bare forventer at utviklingen fortsetter,

så vet vi at det kommer til å bli mer og mer intelligent. Og vi vet at det kommer til å bli bedre og bedre.

Og da vil jo da følelsen dukke opp, en sånn generell ... Den kan løse alt det vi kan.

Så forskere er ganske sikre på at dette kommer. Det er ikke et spørsmål mer om vi noen gang

får det? Om vi noen ganger får det?

De fleste er sikre på at dette kommer. Det som er stor usikkerhet om hvor lenge det er,

er det innen vår nærmeste tid, eller er det 200 år til?

Vi får en sånn type intelligent robot.

Vi ser jo egentlig ingen grunner, i hvert fall de som tenker at det bare handler om simulering

av intelligens, som tenker på at vi trenger ikke sterk kunstig intelligens for å få det til.

Vi trenger bare at den simulerer alt sammen.

Vi er ganske sikre på at det er noe som kommer. Vi får det så smart som oss.

Men hvis man tror at det må være sterk kunstig intelligens for å få det til,

da er man litt mer skeptisk?

Da er man litt mer skeptisk. For da handler det om

at vi også må kanskje få til det aller menneskeligste av oss mennesker, inn i robotene.

Sånn som bevissthetsfølelsen, f.eks. selvbevisstheten.

Og disse tingene som vi har snakket om før,

som er utrolig vanskelig å simulere.

Fordi vi har ikke en snøreste anelse av hva det egentlig er.

Men Sam Alton er ikke den eneste storheten som har snakket om dette.

En som heter Ray Kurzwald, som er sikkert kjent

for mange av teknologientusiastene. Han er det han kaller seg futurist.

Han er faktisk sjefsfuturist hos Google. Han hevder at dette ...

Når generell kunstig intelligens kommer, så kan den oppfinnelsen sammenlignes med

Skriftspråket. Så mye betydde det for mennesket.

Ja, det er ganske voldsomt.

Skriftspråket er jo kjernen til hele vår sivilisasjon.

At vi kan føre våre tanker ned på papir og fortelle den til tusenvis av mennesker

over tid og rom, er knapt noe oppfinnelse som har betydd mer for menneskeheten, tenker jeg.

Og det er vel neste steg ... Jeg er ikke helt sikker på om det er det, eller om det er bare en ny.

Om det bare er en ny introduksjon av en teknologi, sånn som internett.

Jeg tror nok det kommer til å bety ganske mye.

Men det kommer kanskje til å ikke være så voldsomt som at vi får en helt ny skriftspråk.

Men vi får intelligens utenfor menneskekroppen.

Men hva tror du at Aggi kan løse, da?

Kunstig intelligens kan løse mye, og generell kunstig intelligens kan jo løse alt det som ...

Dagens kunstig intelligens ikke kan. F.eks. tverrfaglige problemer.

Så vi har i dag sånn at en kunstig intelligens kan løse det den er trent opp med, og ingenting annet.

Og så utfordrer egentlig chatgapet det litt, for den er litt generell av natur.

For du kan jo spørre om både fysikkoppgaver og matteoppgaver og tegneverktøy,

men i hvert fall tegnebiten av det er egentlig noe annet enn språkbiten av det.

Chatgapet er noe annet enn språkbiten.

Så det er ikke fullt så generelt som det kanskje kan virke som.

Det er masse små moduler dyttet sammen i en kjempestor kunstig intelligens,

som for oss brukere ser ut som én kunstig intelligens.

Men egentlig så er det ganske mange moduler på innsiden som er bygget sammen.

Men har det egentlig noe å si? Nei, for oss brukere har det jo ikke det.

Men for en kunstig intelligens, så betyr det noe.

For hvis jeg snakker med meg og sier at "kan du tegne inn noe?",

så sier jeg: "nei, det kan jeg ikke". Da må jeg bytte inn en annen del av hjernen.

Da er det et annet menneske eller den andre hjernen som jeg dytter inn.

Og det er litt sånn i kunstig intelligens-verdenen at jo kan du tegne noe,

så kommer det en annen programkode inn som gjør det.

Og det er jo ikke den i seg selv som er intelligent. Da vet den hva den skal spørre etter.

Man bare har denne generelle naturen, som åpenbart sitter også hos mennesker.

Så den tverrfagligheten, det er noe vi kommer til å se som mangler egentlig selv i Chatkapity.

Vi kan spørre den om mye. Men hvis du blander fagområder,

kan du skrive et mattestykke, men skriv det mens du tegner det i et verktøy, f.eks.

Tegn, tegn. Svaret på to pluss to ganger er lik i Dali, så blander den sammen.

Men spør du hva to pluss to er, så får du svaret.

Ja, ikke sant. Så det er en del av det.

Men så vil Enagi kunne svare på begge deler og blande sammen.

Tegning og tall og alt. Ja.

Og den vil kunne rime på neste ord i en sang, f.eks., samtidig, så den også, hvis du spør,

i neste omgang spiller et sjakkspill. Eller utføre krigshandlinger, hvis det er det man ønsker å bruke den til.

Så det er en del av det. Og så er det en mye bedre språkforståelse enn for i dag.

Den er jo rågod på språk i dag, men den er jo fremdeles ikke

like god som oss mennesker, som bedre språkforståelse.

Og flere har hevdet at språk er det mest menneskelige vi kan tenke oss.

Når vi tenker, så tenker vi med språk.

Og før vi har fått utviklet språket godt,

så har vi liksom et annet tankemønster enn det vi har med språk.

Og kanskje har den en enda bedre språkforståelse,

for den har en enda bedre forståelse av hva det vil si å være intelligent.

Kreativitet er en annen bit av det. Selv om disse kunstige ingrediensverktøyene

i dag kan virke veldig kreative. Vi kan be den tegne eller skrive,

eller den kan illustrere og lage musikk osv.

Så er det ikke det å skape noe helt utenfor boksen. Skape noe helt nytt.

Finne opp en ny kunstform, eller finne opp den neste internett ...

Hvordan basere alt på den du har lært?

Helt riktig, basere alt på den du har lært.

Men det gjør jo vi òg litt. Ja, det er sant, det.

Men allikevel, da, så klarer vi å finne opp helt nye ting.

Selv om vi har bare basert på det vi har lært.

Men det vil ikke kunstig intelligens i dag klare? Nei. Alt vi ser rundt oss, har vi jo da oppdaget.

Altså har mennesker funnet opp, i hvert fall hvis vi sitter på hjemmekontoret og sånn,

så ser vi rundt oss, så har vi funnet opp alt sammen.

Og alt er bygd på tidligere, men allikevel er det jo innovasjon i seg selv.

Det er ... Transistoren på PC-en, for eksempel, den blei oppdaget

fordi noen tenkte helt utenfor boksen, eller ...

Og det vil en agi også kunne gjøre? Ja. For det har en generell natur.

Fordi den har intelligens på tvers av alt dette.

Den kreative, innovative biten. Kreativitet handler jo mye mer enn å bare tegne,

for det klarer den fint i dag, men den har jo da en ... Ja, la oss si:

Finn opp en ny iPhone, eller finn opp hva enn vi trenger for å løse morgendagen.

Ja, finn opp noe helt nytt. Og kanskje noe vi ikke vet vi trenger.

Ja. Hva nå det er. Men ja, helt enkelt.

Riktig. En annen bit av det er at den har selvstendig læring.

I dag er disse kunstig intelligens-modellene trent opp

med menneskelig feedback.

ChatCAPT er først trent opp med data fra internett.

Så er det det som kalles forsterkningslæring med menneskelig tilbakemelding.

Altså mennesker sier ja eller nei, dette var bra eller dårlig.

Vi opplever det i dag med en tommel opp eller tommel ned.

Men den kan ikke lære av seg selv. Den trenger noe feedback.

Så er det noen eksempler hvor kunstig intelligens lærer mot kunstig intelligens,

som ser ut til å bli enda bedre mot spiller mot kunstig intelligens.

Det mest kjente eksemplet er sjakksmaskinen som spilte mot seg selv.

Men det var fremdeles innenfor veldig begrensede områder.

Og vi ser litt det samme i språk også. Men jeg kan sette meg ned

og tenke gjennom noe, og så, hvis jeg er heldig, kan jeg komme på noe smart.

Jeg kan lære meg selv hvordan jeg skal snakke eller skrive, mens kunstig intelligens må ha noe tilbakemelding.

Og så er det etisk og moralsk resonnement.

I dag så klarer jo disse kunstig intelligens-verktøyene noe etikk.

Men det er veldig sånn konsekvensetisk.

Det betyr at den klarer sånn ... Hvis du spør:

"Skal jeg slå ned naboen min fordi det er gøy?" Så sier den nei.

"For den er trent på data." Eller "skal jeg ødelegge et annet menneske?"

Så sier den nei. For da kan se konsekvensen.

Og da er konsekvensen litt dårlig.

Men den klarer ikke det litt mer dydsetiske.

Altså, hvis jeg forteller: "Hva gjør et godt menneske?"

"Hva betyr det å være et godt menneske?"

"Skal jeg gi penger til tiggeren på gaten, f.eks."?

Jo, man kan se konsekvensen av det. Jo, denne personen får litt mindre penger.

Men kanskje jeg burde brukt de pengene på et annet veldig av de formål,

og fått bedre bruk av dem. Men det handler allikevel om hvor godt menneske er.

Men en generell kunstig intelligens vil kanskje klare det.

Spennende. Ja.

Altså, klarer jeg å se følelsene hos et annet menneske?

Klarer jeg å bli lei meg hvis et barn gråter? Osv.

Som ikke har noe med den matematiske maskinelle intelligensen

som vi har i datamaskinene i dag, men som definitivt fins hos oss mennesker.

Men det er jo litt spennende å se hvis AGI får ...

Hvis AGI får emosjonell intelligens, vil det da overstyre det rasjonelle i den?

Vil det overstyre konsekvenstenking eller andre typer aspekter, som den også kan?

Litt som mennesker - vi kan jo styres av følelser selv om vi vet

at noe ikke er så fornuftig, eller kanskje er mest økonomisk, eller ja ...

Helt klart, og på veldig godt og vondt.

Så det fins jo ingen rasjonell grunn for at Russland skal gå til krig mot Ukraina.

Men Putin hadde likevel et ønske om det, en følsom ... Å vise seg sterk.

Så tar han disse dårlige valgene om å gå til krig.

Mens hadde han tenkt helt rasjonelt, så ville han sagt at dette er jo ikke noe fornuftig å gjøre.

Mens vi kan også si da jo, det kan være gode grunner til at vi har emosjonell internasjonalitet.

Jo, burde jeg trøste barnet som jeg bare møter ...

Som er forlatt av sine foreldre på gaten ...

Jo, det er ikke sikkert at det rasjonelle er å gjøre det,

fordi jeg kunne tjent mer penger og gitt penger til et ledig formål, f.eks. ,

istedenfor å bruke de ti minuttene på å oppdage det barnet.

Mens følelsesmessig i meg vil si at jo, jo, møter du et gråtende barn, så skal du trøste det.

Vil det overstyre ... Vil dette komme på ... i konflikt med hverandre med en AGI?

Ja, det tror jeg definitivt det kan.

Og det er vanskelig å se for seg,

for det er vanskelig å regne seg fram til hva det er å være et godt menneske.

Så kanskje er dette en av de store vanskelighetene med å lage generell kunstnerkliens.

Så den emosjonelle intelligensen, da, eller moralske og etiske tanker.

Det som faller også litt under den selvrefleksjonen:

Har jeg gjort noe bra nå?

Jeg kan jo holde en forelesning eller ha et møte med en student

som ikke har gått så bra. Så kan jeg reflektere tilbake.

Jo, kanskje jeg burde gjort noe annerledes.

Burde man møtt situasjonen på en annen måte? Eller mennesker på en annen måte.

Men også langtidsplanlegging. Vi mennesker.

Vi mennesker er veldig gode på langtidsplanlegging. "Kremeksempelet"

som vi har snakket om flere ganger her, er å bruke mange år på utdannelse

fordi jeg en eller annen gang i framtiden skal få en god jobb.

Mens denne langtidsplanleggingen, hvor belønningen kommer langt inn i framtiden,

er vanskelig for generell kunstnerkliens.

Jeg skal trene mange løper mye fordi jeg skal bli i go form,

og så ser jeg ikke den gode formen før om kanskje flere måneder.

Litt som vi har vært inne på: intuitive resonnement.

Istedenfor å rasjonelt tenke gjennom. Kan liksom bare vite om noe er riktig.

Mens mer empati og den type kommunikasjon ligger jo vanskelig an.

Jeg tror det siste vi kommer til å se av kunstnerkliens, før vi eventuelt når

den generelle kunstnerkliensen, er jo empati, innovasjon og etisk og moralsk dømmekraft.

Men hva er det som skal til for å få AGI, generell kunstnerkliens?

Ja, det er jo høyst usikkert om vi noen gang kommer til å få det.

Men det virker mer og mer sannsynlig, da.

Og det er flere steg som må til for å få generell kunstnerkliens.

Den første er jo litt mer sånn datamaskinmessig, altså ikke software-messig,

men hardware-messig: regnekraft. Og hvor mye regnekraft trengs for å få til en kunstnerkliens.

Generell kunstnerkliens, og det er antakeligvis enormt mye.

Enormt mye mer enn det vi trener disse chatbotene i dag.

Så ChatKapity har brukt masse energi for å trene seg opp,

og Google har som råd til å kjøpe store maskinparker osv.

Mens kanskje er det ikke nok datakraft i verden

for å trene opp en generell kunstnerkliens.

Kanskje er det sånn at vi utvikler denne kunstnerkliensen bedre og bedre.

Og at den regnekraften som trengs, er eksponentiell.

Litt sånn hvis man skal trene for å gå på ski.

Hvis man bare trener litt, kan man bli ganske flink.

Hvis man trener flere ganger i uka, kan man kanskje være med på basaløp osv.

Men for å bli på landslaget må man trene enormt mye mer.

Og den tidsmessige, fra amatør til profesjonell, krever enormt mye trening.

Sånn er det kanskje litt i kunstnerkliensverdenen også, at man trenger

Ganske mye mer for de siste prosentene enn de første prosentene.

Og nå er vi liksom bare i starten av de første prosentene.

Ja, og det er som du sier at allerede i dag så brukes det jo veldig mye datakraft.

Men tror du det er såpass at det er uoppnåelig?

Nei, jeg tror ikke det. Og jeg tror hvis vi nå har denne Moores-lov,

som sikkert flere har hørt om, som gjør at regnekapasiteten dobles hvert annet år ...

Som vi har sett i veldig lang tid, så kan vi spørre oss

hvor lang tid det tar før vi får regnekapasitet

som er tilsvarende menneskelig nivå.

Og faktisk så er vi ikke så langt unna i dag.

Som man ofte tenker seg, hvis man kjøper en standard datamaskin

som koster la oss si 1000 dollar ... For ti år siden hadde man da

ti trillioner beregninger per sekund. Og det tilsvarer omtrent musens...

En liten mus får det.

Mens i dag så er vi jo nesten på menneskelig hjerne

på den regnekapasiteten vi får ved å kjøpe en litt kraftig datamaskin.

Altså menneskehjernen.

Og hvis den utviklingen fortsetter, så vil vi da i 2045 få for 1000 dollar

regnekapasitet som tilsvarer alle mennesker i hele verdens hjerne, satt sammen.

Så denne, når vi dobles hele tiden, så blir det ...

Blir regnekapasiteten kraftigere og kraftigere?

Og så er det ikke sikkert at den kommer til å gjøre det i framtiden,

men sånn historien forteller oss at den har utviklet seg, og hvis den fortsetter sånn,

så vil jeg da, når jeg kjøper en laptop på jobben for 1000 dollar,

kunne ha like mye regnekraft som alle menneskehjerner i verden satt sammen.

Det er jo helt vilt. Ja. Det er helt vilt, det er helt klart. Men hvis du tenker at de på ...

På 1980-tallet så var vi liksom i nærheten av en liten mygg, kanskje,

og så var vi for ti år siden en mus.

Nå er vi omtrent, i hvert fall like under menneskehjernen,

så er vi da om 20 år og litt. Alle mennesker i hele verden.

Sånn. Det er kraften til eksponentielle funksjoner.

Men dette vil vel også være litt miljøspørsmål og sånn, eller fortsetter det bare uten?

Det fortsetter uten noe.

Ja, det er klart, det er klart det. Så det er jo ikke sånn at datamaskinene i dag

er mye mer energikrevende enn de var for ti år siden, ikke sant.

De er jo like strømintensive i dag. Og kanskje litt mindre også,

for vi har bedre skjermer osv. Men det kan jo hende, da.

For det er jo ikke sånn at du trenger et helt aggregat hjemme for å kjøre datamaskin om fem år.

Så kanskje blir det mer effektivt også.

Kompensere på andre måter, det er bra.

Ja, det er riktig. Så man må finne opp måter å regne krafter på.

Det er bare én del av det. Og den andre er selvfølgelig at vi må gjøre den smart.

Det er det som er det vanskelige. Selv om regnemaskinen kunne vært på menneskelig nivå,

så må vi likevel vite hvordan vi skal trene dem opp. Og da er det jo flere måter.

Og den ene er jo sånn som vi egentlig har gjort til nå. Det er å kopiere hjernen, kopiere læring. Simulere hjernen på mange måter.

Simulere hjernen på mange måter og trene den opp med data.

Men en annen måte er å tenke at vi kan få denne kunstige kliensen til å utvikle seg selv.

At den kan lære seg selv. At du bare kan sette den i gang, og så blir den flinkere og flinkere.

Fordi den snakker med seg selv og snakker med en annen kunstig kliens.

Litt som vi mennesker, da. Så vi er født, og vi går på skolen, og så etter at vi går på skolen,

så la oss si vi er ferdig utdanna, så lærer vi allikevel. Fordi vi drikker kaffe med andre mennesker.

Og det er jo litt det den har gjort med sjakkspilling f.eks.?

Nettopp. At den spiller mot hverandre osv. Men igjen, da.

Sjakkspilling er bare for det lille, smale området,

og så er det vanskelig å se for seg at det kan gjelde f.eks. empati.

Vi mennesker blir flinkere på empati fordi vi ser andre mennesker,

vi ser at noen oppfører seg eller har det vondt på Dagsrevyen osv.,

og så trener vi også opp den delen av mennesket.

Men kan det være litt skummelt med at de trenes feil?

At det blir motsatt? At flere agerer deilig og kunstig interessert

og snakker sammen, og ikke skjønner hva som er rett og galt?

At de ikke får utvikle empati, men helt motsatt, f.eks.?

Eller ikke vil trøste det barnet du snakka om i stad, men heller prioriterer helt motsatt.

Og at den får belønning for det, og tror det er det riktige.

Kjempegodt innspill. Jeg tror det definitivt kan bli sånn.

For det er ganske mye rasjonelt vi kan gjøre,

som ikke nødvendigvis er det vi ønsker å gjøre.

Og eksempelet ville kanskje vært at hvis vi ber kunstig intelligens løse

mange av de problemene vi har i dag, så skyldes de problemene oss mennesker.

Klimautfordringene er et sånt eksempel.

Jo, hvordan er den beste måten å løse klimautfordringene på?

Jo, det er å fjerne menneskene. Så det rasjonelle ville vært å fjerne oss.

Og da forurenser vi ikke noe mer, da. Så går det mye bedre for jorda.

Utenom oss mennesker, tenker jeg. Men allikevel så er det ikke helt det vi ønsker.

Så da får det heller være sånn med planeten, hvis vi skal drepe

de mange milliardene av menneskene som lever på den.

Men akkurat sånne ting kan en generell kunstig intelligens komme med besvarelser på,

fordi den lærer seg en annen moral enn det vi tenker på som riktig.

Eller den er litt mer konsekvensetisk enn dydsetisk, som en filosof kanskje ville sagt.

Den tenker rasjonelt, men ikke hva det er å være et godt menneske eller et godt vesen.

Men kan den da plutselig ta helt av? Og vi får et skrekkfilmscenario

hvor den finner opp noe i alle PC-er, f.eks., som bare skyter ut overalt i internett

og sprenger hele menneskeheten?

Om det kan skje, hvis jeg skal si det, så er svaret ja.

Men om jeg tror det kommer til å skje, det tror jeg veldig lite sannsynlig.

At hvis vi tenker oss et superintelligent vesen, så vil den jo forhåpentligvis,

det må vi inderlig håpe, at det intelligent også betyr det beste for oss mennesker.

Som er liksom de mest begavede på jorda, de mest bevisste, og de som har mest verdi.

Så intelligens må også være det at vi tar vare på vi bevisste skapninger, tenker jeg.

Da ville man lært seg at det skal man ikke gjøre.

En annen grunn til at det ikke kan skje, er at jeg tror at i veldig lang framtid

kan vi styre den generelle kunstige intelligensen, i hvert fall på vei mot den.

At vi kan si at nå har du oppført deg dårlig, nå skrur vi av,

eller nå fjerner vi den delen av intelligensen, eller noe sånt.

Som å si at nå har du fått litt for mye hiccup på å ødelegge for de som ødelegger for klimakrisen, f.eks.,

eller arrestere alle de som har litt slemme tanker, eller ...

Arrestere alle de som kaster søppel på gaten, for det passer ikke deg.

Sånne typer ting som vi da kanskje kan stoppe den eller tre den opp på.

Så vi er fortsatt sjefen, på en måte? Ja, det er et godt poeng.

Jeg tror vi kan være sjefen for generell kunstutvikling selv når den blir generell.

På samme måte som vi er sjefen over internett,

selv om internett er mye større og kraftigere enn oss.

Men det er liksom akselererende utvikling, og det er ikke bare at vi kommer

Det går fortere og fortere, og den går seg selv fortere og fortere.

Og da får vi denne eksponentielle tanken, som ofte tankes.

Og Google Deep Mind har selv sagt at det er fem nivåer som skal til

for å nå generell kunstig intelligens. Nivå én, og de kaller det fremvoksende intelligens,

da er intelligensen lik eller noe bedre enn et ufaglært menneske.

Og der er der vi er i dag, med GP eller Gemini.

Grock og disse andre verktøyene er som på mange måter å spørre

et ufaglært menneske for svar, men det er ikke nødvendigvis et faglig godt svar.

Med et rørleggerspørsmål får jeg ikke nødvendigvis det en faglært rørlegger ville svart.

Spør de et forskerspørsmål sånn som jeg kjenner til,

så er det ikke nødvendigvis et godt forskersvar.

Men selv om du sier at vi er der i dag, så er vi ikke der helt på AGI

fordi vi er der på konkrete områder.

Helt riktig.

Så det er liksom nivå én, at du får et sånt ufaglært svar

fra lasinsk språkmodell. Og så er det fire nivåer til som vi må nå.

Og Google Deep Mind og en som heter Dema Sasabi,

som er sjefen i Google Deep Mind, som har kommet med dette,

han sier at etter det så kan vi få en kompetent kunstig klient,

som betyr at vi er på nivå med 50 % av voksne.

Altså vi er smartere enn halvparten av menneskene som fins på jorda.

Og der er vi ikke i dag. Hvis den er dummere enn de fleste,

så er det noen fagområder juss er den kjempegod på.

Sånn er den som smartere enn de fleste jusser på jusseksamen,

men den er ikke smartere enn alle jurister og smartere enn alle programmerere.

Og så kommer nivå tre, hvor den er på ekspertnivå.

Og de hevder at på ekspertnivå, da er du omtrent 10 % av de flinkeste menneskene.

Så du velger ut 10 % av de smarteste innenfor et fagområde,

og så sier du at dette er ... Du er på ekspertnivå.

Du kan istedenfor at NRK ringer en ekspert, så kan de spørre en chatgPT

og få et eksperttype svar. Og det forandrer jo alt, da.

Vi har jo plutselig, istedenfor at jeg ringer kommunen for saksbehandlingsspørsmål,

skal jeg bare ringe chatGPT for andre spørsmål.

Og så er det nivå fire, som kalles virtues.

Det betyr at den er på den ene prosenten av mennesket.

Altså, den er liksom blant de smarteste av de smarte.

For å være med i mensa må du være blant de 2 % smarteste. Her er den 1 % smarteste.

Vi er fremdeles ikke på menneskelig nivå, men på menneskelig nivå.

Og så er det den siste nivå fem. Der er vi da hvor den overgår oss mennesker.

Og da Open-Eyet ble startet i 2015, så antok de at året det kommer til å skje,

var 2027, som er ikke så langt unna.

Google hevder jo da at det kanskje er litt lenger.

Kurtzwald, som vi snakket om han som vi snakket om litt tidligere, han mener at det vil havne i

innen 2030, som er seks år til.

Ja, det går fort. Det går fort.

Så dette var noen enkeltforskere.

Men det har vist seg at noen har spurt veldig mange forskere over tid.

Og det firmaet som heter Arc Investment Management,

har spurt kunstig intelligens-forskere over lang tid:

Hvor lenge er det til kunstig intelligens kommer?

Hvis vi antar at generell kunstig intelligens kommer, hvor lenge er det til?

I 2020 spurte jeg en rekke mennesker, og det var den gangen GPT3 kom.

Altså ikke ChatGPT, men GPT3. Da sa de fleste forskere at dette er 50 år unna.

Altså i 2070. Året etter, i 2021, da kom Google-lamaa.

Som på mange måter var litt foreløperen til ChatGPT, bare Google sin.

Da sa de at nå er det 34 år. I 2022, da ChatGPT kom, da er det 18 år.

Og i år ble forskere spurt igjen, og nå sier gjennomsnittlige forskere at nå er det 8 år.

Så for fire år siden så trodde vi at det var 50 år, mens nå tror vi altså at det er 8 år.

Og da er vi jo veldig spent på, både vi og alle lytterne regner med, på hva du tror.

Er du enig med den generelle forsker?

Ja. Kanskje jeg er litt enig med den generelle forsker, jeg tror jeg er litt mer pessimistisk.

Jeg tror det er lenger enn 8 år til vi får en sånn generell kunstig intelligens.

Det er vanskelig å si om det er 10, eller om det er 20, men det er liksom ... ja.

Hvis jeg tar et gjennomsnitt av meg selv, da, vil jeg si kanskje 15 år.

Til en sånn type kunstig intelligensdykkelse.

Og det er ikke så nøye, da, om det er 8 år, om det er 15 år, eller om det er 30 år.

Altså, dette skjer. Det er helt overbevisende.

Og ganske snart.

Og ganske snart. Ikke sant, det er 15 år ... Hvor er vi om 15 år?

Vi skulle liksom tro at det er litt det samme, da, men vi klarer ikke å forestille oss

den verden som er om 15 år i gang, fordi vi vet at dette kommer til å skje så raskt.

Så det er en ren eksplosjonsartet sak, ikke sant.

Det er som du putter Mentos i Coca-Colaen, begynner det å boble litt,

så sprenger det etter hvert. Vi har liksom begynt å boble litt,

men vi ser at nå er det bare å løpe av gårde, for den Mentosen går i veien.

Det som også er litt vanskelig å vite, for det er ikke sånn den Mentosen og Colaen,

for du vet at de sprenger, hvordan vet du egentlig at det er en generell kunstig intelligens du snakker med?

Og vi har jo lenge hatt denne touring-testen, som kanskje en del av lytterne er kjent med,

hvor Alan Turing for 50 år siden hevdet at når vi har oppnådd kunstig intelligens,

"maskinintelligens", som han kalte det, "tenkende maskiner" var ordene han brukte,

men som vi i dag kan si er generell kunstig intelligens,

det var når robotene klarer å snakke på en sånn måte at ikke vi klarer å se det.

Det er egentlig allerede løst. Vi kan lure systemene ganske enkelt.

Det er masse eksempler hvor folk har trodd at det er et menneske

som de snakker med, og det er en kunstig intelligens.

Mange som har blitt svindlet av den formen. Til og med Zoom-møter satt opp,

og Teams-møter satt opp hvor man da lurer folk og sier at "nå er jeg sjefen din",

og setter over penger, osv. Så vi klarer ikke å skille mellom mennesker og maskiner i dag,

i hvert fall ikke den allmenne. Kanskje han mente noe mer,

kanskje han mente at man eksplisitt var og så etter noe, og da kanskje ...

Da kan man se forskjell på det, men hvis jeg ikke vet

at det er det jeg ser etter, så merker man ikke.

Det betyr at touring-testen er kanskje ikke så god som vi kanskje hadde håpet.

Nei, AGI er ikke løst. AGI er ikke løst selv om touring-testen kanskje er løst.

Helt riktig. Og det jeg tror handler om, er at når vi da kommer nærmere og nærmere

generell kunstig intelligens, så blir det mer behov for å få en spesifikk test for å vite hvordan dette er.

For 20 år siden var det kjempelangt unna å få en sånn robot

til å etterligne hos mennesker. Nå er vi ganske nærme.

Og da er ikke den testen i seg selv så god lenger.

Så vi må egentlig finne nye måter å teste

og finne ut hvordan vi skal spørre en sånn type robot om den er ekte.

Så hvordan ville du funnet ut, Maren?

Det høres jo litt ut som vi må teste flere områder, da. At vi ikke bare kan spørre om ...

Tekst eller bare film eller bare ... Men dette med flere forskjellige områder.

Og så de vanskelige tingene, da. De emosjonelle tingene å reflektere over

og være kreativ og ...

Ja. Jeg tror jeg er veldig inne på det. Det er veldig mye sånt vi kan spørre om.

Så det mest naturlige er vel kanskje bare å spørre: Kan vi møtes for en kaffe? Fysisk, ikke sant?

Kan jeg få en klem, f.eks., av en sånn type robot?

Og da vil jeg kanskje merke det.

Men da vil vel ikke agi være løst før vi har en fysisk robot som er lik et menneske?

Ja, det har du helt rett i. Så det kan jo likevel lure oss, da.

Eller det kan likevel gjøre alt det intelligente vi kan, over skjerm.

Og som vi sa i stad, at det handler egentlig ikke om den fysiske, menneskelige delen.

Det handler om hva den kan løse av intelligente oppgaver. Så du har rett.

Det handler ikke om at bare det at den er intelligent, kan være nok.

Ikke det at den er en type Android-robot.

Så jeg tror vi må teste på litt andre måter.

Og noen ideer kan være at en gjør litt sånn generell problemløsning.

Altså løser et bredt spekter av problemer. Som når du er inne på kreativ tenkning

og problemdomener over flere områder. Så slå sammen matematikk og vitenskap og litteratur, og kanskje skrive en bok.

Komme med noe matematisk som gjør at en klarer å gjøre begge deler.

Eller få litt tverrfaglig forskningelig utvikling

som forstår veldig komplekse problemområder.

Eller kanskje litt mer sånn common sense eller stridsmart.

Forutsi menneskelig atferd. Hva kommer et menneske til å gjøre?

Sosiale normer og så videre.

Og det å skulle sette seg inn i et annet menneske, f.eks.

Det kjenteste eksemplet på det er jo noe som utvikles hos barn i en 3-4 års alder,

hvor man da plutselig får evnen til å sette seg inn i et annet menneske.

Hvis f.eks. et lite barn får sett en Per, og Ola og Kari er ute,

og så ser barnet en liten teatersekvens hvor Kari og Per er ute, og så putter ...

Per en ball oppi den røde boksen, f.eks., og så går Kari vekk.

Men så kommer Ola tilbake og flytter ballen fra den røde boksen til den grønne boksen,

og så kommer Kari tilbake. Og så er spørsmålet: Hvor leter Kari?

Den fleste av de små barna vil si at de har lest i den grønne boksen, for det er der ballen er.

Men de klarer ikke å forstå at Kari har et annet perspektiv.

For Kari har ikke opplevd at ballen har blitt flyttet fra en boks til en annen.

Altså en evne til å sette seg inn i et annet menneskes sinn.

Selv om dette er et enkelt eksempel som ChatKapity sikkert også kan løse,

så er det allikevel ikke det å sette seg inn i

hvordan vil et annet menneske oppleve dette, føle det.

Så vi må ha noen sånne tester også. Empati, rett og slett.

Empati, kanskje. Ja, helt riktig. Empati og forståelse for mennesket.

Men også emosjonell intelligens. Føle seg, føle uttrykket, sine egne følelser.

Fortelle at det var trist at jeg mistet en venn i går, og den typen ting.

Kreativitet kan vi teste. Kan du tenke helt utenfor boksen på en eller annen måte?

Kan du vil gjøre etiske utfordringer? Kan vi teste at du har

den mer dydsetiske forståelsen av noe? Hva vil det si å være et godt menneske?

Sosial integrasjon, interaksjon, mener jeg. Kan liksom være ...

En samtale, og egentlig holde til en samtale ordentlig.

Utvikle seg selv, være selvutvikler.

Kan jeg stoppe en robot her, eller en algoritme her,

og så kan jeg bare la den gå av seg selv,

og så kan den bli flinkere av seg selv fordi den snakker med seg selv og utvikler seg selv.

Og sikkert veldig mange andre måter å trene opp en slik kunstig intelligens på.

Men vi vet jo, når alt skal sies da, vi egentlig ikke hvordan vi tester ut.

Men tenker du da at alle disse aspektene må være løst eller godkjent?

Skal vi teste på alle områdene for at det skal være AGI,

eller holde det at ett av de er oppnådd?

Ja. Nei, sånn som jeg ser det, må vi teste på alle.

Og langt flere enn det jeg nevnte her også.

For det er det som er den generelle naturen.

Du skal både være kreativ, og du skal ha empati,

og du skal klare å være sosial interaktiv, og du skal prøve å ha stridsmål.

Sånn som oss mennesker, hvis vi klarer å få alt dette til.

Og har vi en robot som "bare" klarer å ha sunn fornuft,

så er det ikke allikevel sånn at den kan være moralsk oppbygget, han som oss mennesker.

Så hva gleder du deg til i den verden med generell kunstig intelligens, Maren?

Jeg kjenner det er litt både òg. Det blir nok mye bra i vente.

Men så blir det spennende å se hvordan ... Jeg håper jo ikke at det brukes negativt.

Nei, det er akkurat det. Vi kan ikke helt vite hva det brukes til,

og vi kan ikke helt vite hva det er.

For det er jo som om det er åtte år, eller om det er 15 år, eller om det er 20 år til.

Det er jo en så lang framtid, da. Men nå tror vi, da.

Den generelle forsker tror at dette er åtte år fram i tid, og det er 2032.

Så vi kan jo møtes igjen i 2032 og se hvordan det er.

Og kanskje, kanskje, kanskje er da verden sånn som dette her.

For hvis vi ser i 2020 til tro med avansert genell kunstig intelligens,

så kan vi se for oss at dagen min starter helt uten vekkerklokke for et intelligent system,

hvem har lært seg min søvnsyklus og vekker meg på det optimale øyeblikket som passer for meg,

og frokosten er forberedt av en robotkokk som tilpasser måltidene etter min ernæringsplan

og daglige preferanser, og på vei til arbeid bruker jeg en selvkjørende transport som effektivt navigerer.

Optimalt for å redusere trafikken. Ikke bare for meg, men for alle andre rundt meg.

Og arbeidsoppgavene er transformert for det den generelle kunstig intelligensen opererer.

De tar alle de repetitive oppgavene, og lar meg fokusere på

kanskje det kreative og strategiske arbeidet.

Som betyr jo da at min rolle på jobben blir helt annerledes.

Jeg blir mer fokusert på kreativitet, på strategi, på mellommenneskelig,

og jeg kan engasjere meg i problemløsninger som krever dyp tenkning og innovasjon.

Og utvikle helt nye ideer og produkter med et unikt menneskelig perspektiv,

mens alle de enkle, repetitive oppgavene som jeg gjør, som vi alle gjør, er forsvunnet.

Og da kan jeg fokusere på å bygge og vedlikeholde relasjoner med kunder

eller kollegaer eller samarbeidspartner, og utvikle min emosjonelle intelligens

for å navigere et forbedret arbeidsmiljø.

Og ta strategiske beslutninger som styrker en virksomhet, mens AGI kan gjøre det.

Monotone. Og jeg kan bruke mer tid til det virkelig, virkelig menneskelige.

Og hvis jeg er hjemme igjen, så kan huset mitt tilpasse meg mitt behov for avslapping

og produktivitet basert på mine preferanser.

Og slik blir kanskje verden mer generell, kunstig.

Denne videoen er basert på opplevelser fra familien.

Takk til alle som har lyttet til denne sendingen!

Takk til alle som har lyttet til denne sendingen!

Takk til alle som har lyttet til denne sendingen!