Hva er kunstig intelligens?

Tenk på tre systemer som alle kalles kunstig intelligens (artificial intelligence, KI). Det første er en chatbot som får deg til å tro at du skriver med et menneske. Det andre er et program som løser hoderegning med de samme mellomregningene som en elev, og bruker omtrent like lang tid. Det tredje er en navigasjonsapp som velger ruten med kortest forventet reisetid. Alle tre er KI, men de prøver å oppnå svært forskjellige ting.

Forskjellen kan beskrives med to spørsmål. Bryr vi oss om tenkning eller handling, altså om de indre prosessene eller bare om atferden? Og hva er målestokken: det et menneske ville gjort, eller det som er riktig ut fra en ideell standard? To spørsmål med to svar gir fire tilnærminger.

Chatboten handler menneskelig, hoderegningsprogrammet tenker menneskelig, og navigasjonsappen handler rasjonelt. Den fjerde ruta, å tenke rasjonelt, er logikkens tradisjon, der programmet bare skal trekke korrekte slutninger.

Nesten hele faget bygger på ruta nederst til høyre. En rasjonell agent (rational agent) velger handlingen som gir best forventet utfall, gitt det den har observert. Den trenger verken å ligne på oss eller å bevise hvert steg i logikk.

Rasjonalitet har en presis matematisk definisjon, mens «menneskelig» er en målestokk som er vanskelig å måle mot. Det er en viktig grunn til at faget har valgt den rasjonelle agenten som arbeidsdefinisjon.

Alan Turing foreslo i 1950 en praktisk test i stedet for å diskutere om maskiner «egentlig» kan tenke. I Turingtesten (Turing test) fører en dommer skriftlige samtaler med to parter hun ikke ser, en maskin og et menneske. Klarer ikke dommeren pålitelig å si hvem som er maskinen, har maskinen bestått.

For å bestå må maskinen beherske mye av det faget handler om: forstå og skrive naturlig språk, lagre det den får vite, resonnere med det for å svare på nye spørsmål, og lære underveis. Testen måler likevel bare atferd. Den sier ingenting om hva som skjer inne i maskinen, og heller ikke om den har bevissthet. Et skritt videre går den totale Turingtesten (total Turing test): dommeren kan vise maskinen ting gjennom et kamera og be den håndtere gjenstander, så maskinen trenger i tillegg datasyn og robotikk.

Som forskningsmål har testen likevel spilt liten rolle. Et system som skal tolke røntgenbilder eller styre en ferje, blir ikke bedre av å late som det er et menneske, og ofte ville det blitt verre: ingen bygger en kalkulator for at den skal regne like sakte og feilbarlig som oss. Fagfeltet måler derfor systemene på konkrete oppgaver og prøver å forstå hvorfor de lykkes, i stedet for å lure en dommer.

Vil vi derimot si at et program tenker som et menneske, må vi vite hvordan mennesker tenker. Det finner vi ut med introspeksjon, psykologiske eksperimenter og hjerneavbildning. Innen kognitiv modellering (cognitive modeling) lager forskerne programmer og sammenligner mellomstegene og tidsbruken deres med forsøkspersoners. Et program som løser hoderegning riktig, men med helt andre mellomsteg enn mennesker, kan være god KI og samtidig en dårlig modell av mennesker.

Den siste ruta i rutenettet, å tenke rasjonelt, går tilbake til Aristoteles og hans mønstre for gyldige slutninger: «Alle ferjer på ruta har redningsflåter. MF Linnea går på ruta. Altså har MF Linnea redningsflåter.» På dette bygger den logisistiske tradisjonen (logicist tradition), også kalt tenkelovene (laws of thought): beskriv problemet i formell logikk, og la programmet utlede svaret. Tradisjonen har to svakheter. Kunnskap om verden er sjelden sikker, og det å tenke riktig er ikke det samme som å handle godt.

En agent er noe som oppfatter omgivelsene og handler i dem. Ferja som legger til kai, termostaten på badet og en sjakkmotor er alle agenter. En rasjonell agent velger den handlingen som gir best forventet utfall. Den kan ikke se inn i framtida, så den vekter hvert mulig utfall med hvor sannsynlig det er. Det er prinsippet om maksimal forventet nytte (expected utility), ƒrasjonelt valg: maksimer forventet nytte:

Her er $U(s^{\prime })$ nytten av utfallet $s^{\prime }$, og $P(s^{\prime }\mid s,a)$ er sannsynligheten for det når agenten gjør $a$ i tilstanden $s$.

Hvorfor bygger faget på nettopp denne ruta? Tenk på en sjåfør som bremser når et barn springer ut i veien. Det skjer uten noen slutningskjede, og likevel er det det beste hun kan gjøre. Logikk er altså ett av flere verktøy en rasjonell agent kan bruke, ved siden av reflekser, søk, sannsynlighet og læring, og tenkelovene blir et spesialtilfelle. Samtidig er «best forventet utfall» et matematisk begrep, så vi kan regne på agentene: vise at en algoritme alltid velger best, eller måle hvor langt unna den havner. Resten av faget handler i stor grad om slike verktøy og om hva de garanterer.

Synet at vi gir maskinen et mål og lar den optimere det, kalles standardmodellen (standard model). Modellen har en svakhet: målet vi skriver ned, er sjelden helt det vi mener. En videotjeneste som ber anbefalingsagenten maksimere seertid, kan få en agent som lærer seg å vise stadig mer oppskrudde klipp. Agenten gjør nøyaktig det den ble bedt om, og det er problemet. Dette er verdijusteringsproblemet (value alignment problem), og det blir viktigere jo dyktigere agenten er.

Perfekt rasjonalitet er dessuten ofte umulig. I komplekse miljøer er det ikke tid til å regne ut den beste handlingen, og begrenset rasjonalitet (limited rationality) betyr å handle godt nok med den tiden og regnekraften som finnes.

KI vokste ikke fram av ingenting. Åtte eldre fag leverte ideer og verktøy som KI fortsatt bruker. Tabellen viser hva hvert fag bidro med, og hvor i dette faget du møter det igjen.

Filosofien ga logikken og tanken om at handlinger kan begrunnes ut fra mål. Matematikken gjorde logikken presis og la til algoritmer, grensene for hva som kan beregnes, og skillet mellom problemer som kan løses raskt og problemer som vokser eksponentielt. Økonomien ga begrepet nytte og teorien for beslutninger når utfallet er usikkert, nettopp det rasjonelle agenter bygger på. Kontrollteorien viste hvordan et system kan holde seg nær en ønsket tilstand ved å måle avviket og korrigere, det vi kaller tilbakekobling.

Matematikkens kanskje viktigste bidrag til agenter som lever med usikkerhet, er sannsynlighetsregningen. ƒBayes' regel sier hvordan en agent skal oppdatere troen sin når en observasjon kommer inn:

Nevrovitenskapen og psykologien studerte den eneste intelligensen vi kjente, i hjernen og i atferd. Datateknikken bygde maskinene som gjorde KI mulig, og lingvistikken viste at språk krever både grammatikk og kunnskap om verden.

Noen bidrag er svært konkrete. Boole ga logikken en algebra på 1800-tallet, Turing viste i 1936 at noen problemer ikke kan løses av noen maskin, og teorien om NP-komplette problemer viser at mange søke- og planleggingsproblemer trolig ikke kan løses i polynomisk tid. Økonomen og psykologen Herbert Simon viste at mennesker sjelden optimerer, men nøyer seg med valg som er gode nok, en tidlig utgave av begrenset rasjonalitet.

KI-historien går i bølger: optimisme, skuffelse og nye ideer. Tidslinjen deler den i sju epoker som delvis overlapper.

Starten. McCulloch og Pitts beskrev i 1943 et kunstig nevron som enten fyrer eller ikke, og viste at nett av slike kan regne ut logiske funksjoner. Turing publiserte artikkelen om imitasjonsspillet i 1950. Sommeren 1956 samlet McCarthy en liten gruppe forskere på Dartmouth College, og navnet artificial intelligence ble tatt i bruk.

Tidlig optimisme. Newell og Simons program Logic Theorist beviste teoremer i logikk, og deres General Problem Solver prøvde å løse problemer slik forsøkspersoner gjorde. Arbeidet ledet senere til hypotesen om fysiske symbolsystemer (physical symbol system hypothesis): at symbolmanipulasjon er både nødvendig og tilstrekkelig for generell intelligens. McCarthy laget språket Lisp i 1958.

Tilbakeslaget. Programmene virket på små eksempler, men brøt sammen når problemene vokste, fordi antallet kombinasjoner å prøve eksploderer med problemstørrelsen. Maskinoversettelse viste seg mye vanskeligere enn ventet, og en kritikk av enkle perseptroner fikk forskningen på nevrale nett til å stoppe opp.

Ekspertsystemer. Svaret ble å legge inn mye kunnskap om ett fagområde. Et ekspertsystem (expert system) brukte hundrevis eller tusenvis av regler fra eksperter, og på 1980-tallet sparte slike systemer industrien for store beløp. Men reglene måtte skrives for hånd, de var vanskelige å vedlikeholde, og systemene sviktet utenfor sitt smale område. Etter 1987 fulgte en KI-vinter (AI winter).

Nevrale nett tilbake. Midt på 1980-tallet ble tilbakepropagering gjenoppdaget, og nett med flere lag kunne trenes. Sannsynlighet og læring. Faget ble mer eksperimentelt: metoder ble testet på felles datasett, og usikkerhet ble håndtert med sannsynlighet, for eksempel i bayesianske nett, i stedet for med håndskrevne regler.

Store data og dyp læring. Store datasett gjorde at enkle læringsalgoritmer slo håndlagde metoder. I 2012 vant et dypt konvolusjonsnett en stor konkurranse i bildegjenkjenning med god margin, og dyp læring (deep learning) spredte seg raskt til tale, oversettelse og spill. Fra 2022 ble store språkmodeller som skriver tekst og kode, allemannseie.

KI er i dag en del av hverdagen. Talegjenkjenning og maskinoversettelse brukes daglig av svært mange mennesker, selvkjørende biler har kjørt millioner av kilometer i vanlig trafikk, og i 2016 slo et program en av verdens beste spillere i go. I medisin finner modeller tegn på sykdom i bilder omtrent like godt som spesialister, og modeller som forutsier hvordan proteiner folder seg, har endret biologien.

Det som drev utviklingen etter 2011, var tre ting samtidig: store datasett, rask parallell maskinvare og dype nevrale nett som kunne utnytte begge. Ingen av dem var nye hver for seg, men sammen gjorde de metoder fra 1980-tallet langt mer brukbare.

Nytten er like konkret som risikoen. KI kan gjøre diagnoser billigere og mer tilgjengelige, finne nye materialer og medisiner raskere, gjøre transport tryggere og ta over farlig og ensformig arbeid. Hvor stor nytten blir, avhenger av hvordan teknologien styres: hvem som eier systemene, hvordan de testes, og hvem som har ansvaret når de gjør feil.

Den samme teknologien kan misbrukes eller slå feil ut. Autonome våpen kan velge mål selv, overvåking og målrettet påvirkning kan skje i stor skala, og beslutningssystemer kan videreføre skjevhet fra dataene de er trent på. Arbeidslivet kan endre seg raskere enn folk rekker å omstille seg, og i biler og medisinsk utstyr må vi kunne stole på at systemet oppfører seg trygt også i situasjoner det ikke er trent på.

På lengre sikt peker mange forskere på kontrollproblemet: et system som er dyktigere enn oss og optimerer et feil mål, blir vanskelig å korrigere. Det er verdijusteringsproblemet i sin mest alvorlige form. En foreslått vei ut er å ikke gi agenten et fast mål i det hele tatt, men la den lære hva vi vil, av det vi gjør og sier. En agent som vet at den kan ha misforstått oss, har god grunn til å sjekke med et menneske før et stort inngrep. Den har heller ingen grunn til å hindre at vi stopper den, for at noen trykker på stoppknappen, er nettopp et tegn på at den har tatt feil.