AI-forskaren Max Tegmark fick i samband med sitt sommarprat gott om plats för att sprida oro och dysterhet kring AI:s roll för mänskligheten. Det bidrar knappast till utvecklingen.

Sommar i P1 erbjöd som vanligt ett antal spännande samtidskommentarer. Och ett av årets hetaste frågor, artificiell intelligens, AI, fanns såklart med genom forskaren från MIT, Max Tegmark, som pratade den 1 augusti.

Det var ett dystert program på många sätt. Max Tegmark utesluter inte att AI-systemen kan komma att ta kål på mänskligheten inom en överskådlig tid. Det sägs kanske inte rakt ut i programmet, men hotbilderna många, pessimismen är påtaglig. Riskerna med att AI-systemen kommer i fel händer och att de blir självspelande system som av bara farten tar kål på mänskligheten är några av undergångsscenarierna.

Själv blev jag besviken på hans sommarprat. Jag har minst två invändningar.

För det första: vi gör klokt i att möta framtidens stora utmaningar med optimism och hopp – även om det kan vara svårt. Hopplöshet leder till handlingsförlamning. Klimatförändringarna, är ett minst lika konkret och stort hot mot mänskligt liv som AI-frågan. Men ska vi lyckas hantera klimatförändringarna måste vi hitta vägar framåt, våga tro på framtiden. Tankar om hur vi klokt kan nyttja AI-tekniken framåt skulle se ut lyste med sin frånvaro i Max Tegmarks sommar-prat. Och en ansvarstagande forskare, med så djup kunskap om frågan som Max Tegmark, bör bidra till lösningar – inte bara peka på problem.

För det andra: jag tror att han har fel i sak. Låt mig skissa på några perspektiv som för mig leder till en annan slutsats om AI-utvecklingen.

Ett av Max Tegmarks underångsscenario är att AI-systemen kan uppfinna nya och hittills okända kemiska och biologiska vapen som kan förgöra mänskligheten. Men om AI-systemen kan hitta på undergångsvapen – varför kan inte samma system användas för att möta dessa hot?

Max Tegmark noterar också att dagens AI-system blivit extremt bra på språk och språkmodeller. Han oroar sig för att hans son, som inte har lärt sig språket lika snabbt som ett AI-system, inte ska få jobb och ständigt bli utkonkurrerad av olika AI-system. Tegmark drar slutsatsen att AI-systemet alltid kommer att ligga långt före sonen i språkförmåga eftersom den kan lära sig så snabbt. Men det är ju varken sant eller relevant. Språk handlar om kommunikation mellan två (eller flera) – inte vad någon enskild kan. Att vara bra på kommunikation handlar om att få en mottagare att förstå något, inte att själv kunna formulera smarta svar som ingen begriper. Max Tegmarks son behöver inte lära sig fler ord än ett AI-system: de flesta ord som finns i en ordbok är det ändå ingen som begriper. Vad Max Tegmarks son behöver lära sig är att lyssna, reflektera, ha empati, förstå sammanhang och svara med omtanke.

Max Tegmark fastnar också i de mål och uppgifter som ett AI-system ska lösa. ”Ta mig snabbast möjligt till Arlanda”, är ett av hans uppenbart triviala exempel. Med så enkla utmaningar är det klart att även svaren kan bli väldigt yxiga. Men tar man så banala exempel, så blir hela frågan banaliserad. Det är för mig självklart att ett väl fungerande AI-system tar hänsyn till komfort, till trafikregler och till miljöaspekter.

Slutligen: Max Tegmark återkommer till begreppet ”superintelligens” och tanken på att AI-systemen skulle vara överlägsna människan för att de är mer ”intelligenta”. Men så är det ju inte alls. Excel är såklart snabbare än varje människa på att räkna. Men det betyder inte att Excel är en bättre matematiker. Och viktigare ändå: att vara människa handlar inte om att vara bäst på att snabbast lösa problem. Max Tegmark närmar sig denna fråga på slutet, där han pratar om ”syfte och mening” (men jämför märkligt nog med djur i en djurpark). Han pratar om ”subjektiv upplevelse”, där han kommer in på känslor och medvetande.

Hade Max Tegmark lyssnat på sig själv (”Vi har hakat upp oss på vår intelligens, och inte på vårt medvetande. Vi har grundat vår identitet på den”) hade han insett att begreppet ”intelligens” inte kommer att kunna bygga våra nya samhällen. Det krävs mycket mer – kanske framför allt något annat.

Max Tegmark kallar detta andra för förmågan att uppleva saker. Hade han fortsatt dialogen om AI där han nu slutade i sitt ”Sommar i P1” hade detta kunnat bli mycket intressant. Men Max Tegmark ser våra liv som tekniska problem som behöver lösas. Och om det är ett tekniskt problem som ska lösas, ja då kanske ett AI-system kan göra det åt oss.

Men goda samhällen är inte i första hand tekniska problem. De byggs av kulturer, av många mänskliga projekt, av initiativ, av mångfald, av misstag och framgångar.

Artificiell ingelligens rymmer en lång rad utmaningar i stort och smått. Det finns rejäla utmaningar som vi måste ta på stort allvar. Men tre saker är jag övertygad om. För det första att tekniken i lika stor utsträckning kan vara ett verktyg för gott som för ont. För det andra att mänskligheten kommer att ha möjlighet att påverka och styra utvecklingen, även av våra tekniska lösningar. Och, slutligen, för det tredje att ett samhälle är så oändligt mycket mer än bara enskilda tekniska lösningar – hur ”intelligenta” de än är.