一本道

Den allt mer intensiva samh盲llsdebatten om AI speglar v盲xande krav p氓 att teknikens potential ska f枚rverkligas i samklang med h氓llbarhet, s盲kerhet och demokratiska v盲rderingar. Forskningen om AI vid Link枚pings universitet sp盲nner 枚ver ett stort antal 盲mnen och discipliner och pr盲glas av tv盲rvetenskapliga metoder. Det bidrar till starka forskningsmilj枚er och forskningsresultat med h枚g samh盲llsrelevans. D盲rf枚r samlade universitets Centrum f枚r h氓llbarhetsomst盲llning (LiUST) och profilomr氓det Visuella digitala framtider nyligen forskare fr氓n 氓 ena sidan datavetenskap, maskininl盲rning och fysik, och 氓 andra sidan medie- och kulturvetenskap och samh盲llsvetenskaplig h氓llbarhetsforskning, f枚r tv盲rvetenskapliga samtal om framtidens h氓llbara AI-system.

Styrning och ansvarstagande

Forskarna efterlyser en mer ansvarstagande h氓llning, b盲ttre politisk styrning och fokus p氓 l氓ngsiktig h氓llbarhet:
- AI rymmer en enorm potential, men tekniken m氓ste anv盲ndas f枚r m盲nsklighetens b盲sta. D氓 kan vi p氓 allvar n氓 stora framsteg inom till exempel medicin eller f枚r arbetstidsf枚rkortning, menar Bj枚rn Alling, professor i teoretisk fysik och bitr盲dande f枚rest氓ndare f枚r NAISS, Nationell akademisk infrastruktur f枚r superdatorer i Sverige.

Per Wistbo Nibell

Marie Francisco, postdoktor vid Tema Milj枚f枚r盲ndring听som bedriver forskning om AI-styrning, pekar p氓 att EU beh枚ver ta en mycket mer aktiv roll som lagstiftare:
- EU kan spela en viktig roll genom att st盲lla krav p氓 ansvarsfull och etisk AI. Med tydligare regler kan inte f枚retag utan tillr盲ckliga skyddsmekanismer verka p氓 den europeiska marknaden, p氓pekar hon.
- Faktum 盲r att idag saknas egentlig styrning av AI. Allt annat i v氓rt samh盲lle 盲r styrt p氓 n氓got s盲tt, det 盲r ju politikens uppgift, forts盲tter Marie Francisco. Vi m氓ste 枚ka kraven p氓 politiker och andra samh盲llsakt枚rer att de deltar i diskussionen om vilken typ av AI vi vill ha, och vilken AI som kanske b枚r v盲nta. Beslut om s盲kerhet och risker kan inte enbart l盲mnas till utvecklarna, menar hon, och efterlyser oberoende grupper av AI-experter som kan bidra med v盲gledning utan ekonomiska incitament.

Idag saknas egentlig styrning av AI, trots att allt annat i v氓rt samh盲lle 盲r styrt p氓 n氓got s盲tt.

Synligg枚ra AI:s klimatavtryck

Ett fundamentalt steg f枚r att minska AI:s klimatavtryck 盲r att f枚rst氓 och identifiera just detta klimatavtryck:
- H氓llbar AI handlar inte om effektivitet, utan om ansvar, menar Sebastian Mair, bitr盲dande universitetslektor vid avdelningen f枚r Statistik och maskininl盲rning vid Institutionen f枚r datavetenskap. Idag kan en doktorand ange sin AI-modells noggrannhet med tre decimalers precision, men inte vad det kostade att utveckla den i form av resurs氓tg氓ng.

Per Wistbo Nibell

Hans forskning visar hur olika typer av datareduktion (minskande av m盲ngden data) kan l盲gga grunden f枚r en mer h氓llbar maskininl盲rning. Det kan handla om att anv盲nda mindre men mer representativa urval av tr盲ningsdata, mer effektiva tr盲ningsmetoder eller att f枚r盲ndra s盲ttet som modeller utvecklas p氓. F枚r honom 盲r 枚kad transparens en viktig del av l枚sningen, genom att b氓de forskare och utvecklare beh枚ver bli b盲ttre p氓 att m盲ta och redovisa de resurser som anv盲nds b氓de f枚r tr盲ning och daglig anv盲ndning av AI-system: - Jag skulle vilja att forskningsber盲kningar och experiment som bygger p氓 AI automatiskt monitorerar energianv盲ndning och utsl盲pp, helst som en integrerad del av sj盲lva ber盲kningsinfrastrukturen, menar Sebastian Mair. P氓 samma s盲tt som produkter kan milj枚m盲rkas borde vi enkelt kunna se vilket klimatavtryck olika ber盲kningar har.

Vad 盲r ett h氓llbart AI-system?

Men vad 盲r d氓 ett h氓llbart AI-system? AI:s energif枚rbrukning har f氓tt stor uppm盲rksamhet de senaste 氓ren, men forskarna 盲r eniga om att h氓llbarhet inte kan reduceras till enbart en fr氓ga om elf枚rbrukning.

Miriah Meyer, professor och ansvarig kontaktperson f枚r profilomr氓det Visuella Digitala Framtider, konstaterar att nyhetsfl枚det kring AI varit ovanligt dramatiskt nyligen. Media har rapporterat om ett grundl盲ggande vetenskapligt genombrott inom matematik, och om att motst氓ndet i USA mot nya datacenter 枚kar. Inte minst har det varit en intensiv debatt om s盲kerhetsriskerna kring AI, utifr氓n att tv氓 forskare knutna till Anthropic varnat f枚r att den accelererande utvecklingen mot sj盲lvf枚rb盲ttrande AI kan komma att utg枚ra ett hot mot m盲nsklighetens existens, och Anthropics VD Dario Amodei kr盲vt att takten i AI-utvecklingen saktas ner:
- M氓nga m盲nniskor k盲nner sig maktl枚sa inf枚r de stora teknikf枚retagen, menar Miriah Meyer. Genom att diskutera b氓de potentialen och utmaningarna kring AI i tv盲rvetenskapliga forum kan vi b盲ttre unders枚ka vilka alternativ som finns och vilka v盲rderingar som b枚r v盲gleda AI-utvecklingen fram枚ver.

Vi beh枚ver best盲mma vilka v盲rderingar som ska v盲gleda AI-utvecklingen.

Per Wistbo Nibell

Med utg氓ngspunkt i Brundtlandrapportens klassiska definition av h氓llbar utveckling, att m枚ta dagens behov utan att 盲ventyra kommande generationers m枚jligheter att m枚ta sina, 盲r forskarna eniga om att det 盲r m氓nga aspekter som avg枚r om ett AI-system 盲r h氓llbart eller inte. Marie Francisco betonar att h氓llbar AI ocks氓 handlar om resursanv盲ndning och sociala konsekvenser:
- Ett h氓llbart AI-system m氓ste ocks氓 vara etiskt. Vi beh枚ver fr氓ga oss hur m盲nniskor och lokalsamh盲llen p氓verkas.

Julia Velkova, professor vid Institutionen f枚r kultur och samh盲lle, har forskat om datacenter under mer 盲n tio 氓r. Nu varnar hon f枚r att i alltf枚r stor utstr盲ckning f枚renkla debatten om de komplexa AI-fr氓gorna, genom att till exempel reducera h氓llbarhet till en simpel checklista:
- Vi beh枚ver inkludera tidsaspekten n盲r vi diskuterar h氓llbarhet i tekniska system. Teknologier f枚r盲ndras hela tiden, och det inneb盲r att definitionen av h氓llbarhet ocks氓 盲r i st盲ndig f枚r盲ndring, menar hon.

听

Per Wistbo Nibell

Kan AI vara h氓llbart om det orsakar negativa sociala konsekvenser?

Julia Velkova vill d盲rf枚r se ett bredare perspektiv p氓 AI och h氓llbarhet. I st盲llet f枚r att enbart fokusera p氓 kunskapen om de tekniska systemen beh枚ver forskningen ocks氓 handla om m盲nniskorna och platserna som p氓verkas av den v盲xande infrastrukturen. Hon pekar p氓 exempel d盲r etableringar av datacenter beskrivs som h氓llbara investeringar samtidigt som de f氓r negativa milj枚m盲ssiga eller sociala konsekvenser f枚r m盲nniskorna i n盲romr氓det:
- Vi ser ofta att politiker alldeles f枚r l盲ttvindigt ger f枚r omfattande l枚ften till de stora tech-bolagen. Det har skett i till exempel Ragunda, d盲r etableringen av ett stort vindkraftspark finansierad av Google gav Google gr枚na kreditpo盲ng, men f枚rst枚rde n盲rmilj枚n f枚r inv氓narna och en viktig del av flera samebyars vinterrenbetesmarker. Det visar att vi forskare ibland m氓ste byta glas枚gon: fr氓n att studera system till att se hur m盲nniskor och platser p氓verkas. Fr氓n att enbart beskriva vinsterna, till att ocks氓 f枚rst氓 f枚rlusterna.

Enligt Julia Velkova kan alternativa begrepp som livskvalitet och m枚jligheten att leva ett gott liv ibland ge en mer relevant utg氓ngspunkt 盲n h氓llbarhet som ett allm盲nt samlingsbegrepp.

Ingen av forskarna ser uppenbara existentiella risker av den typ som debatterats i media under de senaste veckorna. Men Bj枚rn Alling ser en uppenbar risk om eller n盲r den typen av cyberattacker som initierats och genomf枚rts av AI-agenter mot t ex Hugging Face kombineras med fysiska vapen:

F枚r cyberattacker kan vi inf枚ra skydds氓tg盲rder. Men om vi l盲gger till fysiska vapen i ekvationen skulle vi hamna i ett mycket allvarligt l盲ge.

Skala upp Europas AI-infrastruktur

Per Wistbo Nibell

En annan aspekt p氓 h氓llbarhet 盲r hur vi kan minska beroendet av AI-infrastruktur som utvecklas och kontrolleras av stora amerikanska teknikf枚retag, och till stor del drivs med fossil energi, genom att bygga ut Europas egen infrastruktur och egna AI-modeller. Bj枚rn Alling menar att Europa redan har mycket av den kompetens och infrastruktur som kr盲vs f枚r att st盲rka sin sj盲lvst盲ndighet: - Vi kommer sannolikt inte att konkurrera ut de st枚rsta amerikanska teknikf枚retagen. Men vi kan bygga grundl盲ggande europeiska och svenska AI-system och minska beroendet av ett f氓tal kommersiella plattformar, understryker han.

听