Pålitelig KI skjer ikke av seg selv
Jeg deler Bengios bekymring for misbruk av KI. I motsetning til det Ness og Raabe hevder, dedikerer jeg min forskning til å bygge KI som er fundamentalt mer pålitelig, tryggere, bærekraftig og inkluderende. Som leder av Integreat, Norsk senter for kunnskapsdrevet maskinlæring, tar vi ikke bare til orde for pålitelig KI-utvikling; vi implementerer den aktivt. Ved å integrere eksisterende domenekunnskap i KI-modeller, oppnår vi større kontroll og bedre evne til kritisk vurdering.
Konkrete løsninger
Vi utvikler algoritmer som forutsi effekten av kreftbehandling for pasienter; modeller forankret i cellebiologi, genetikk og matematiske ligninger, så at onkologer kan ha større tillit til de algoritmisk baserte anbefalingene. Vi foreslår ny metodikk for etisk trening av språkmodeller, og vi utvikler teknikker for å generere syntetiske data som beskytter personvernet. Ved Integreat bidrar vi aktivt til den nye typen pålitelig KI Bengio ser for seg.
TRUST er i Bengios ånd
Vi har nylig lansert TRUST – Norwegian Centre for Trustworthy AI, finansiert av regjeringens KI- milliard, sammen med 70 forskningspartnere og private/offentlige aktører. TRUST muliggjør KI-systemer som er nøyaktige, inkluderende, rettferdige, trygge, bærekraftige og velfungerende. Ved å samle ekspertise fra beregningsvitenskap, juss, samfunnsvitenskap og filosofi, etablerer TRUST nye rammeverk og tester resultater i reelle utfordringer på tvers av sektorer som helse, mobilitet og klima. Forskningen spenner fra kausal KI og ansvarlig usikkerhetskvantifisering til generativ KI. Vi tar opp kritiske operasjonelle utfordringer som sikker KI, undersøker de samfunnsmessige konsekvensene av KI og utvikler nye modeller for KI-styring. Vi starter arbeidet nå, i Bengios ånd.
Den virkelige trusselen: KI som styres av kapitalinteresser
Jeg deler bekymringen for at KI kan misbrukes til kriminelle eller udemokratiske formål. Juridiske, organisatoriske og teknologiske instrumenter må utvikles for å beskytte oss. At KI er nyttig i forskning er også velkjent. AlphaEvolve, den evolusjonære kodeagenten kan løse matematiske problemer og produsere algoritmer bedre enn mennesker. Jeg finner dette spennende, ikke skremmende: vår utfordring er å lære å bruke dette verktøyet til beste for menneskeheten.
Ness og Raabe frykter at KI kommer ute av kontroll. Jeg er langt mer bekymret for den KI-en som er i kontroll – systemene som utvikles for å maksimere avkastning for risikokapital. Vi må demokratisere produksjonen av KI, sørge for at den tjener allmennheten og følger den nordiske modellen. Dette er en krevende kamp mellom privat, profittdrevet KI og åpen KI rettet mot det felles beste. Det er viktig å sette alarmene der det haster mest, og ikke der de distraherer.
KI-milliarden er en reell satsing
Ness og Raabe klager over at milliarden til KI-forskning er utilstrekkelig. Jeg mener dette er en betydelig satsing av skattepenger over fem år. Det vil direkte gi viktige resultater, og generere nye ideer og entusiasme. I mellomtiden fortsetter vi vårt arbeid.
Arnoldo Frigessi, professor Universitetet i Oslo
TRUST - Norsk senter for pålitelig KI
Integreat - Norsk senter for kunnskapsdrevet maskinlæring