De spørgsmål vi arbejder med, og de holdninger vi indtager.
Kunstig intelligens er denne tids definerende teknologi. Spørgsmålene om, hvordan den bygges, anvendes og forvaltes, vil forme årtier. Denne side beskriver de udfordringer, vi arbejder med, de holdninger, vi indtager, og de rammeværker, vi engagerer os i.
Seks spørgsmål, som AI-samtalen samles om.
Disse er ikke unikke for os. Det er de spørgsmål, som internationale institutioner, nonprofitorganisationer, regulatorer og forskere arbejder med. Vi navngiver dem her i klart sprog, fordi halvdelen af problemet er at kunne tale om dem klart.
-
Alignment og sikkerhed
AI-systemer skal gøre, hvad deres brugere og den bredere offentlighed faktisk ønsker, at de skal gøre, og de skal fejle på måder, der er sikre, gendannelige og synlige. Den sværeste del af alignment er ikke teknisk. Det er politikken om, hvem der får lov til at definere, hvad vi ønsker.
-
Gennemsigtighed og forklarbarhed
Når et AI-system træffer en betydningsfuld beslutning om en person, skal personen og deres talsmænd kunne forstå, sætte spørgsmålstegn ved og anfægte den beslutning. Black-box-systemer i højrisiko-sammenhænge er en governance-fejl, ikke en teknisk uundgåelighed.
-
AI-dannelse som offentligt gode
Evnen til at forstå, hvad AI er, hvad det kan, hvor det fejler, og hvordan man bruger det godt, er ved at blive en forudsætning for handlekraft i et samfund, hvor beslutninger i stigende grad er medieret af maskiner. Under artikel 4 i EU's AI-forordning er det også ved at blive et lovkrav. Vi behandler AI-dannelse på samme måde, som det 20. århundrede behandlede læsefærdighed.
-
Asymmetrien om sædet
Det meste AI er designet af udviklere, der ser ned gennem deres produkters tragt. De mennesker, AI berører, herunder ansøgere, klagere, patienter, fordrevne familier og frontmedarbejdere, har ingen plads ved bordet, hvor systemet bygges. Vi arbejder med den asymmetri.
-
Udrulning i højrisiko-sammenhænge
AI, der bruges i asyl, sundhed, uddannelse, offentlige tjenester, social beskyttelse og migration, opererer i sammenhænge, hvor fejl skader menneskelig værdighed på reelle og nogle gange uoprettelige måder. Standarden for udrulning i disse sammenhænge kan ikke være den samme som for reklame eller underholdning.
-
Koncentration af kapacitet
Fordelene ved AI bør ikke kun tilfalde de største virksomheder, de mest tekniske eksperter og de rigeste institutioner. De bør forstås, betvivles, formes og bruges af almindelige mennesker og almindelige organisationer.
Vores holdninger til hver af disse udfordringer.
Køreplanen nedenfor er foreningens arbejdsholdning. Det er den forpligtelse, vi er ansvarlige for i det arbejde, vi udfører.
-
Om alignment og sikkerhed
Vi støtter alignment-forskning og de ansvarlige skaleringsforpligtelser, der opstår i feltet. Inden for vores arbejdsområde vil vi ikke godkende, uddanne i eller indgå partnerskaber om udrulning af AI-systemer i højrisiko-sammenhænge uden eksplicit menneskeligt tilsyn, ansvarlighed for resultater og evnen til at gendanne efter fejl.
-
Om gennemsigtighed
Hvert AI-værktøj, vi gennemgår for en partnerorganisation, vurderes på kvaliteten af dets forklarbarhed. Hver offentlig vejledning, vi udgiver, er skrevet i klart sprog, på engelsk og dansk, med kildeangivelser. Vi holder os til den samme standard for gennemsigtighed, vi forventer af andre.
-
Om AI-dannelse
Vi forpligter os til at gøre AI-dannelse gratis tilgængelig for vores prioriterede målgrupper: danske nonprofitorganisationer, skoler, klinikker, offentlige medarbejdere, små virksomheder og missionsdrevne organisationer. Vi arbejder på at oversætte forpligtelsen i artikel 4 i EU's AI-forordning til noget, organisationer faktisk kan gøre.
-
Om hvem der har en plads ved bordet
Gennem vores offentlige arbejde, vores forskning og vores partnerskaber bringer vi perspektiverne fra frontmedarbejdere, nonprofit- og fællesskabsledere og de mennesker, AI udrulles på, ind i de rum, hvor AI-systemer og -politikker designes.
-
Om udrulning i højrisiko-sammenhænge
Vi afviser operationel støtte til brug af AI til overvågning af mennesker, der ikke nemt kan forsvare sig selv, til automatiske afgørelser om asyl eller grundlæggende rettigheder, til våbensystemer og til manipulation af offentlig information. Disse grænser er skrevet ind i vores vedtægter og kræver en høj tærskel for ændring.
-
Om koncentration
Vi forpligter os til at udgive vores forskning, vores værktøjsgennemgange og vores undervisningsmaterialer som åbne offentlige goder, hvor det er juridisk og etisk muligt. Vi arbejder på at forhindre, at AI-dannelse bliver endnu en skillelinje mellem dem med adgang og dem uden.
Aligneret med de største rammeværker for ansvarlig AI. Specifik i vores bidrag.
Foreningens arbejde er en del af en bredere samtale. Vi engagerer os i de største internationale rammeværker og reguleringer, der former ansvarlig AI: EU's AI-forordning, persondataforordningen (GDPR), OECD's AI-principper, UNESCO's anbefaling om AI-etik og Europarådets konvention om kunstig intelligens.
Vores bidrag er at bringe disse forpligtelser ind i en specifik kontekst: dansk civilsamfund, den offentlige sektor, små og mellemstore organisationer og de fællesskaber, der berøres mest af AI-udrulning. Vi oversætter brede principper til praktiske, brugbare forpligtelser for organisationer og mennesker, der ikke har direkte adgang til de rum, hvor standarderne skrives.
"Vi har ikke til hensigt at gentage de store institutioners arbejde. Vi har til hensigt at oversætte det til noget, som de, der er nedstrøms for det, kan bruge."
Hvad dette ser ud som i praksis.
Køreplanen ovenfor bliver til arbejde. Arbejdet er det, vi gør.