Ny ISO/IEC 42001-standard skal hjælpe med at opbygge tillid til AI

Efter tre års udvikling nærmer den nye standard for ledelsessystemer sig de sidste faser. ISO/IEC 42001 er tænkt som en integreret del af at forbedre styringen og ansvarligheden af kunstig intelligens globalt.

Med den accelererende udbredelse af og interesse for kunstig intelligens (AI) har der været en stærk efterspørgsel efter en metode til at styre brugen og anvendelsen af den. ISO/IEC 42001-standarden er resultatet af denne efterspørgsel. Dens udvikling har involveret eksperter fra over 50 lande og en periode med offentlig høring, før det første udkast blev offentliggjort i november 2022. Den kan bruges af enhver størrelse eller type organisation, der har til hensigt at gøre brug af AI til at udvikle eller levere sine produkter og tjenester.

"Kunstig intelligens giver uendelige fordele for både samfund og virksomheder, men for at sikre tilliden til kunstig intelligens kræver det en sikker og etisk anvendelse af teknologien," siger Nanda kumar Shamanna, Global ICT Scheme Manager i DNV. 

Som ledelsessystemstandard deler ISO/IEC 42001 flere nøgleelementer med andre standarder som ISO 9001 for kvalitetsledelse og ISO 27001 for informationssikkerhed. Standarderne giver bedste praksis, regler, definitioner eller vejledning, der bruges til at designe og fremstille produkter eller implementere processer til at styre risici og operationelle aspekter.  Og de kan nemt integreres med andre ledelsessystemstandarder.

Formålene med ISO/IEC 42001 kan opsummeres som følger: 

• Fremme udviklingen og brugen af AI-systemer, der er troværdige, gennemsigtige og ansvarlige.
• At lægge vægt på etiske principper og værdier som retfærdighed, ikke-diskrimination og respekt for privatlivets fred, når AI-systemer implementeres, så de lever op til interessenternes forventninger.
• Hjælpe organisationer med at identificere og begrænse risici i forbindelse med implementering af AI, hvilket igen forbedrer effektiviteten og reducerer omkostningerne. 
• Overholdelse af lovgivningen, herunder krav til databeskyttelse.
• Opbygge større tillid til AI ledelse ved at opfordre organisationer til at prioritere menneskelig trivsel, sikkerhed og brugeroplevelse i AI design og -implementering.
• Forbedre sit omdømme, da organisationer, der overholder ISO 42001, får en konkurrencemæssig fordel og ses som førende inden for etisk AI.

"ISO/IEC 42001 er den første internationale ledelsessystemstandard for AI og vil blive afgørende for at hjælpe virksomheder med at håndtere risici og sikker implementering, hvilket fremmer tilliden til dens interessenter som f.eks. patienter på et hospital," siger Nanda Kumar Shamanna i DNV.