I henhold til nederlandsk og europeisk lov kan ikke en algoritme være strafferettslig ansvarlig. Strafferettslig ansvar krever en gjerningsmann som loven anerkjenner som en person, og art. 51 Sr utvider denne statusen kun til fysiske personer og juridiske personer. Et AI-system er et objekt, ikke en mistenkt. Spørsmålet som er viktig i praksis er derfor ikke om algoritmen er delvis ansvarlig, men hvilket menneske eller hvilket selskap som er helt ansvarlig for det den gjorde.
Det spørsmålet har allerede et velutviklet svar i nederlandsk strafferett. Doktrinene om funksjonell gjerning (functioneel daderschap) og strafferettslig ansvar for selskaper ble utviklet for nettopp denne situasjonen: skade forårsaket av et instrument, en organisasjon eller en prosess snarere enn av tiltaltes egne hender. Denne artikkelen beskriver hvordan disse doktrinene gjelder for AI, hvordan EUs AI-lov endrer standarden for omsorg, hvordan algoritmisk utdata behandles som bevis, og hvordan et forsvars- og et samsvarsprogram bør se ut. For det bredere spørsmålet om å fordele ansvar på tvers av en forsyningskjede av utviklere, leverandører og brukere, se vår tilhørende artikkel om hvem som er ansvarlig når en maskin begår en forbrytelse.
Hvorfor en algoritme ikke kan være mistenkt
En straffbar handling i henhold til nederlandsk lov krever en menneskelig handling eller unnlatelse som passer den lovbestemte definisjonen av en lovbrudd, som er ulovlig, og som kan bebreides gjerningsmannen. Hvert av disse elementene forutsetter en aktør med en vilje. En algoritme produserer output ved å kjøre kode på data; den har ingen vilje til å danne seg, ingenting å bebreides for, og ingenting som en strafferettslig sanksjon kan nå. Art. 51 Sr ga plass til selskapet ved siden av individet nettopp fordi et selskap handler gjennom mennesker; det finnes ingen sammenlignbar bestemmelse for programvare, og å opprette en ville kreve at lovgiver oppfant en ny kategori av juridisk person.
Det ville heller ikke tjene noe formål som straffeloven anerkjenner. En dom eksisterer for å straffe, avskrekke og, der det er mulig, korrigere. Ingen av disse funksjonene kan utføres på en modell. Å slette vektene til et nevralt nettverk straffer eieren, ikke nettverket. Alt strafferetten ønsker å oppnå når et AI-system forårsaker skade, må oppnås gjennom menneskene og organisasjonene bak det, og det er derfor nederlandsk praksis ikke behandler dette som et hull i loven.
Tabellen nedenfor viser avviket mellom elementene i en straffbar handling og hva et AI-system faktisk er.
| Element | Hva straffeloven krever | Plasseringen av et AI-system |
|---|---|---|
| En gjerningsmann | En fysisk person, eller en juridisk person i henhold til art. 51 Sr. | Ingen av delene. Systemet er et objekt som eies og drives av noen andre. |
| En oppførsel | En handling eller en skyldig unnlatelse som kan tilskrives gjerningsmannen. | En utdata produsert av kode. Den tilskrivbare handlingen er beslutningen om å bygge, distribuere eller la den kjøre. |
| Forsett eller uaktsomhet | Opzet, inkludert betinget forsett, eller culpa i betydningen vesentlig uaktsomhet. | Ingen mental tilstand i det hele tatt. Forsett og uaktsomhet finnes, om noe sted, hos menneskene som konfigurerte og overvåket det. |
| En sanksjon | Fengsel, bot, samfunnsstraff eller tiltak. | Ingen av disse kan ilegges programvare. Operatøren ilegges sanksjoner. |
Hvem er ansvarlig i stedet: funksjonell forbrytelse og art. 51 Sr
Nederlandsk strafferett har to mekanismer for å holde noen ansvarlig for handlinger de ikke fysisk utførte. Begge ble utviklet lenge før maskinlæring eksisterte, og begge passer inn i AI-tilfeller uten modifikasjoner.
Funksjonell gjerning
Functioneel vaderschap tillater at en person anses som gjerningsmannen til en lovbrudd som fysisk ble utført av noen eller noe annet. Kriteriene Hoge Raad formulerte i IJzerdraad-dommen er fortsatt testen: tiltalte må ha hatt makt til å avgjøre om handlingen fant sted (beschikken), og må ha akseptert den, eller ha vanemessig akseptert handling av den typen (aanvaarden).
Anvendt på et AI-system, er det første kriteriet vanligvis enkelt, og det andre avgjør saken. Avgjørelsesevne vises ved evnen til å konfigurere systemet, sette driftsgrenser, oppdatere eller omskolere det, og fremfor alt slå det av. Svært få operatører kan troverdig si at de manglet denne evnen. Aksept er det vanskeligere spørsmålet, og det er der bevisene går: hva visste operatøren om systemets feilmoduser, hva ble rapportert ved testing eller ved tidligere hendelser, hva sa risikovurderingen, og hva ble gjort med det. Aksept krever ikke et ønske om utfallet. Det er nok at operatøren bevisst aksepterte en betydelig risiko, som er den vanlige nederlandske standarden for betinget hensikt (voorwaardelijk opzet).
Selskapsansvar og faktisk lederskap
Der operatøren er et selskap, gjelder art. 51 Sr. Lovbruddet kan tilskrives den juridiske personen der handlingen fant sted innenfor dens område, noe Hoge Raad har forklart gjennom faktorene som er angitt i Drijfmest-dommen: handlingen ble utført av noen som jobbet for selskapet, den passer inn i dens normale virksomhet, den var nyttig for selskapet, og selskapet var i stand til å avgjøre om den fant sted og aksepterte, eller vanligvis aksepterte, slik handling. Et AI-system som brukes av et selskap for å utføre sitt arbeid, oppfyller per definisjon mesteparten av denne listen.
Art. 51 Sr tillater også straffeforfølgelse av de som beordret lovbruddet og de som ga faktisk ledelse av det (feitelijk leidinggeven). Dette er bestemmelsen som når direktører og toppledere personlig. Den krever mer enn en plass i organisasjonskartet: personen må ha vært klar over den forbudte handlingen, i det minste i den forstand at de har akseptert en betydelig sjanse for at den fant sted, og må ha unnlatt å iverksette tiltak de var kompetente og rimelig forpliktet til å iverksette. I en KI-sak oversettes dette direkte til bevis for hvem som mottok modellvalideringsrapporten, hvem som signerte utrullingen, og hvem som bestemte at en kjent skjevhet eller feilrate var akseptabel.
Uaktsomhetslovbrudd gjør mesteparten av jobben
I praksis er det langt mer sannsynlig at straffeforfølgelse som involverer automatiserte systemer bygges på uaktsomhet enn på forsett. Der et AI-drevet kjøretøy, en maskin eller et medisinsk utstyr forårsaker død, er den relevante lovbruddet å forårsake død ved uaktsomhet i henhold til art. 307 Sr.; der det forårsaker alvorlig skade, art. 308 Sr. Culpa i nederlandsk strafferett betyr betydelig uaktsomhet, vurdert opp mot hva en rimelig operatør i den posisjonen burde ha gjort. Det er nettopp det grunnlaget en AI-sak vil bli kjempet på, fordi standarden for aktsomhet for utplassering av et automatisert system i økende grad er skrevet ned: i AI-loven, i sektorregulering, i tekniske standarder og i operatørens egne prosedyrer. Et dokumentert avvik fra en standard som operatøren selv har vedtatt, er det sterkeste beviset på uaktsomhet som finnes.
Diskriminering er den andre tilbakevendende kategorien. Diskriminering i utøvelsen av virksomhet eller yrke er en straffbar handling i henhold til Wetboek van Strafrecht, og både forsettlige og uaktsomme varianter finnes. En modell som systematisk setter en beskyttet gruppe i ulempe er derfor ikke bare et administrativt problem i henhold til personvern- og likebehandlingsloven; i en alvorlig sak er det et strafferettslig problem. Vår veiledning til straffeprosess i Nederland forklarer hvordan en slik sak ville forløpe fra etterforskning til dom.
AI-loven setter standarden for omsorg, ikke sanksjonen
EUs lov om kunstig intelligens er en administrativ forskrift. Den skaper ikke straffbare handlinger, og den gjør ingen til mistenkt. Dens betydning for strafferettslig ansvar er indirekte og betydelig: den skriver ned, i bindende vilkår, hva en forsiktig leverandør eller distributør av et AI-system forventes å gjøre. Når en aktsomhetsstandard er kodifisert, er et avvik fra den bevis på uaktsomhet, og overholdelse av den er bevis på aktsomhet.
Loven sorterer systemer etter risiko. Et lite antall praksiser er fullstendig forbudt, inkludert sosial scoring av offentlige myndigheter, umålrettet skraping av ansiktsbilder for å bygge gjenkjenningsdatabaser, følelsesgjenkjenning på arbeidsplassen og i utdanning, og, med begrensede unntak, sanntids fjernbiometrisk identifikasjon i offentlige rom for politimyndigheter. En større gruppe klassifiseres som høy risiko, som dekker sikkerhetskomponenter i regulerte produkter og bruksområdene som er oppført i vedlegget til loven, blant annet rekruttering, kredittscoring og anvendelser innen politimyndigheter, migrasjon og rettsadministrasjon. Systemer som samhandler med mennesker eller genererer syntetisk innhold har åpenhetsplikt. Resten er i hovedsak uregulert.
Leverandør eller distributør: rollene bestemmer oppgavene
Loven fordeler forpliktelser i henhold til roller, og å få rollen feil er en av de vanligste compliance-feilene. En leverandør utvikler et system eller får det utviklet og markedsfører det under eget navn; en distributør bruker et system under egen autoritet i løpet av sin virksomhet. Leverandører har de tunge designforpliktelsene, distributører har forpliktelser til korrekt bruk, menneskelig tilsyn og overvåking. Fellen er at en distributør blir en leverandør, med alle de pliktene som følger, hvis den setter sitt eget navn på systemet, vesentlig modifiserer det, eller endrer dets tiltenkte formål på en måte som bringer det innenfor høyrisikokategoriene. Å finjustere en kjøpt modell på dine egne data, og deretter bruke den til et formål leverandøren aldri har tenkt på, kan stille flytte en organisasjon over den grensen. I en kriminell etterforskning dukker det samme skillet opp igjen i spørsmålet om hvem som hadde rådighetsmakten, og det er derfor rollene bør registreres skriftlig og gjenspeiles i kontrakten.
Hva gjelder nå
Tidsplanen har endret seg, og det er verdt å være presis om hvor den står. Forbudene mot uakseptabel risiko og forpliktelsen til å sikre KI-kompetanse gjelder allerede. Reglene for generelle KI-modeller gjelder allerede. Gjennomsiktighetsforpliktelsene i artikkel 50, inkludert plikten til å gjøre det klart at innhold er kunstig generert eller manipulert, gjelder allerede. Det som har blitt utsatt av den digitale omnibuspakken er høyrisikoregimet: forpliktelsene for systemene oppført i vedlegg III starter nå 2. desember 2027, og de for systemene som dekkes av vedlegg I 2. august 2028. Separat er det foreslåtte direktivet om KI-ansvar trukket tilbake, så sivilrettslig ansvar for KI-skade er fortsatt et spørsmål om nasjonal lov, som i Nederland betyr de ordinære reglene for erstatningsansvar og produktansvar.
Sanksjoner i henhold til loven er administrative og er satt til opptil trettifem millioner euro eller syv prosent av den totale globale årlige omsetningen, avhengig av hva som er høyest, for å delta i en forbudt praksis, med lavere tak for andre overtredelser. Tilsynet i Nederland organiseres rundt eksisterende regulatorer, med Autoriteit Persoonsgegevens og Rijksinspectie Digitale Infrastructuur i en koordinerende rolle. Våre artikler om forbudt KI-praksis og om høyrisiko-KI-systemer i henhold til KI-loven beskriver forpliktelsene i detalj, og vår oversikt over EUs KI-lov dekker rammeverket som helhet.
Hvordan en aktor vil bruke det
Tenk deg en distributør som tar i bruk et screeningverktøy uten å sjekke treningsdataene for skjevheter, uten den menneskelige tilsynsordningen som loven krever, og uten dokumentasjonen den krever. Hvis dette verktøyet deretter bidrar til et kriminelt utfall, trenger ikke aktor å argumentere ut fra grunnleggende prinsipper om hvilken aktsomhet som ble utvist. Forpliktelsene er på papiret, bruddet er dokumentert, og akseptelementet for funksjonell gjennomføring følger av beslutningen om å distribuere uansett. Det motsatte er like sant, og dette er poenget som oftest overses av styrer: et selskap som kan fremlegge sin risikovurdering, sine valideringsresultater, sin tilsynsprotokoll og sin hendelseslogg, har bygget kjernen i sitt eget forsvar før noe gikk galt.
Algoritmisk utdata som bevis
Den andre måten AI kommer inn i en strafferettssal på, er ikke som en årsak til skade, men som en beviskilde. Ansiktsgjenkjenning, automatisk nummerskiltgjenkjenning, nettverksanalyse av kommunikasjonsdata, svindelrisikomodeller, stemmesammenligning og stadig mer automatisert sortering av beslaglagte data produserer alle materiale som påtalemyndigheten ønsker å stole på. Nederlandsk straffeprosess fungerer med et lukket system av beviskategorier, og algoritmisk utdata danner ikke en egen kategori. Det når retten som en del av en offisiell rapport eller gjennom en eksperts uttalelse, og det er underlagt samme gransking som ethvert annet bevis.
Det er denne granskingen som forsvarsarbeidet konsentrerer seg om. Tre spørsmål avgjør hvilken vekt materialet kan bære. Er metoden validert, og av hvem? Under hvilke forhold svikter den, og var disse forholdene til stede? Og kan forsvaret teste den, som betyr tilgang til nok informasjon om systemet, dets treningsdata, dets feilrater og dets konfigurasjon til å iverksette en meningsfull utfordring. Et samsvar presentert som et faktum, uten feilrate og uten mulighet for verifisering, er ikke bevis som en domstol bør dømme på grunnlag av, og å si det er et legitimt og ofte effektivt forsvar.
Ekspertbevis har sitt eget rammeverk. Retten kan oppnevne en ekspert, forsvaret kan be om en, og registeret over rettseksperter eksisterer for å gi en kvalitetsterskel for feltene det dekker. Der en KI-metode faller utenfor et anerkjent felt, er det i seg selv et argument om resultatets pålitelighet. Det er også verdt å merke seg at det nye Wetboek van Strafbeoordeling, vedtatt av Eerste Kamer 24. februar 2026 og publisert i Staatsblad i mars 2026, vil tre i kraft bok for bok ved kongelig resolusjon. Inntil da gjelder gjeldende bestemmelser og artikkelnumre fortsatt.
Databeskyttelsesvinkelen
Der en avgjørelse som påvirker en person tas utelukkende ved hjelp av automatiserte metoder, gir GDPR vedkommende rett til ikke å bli utsatt for den, sammen med retten til meningsfull informasjon om logikken som er involvert. I strafferettslig håndheving gjelder de parallelle reglene i loven som implementerer politiets databeskyttelsesdirektiv. Dette har betydning i to retninger. For en mistenkt er det en rute til informasjon om et system som myndighetene kanskje foretrekker å ikke forklare. For et selskap er det å bruke automatisert beslutningstaking uten lovlig grunnlag og uten sikkerhetstiltak et regelbrudd som vil bli lest sammen med enhver kriminell anklage.
Forsvar av en sak der AI er involvert
Det instinktive forsvaret, at systemet var en svart boks og at ingen kunne ha visst hva det ville gjøre, er svakere enn det ser ut til. Det svarer på feil spørsmål. Nederlandsk strafferett spør ikke om tiltalte forutså det nøyaktige resultatet; den spør om tiltalte hadde makt til å avgjøre om handlingen fant sted og aksepterte risikoen for at den ville. Ugjennomsiktighet kan være til skade for tiltalte: å utplassere et system hvis oppførsel ikke kan forklares, i en setting der det kan forårsake alvorlig skade, er i seg selv en avgjørelse som en domstol kan anse som å akseptere risikoen.
Forsvarsargumentene som fungerer er smalere og mer bevisbaserte. Det første er reell mangel på kontroll: systemet ble anskaffet som et ferdig produkt, konfigurert og vedlikeholdt av leverandøren, og tiltalte hadde verken informasjonen eller den tekniske evnen til å gripe inn. Dette argumentet flytter oppmerksomheten oppover i kjeden til leverandøren, og det står eller faller på kontrakten og på hva som faktisk ble rapportert til distributøren. Det andre er at operatøren gjorde det en forsiktig operatør gjør: dokumentert risikovurdering, validering før utrulling, definert menneskelig tilsyn med en person som hadde myndighet og kompetanse til å overstyre, overvåking etter utrulling og rask handling på hendelser. Det tredje er årsakssammenheng, som ofte brukes for lite. I en kjede som går fra treningsdata gjennom en modell til en menneskelig beslutning til et resultat, må påtalemyndigheten vise at tiltaltes oppførsel forårsaket resultatet, og så brytes komplekse kjeder.
To praktiske punkter følger. Ta vare på alt tidlig: logger, modellversjoner, konfigurasjon, hendelsesrapporter og korrespondanse rundt utplasseringsbeslutninger er bevisene på begge sider, og de blir rutinemessig overskrevet. Og husk at de vanlige sikkerhetstiltakene i straffeprosess gjelder fullt ut for teknisk komplekse saker, inkludert en mistenkts rett til å ikke si noe. Artikkelen vår om retten til å tie i straffesaker forklarer hvordan det fungerer i en nederlandsk etterforskning. Der påstanden gjelder svindel begått med automatiserte verktøy, dekker vår guide til svindel og økonomisk kriminalitet i Nederland de involverte lovbruddene.
Hva barnepasssaken faktisk viser
Toeslagenaffaire-saken, den nederlandske barnepasssaken, er saken alle diskusjoner om algoritmisk ansvarlighet i Nederland vender tilbake til, og den blir vanligvis sitert av feil grunn. Lærdommen er ikke at en algoritme gjorde noe kriminelt. Den er at et system med automatisert risikoseleksjon, kombinert med en institusjonell uvilje til å stille spørsmål ved resultatene, forårsaket årevis med alvorlig skade for titusenvis av familier uten at noen ble holdt strafferettslig ansvarlige.
Skatteetaten brukte risikoklassifisering for å velge ut trygdesøknader for undersøkelse. Indikatorer som aldri burde vært brukt, inkludert nasjonalitet, fant veien inn i utvalget, og en mindre administrativ uregelmessighet kunne utløse en konstatering av forsettlig bedrageri med en plikt til å tilbakebetale hele ytelsen. Familier kunne ikke se hvorfor de hadde blitt valgt ut, tjenestemenn behandlet klassifiseringen som en konklusjon snarere enn et signal, og byrden med å motbevise en anklage ingen ville forklare falt på de anklagede. Den nederlandske datatilsynet fant behandlingen av nasjonalitetsdata ulovlig og ila en bot, og regjeringen gikk av i januar 2021.
Det som ikke skjedde er lærerikt. Ingen enkeltpersoner ble straffeforfulgt. Ansvaret var spredt på tvers av en organisasjon, en policy, et program og et juridisk rammeverk som behandlet inndriving av ytelser som en administrativ sak. Denne spredningen er nettopp den risikoen som funksjonell overtredelse og art. 51 Sr er utformet for å motvirke, og det forklarer hvorfor KI-loven insisterer på identifiserbar menneskelig tilsyn og dokumentasjon. Ansvarlighet krever en person som kunne ha stoppet det og en oversikt over hva de visste.
Tre feil er verdt å nevne fordi de fører direkte til juridisk eksponering for enhver organisasjon. Avgjørelser var ikke forklarlige, så de kunne ikke utfordres. Menneskelig tilsyn eksisterte på papiret, men ikke i praksis, fordi de involverte verken hadde myndighet eller informasjon til å overstyre systemet. Og effekten av et flagg var å reversere bevisbyrden for faktiske omstendigheter, om ikke i lov. Enhver AI-distribusjon som reproduserer disse tre funksjonene, er et juridisk problem som venter på å modnes, uansett teknologien bak. Myndighetenes svar, inkludert veiledning om ikke-diskriminering gjennom design og om algoritmeregistre for offentlige organer, er rettet direkte mot disse tre punktene.
Et samsvarsprogram som også fungerer som et forsvar
Alt et selskap gjør for å overholde AI-loven gir også bevisene det trenger hvis noe skulle gå galt. Dette dobbelte formålet er argumentet for å gjøre det riktig snarere enn minimalt, og det gjør de følgende trinnene verdt innsatsen.
Start med en oversikt. Du kan ikke klassifisere det du ikke har listet opp, og de fleste organisasjoner oppdager at KI har kommet inn gjennom anskaffelser snarere enn gjennom et prosjekt: en screeningfunksjon i en rekrutteringsplattform, en poengmodul i en kredittsøknad, en overvåkingsfunksjon i sikkerhetsprogramvare. Klassifiser hvert system i henhold til loven, registrer begrunnelsen, og gå tilbake til det når et system endres vesentlig, fordi en endring av formål kan flytte et system til en annen kategori.
Tildel deretter ansvaret til navngitte personer i stedet for avdelinger. Funksjonell utøver og faktisk lederskap dreier seg begge om hvem som kunne ha avgjort om handlingen fant sted. En organisasjon der ingen kan identifiseres som ansvarlige, unnslipper ikke ansvar; den avslører ganske enkelt den som sitter øverst på listen. Si hvem som eier hvert system, hvem som kan autorisere utrulling, hvem som utfører tilsyn og hvem som kan slå det av, og sørg for at den navngitte personen har myndighet og teknisk kompetanse til å gjøre det.
Gjør menneskelig tilsyn reelt. Kravet er ikke en person i loopen, men en person som kan forstå resultatet, har status til å avvise det, og ikke måles på gjennomstrømning på en måte som gjør avvisning upraktisk. Registrer overstyringer, fordi en logg som viser at tilsynsfunksjonen faktisk brukes, er verdt mer enn noe policydokument.
Dokumenter den tekniske situasjonen: hvor treningsdataene kom fra og hvordan de ble kontrollert, hvilken testing som ble utført og hva den viste, hva de kjente feilratene og feiltilstandene er, og hva som ble besluttet om dem. Der det er nødvendig med en vurdering av virkningen på databeskyttelse eller grunnleggende rettigheter, utfør den før utrulling og hold den oppdatert. Overvåk etter utrulling, loggfør hendelser og handle ut fra dem på en måte som er synlig i journalen.
Til slutt, få kontraktene riktige. Der et system kjøpes i stedet for å bygges, avgjør ansvarsfordelingen mellom leverandør og distributør hvem som bærer risikoen. Be om den tekniske dokumentasjonen som loven krever, om bruksanvisningen, om informasjon om kjente begrensninger og om retten til å bli informert om hendelser og vesentlige modifikasjoner. Vårt IT-juridiske team håndterer disse avtalene.
Når AI er lovbryterens verktøy snarere enn en bedrifts fiasko
Så langt har denne artikkelen omhandlet skade forårsaket av et AI-system som et selskap tok i bruk for et legitimt formål. Den andre halvdelen av bildet er AI som bevisst brukes til å begå en lovbrudd, og her er svaret enklere: lovbruddet er lovbruddet, og teknologien er en skjerpende detalj snarere enn et juridisk problem. Nederlandsk strafferett er utformet med tanke på resultater og handling, ikke med tanke på instrumenter, og det er derfor det har vært behov for svært få nye bestemmelser.
Svindel begått med en klonet stemme eller en syntetisk video av en regissør som instruerer en betaling er bedrag i henhold til art. 326 Sr, akkurat som det ville være med et forfalsket brev. Et dokument generert av en modell for å støtte en falsk påstand er forfalskning i henhold til art. 225 Sr. Å bruke noen som identifiserer personopplysninger til å utgi seg for å være dem er en forbrytelse i seg selv i henhold til art. 231b Sr. Å distribuere seksuelt eksplisitte bilder av en person uten deres samtykke er straffbart, og Wet seksuele misdrijven, som trådte i kraft siden 1. juli 2024, moderniserte denne delen av straffeloven; et syntetisk bilde faller ikke utenfor den fordi det ble generert snarere enn registrert. Vedvarende trakassering gjennom automatiserte kontoer kan utgjøre belaging i henhold til art. 285b Sr, som kun straffeforfølges etter klage fra offeret.
Det AI endrer er skala, troverdighet og vanskelighetsgraden ved bevisføring. En overbevisende syntetisk stemme fjerner friksjonen som pleide å beskytte mot betalingssvindel, og bevis for at et opptak er autentisk kan ikke lenger antas. To praktiske konsekvenser følger. For ofre og for selskaper er verifiseringsprosedyrer som ikke er avhengige av å gjenkjenne en stemme eller et ansikt, nå en grunnleggende kontroll snarere enn en forbedring. For straffeprosessen har autentisiteten til lyd- og videomateriale blitt et spørsmål som må bevises snarere enn antas, og forsvaret har rett til å teste det.
Regulering begynner å hjelpe. Gjennomsiktighetsforpliktelsene i artikkel 50 i KI-loven, som allerede gjelder, krever at leverandører merker syntetisk innhold på en maskinlesbar måte og krever at distributører opplyser om at et bilde, lyd eller video er kunstig generert eller manipulert der det viser virkelige personer eller hendelser. Overholdelse stopper ikke en målrettet lovbryter, men det styrker alle andres posisjon: det gjør ikke-opplyst syntetisk innhold til et brudd på regelverket i seg selv, og det gir etterforskere og domstoler et signal å se etter. Artikkelen vår om å bevise digital bedrageri i Nederland omhandler bevissiden av disse sakene.
Ofte stilte spørsmål om AI og strafferettslig ansvar
Kan et selskap holdes strafferettslig ansvarlig dersom dets kunstige intelligens diskriminerer?
Ja, det kan det absolutt. Selv om du ikke vil se et AI-system i seg selv stå overfor rettssaken, kan selskapet som tok det i bruk absolutt bli anklaget for diskriminerende utfall i henhold til nederlandske prinsipper for strafferettslig ansvar for selskaper. Hvis et selskaps ledelse visste om AI-ens potensial for skjevhet og ikke gjorde noe, eller hvis de var grovt uaktsomme i sitt tilsyn, er strafferettslige tiltaler en svært reell mulighet. EUs AI-lov setter også strenge regler mot skjevhet for høyrisikosystemer. Å ikke oppfylle disse standardene vil være et sterkt bevis på uaktsomhet i enhver straffesak. Det juridiske søkelyset vil alltid skinne sterkest på de menneskelige beslutningene som tas rundt opprettelse, opplæring og utplassering av AI.
Hva er problemet med den svarte boksen i AI?
«Black box»-problemet er en betegnelse på komplekse AI-modeller der selv de som bygde dem ikke fullt ut kan spore hvordan et spesifikt resultat ble nådd. Dette er et enormt problem når AI og strafferett kolliderer. I retten kan dette faktisk bli hjørnesteinen i et forsvar. En advokat kan argumentere for at et skadelig utfall var fullstendig uforutsigbart, noe som betyr at tiltalte manglet den nødvendige kriminelle hensikten (opzet). Argumentet er enkelt: hvordan kunne de ha til hensikt et resultat de umulig kunne forutsi? Men aktorer har et sterkt comeback. De kan argumentere for at det å distribuere et kraftig, uforutsigbart system uten tilstrekkelige sikkerhetstiltak i seg selv er en handling av hensynsløshet eller grov uaktsomhet. Og det kan være nok til å tilfredsstille det mentale elementet som trengs for straffansvar. Dette legger grunnlaget for en juridisk kamp med høy innsats om forutsigbarhet og aktsomhetsplikt.
Hva er den beste måten for utviklere å begrense juridisk risiko?
Det aller mest effektive utviklere kan gjøre for å beskytte seg mot juridisk risiko, er å føre grundig og transparent dokumentasjon gjennom alle stadier av AI-ens levetid. Tenk på det som å lage et detaljert «revisjonsspor» som kan bli ditt viktigste bevis. Denne dokumentasjonen må virkelig dekke alt fra start til slutt: Datakilder: Hvor kom treningsdataene fra, og hvordan ble de kontrollert for kvalitet og skjevhet?; Skjevhetsreduksjon: Hvilke spesifikke skritt ble tatt for å finne og fjerne skjevheter fra datasettene?; Designbegrunnelse: Hva var logikken bak de viktigste arkitektoniske valgene og algoritmene?; Testresultater: En fullstendig oversikt over hver testkjøring, inkludert feil og hvordan du rettet dem. Det er like viktig å sette et klart rammeverk for menneskelig tilsyn på plass. Hvis en etterforskning noen gang skjer, fungerer dette papirarbeidet som et ubestridelig bevis på due diligence. Det bidrar til å vise at enhver skade som ble forårsaket var en virkelig uforutsigbar ulykke, ikke et resultat av uaktsomhet – og det danner grunnlaget for et solid juridisk forsvar.
Kan en algoritme bli funnet strafferettslig ansvarlig for en forbrytelse i henhold til gjeldende nederlandsk og EU-lov?
Nei. I henhold til gjeldende lov kan ikke en algoritme anses som strafferettslig ansvarlig. Kjernejuridiske begreper som kriminell hensikt (opzet) og juridisk personstatus er forbeholdt mennesker og, i visse situasjoner, selskaper.
Hvorfor kan ikke et AI-system bare stilles for retten som en person?
En algoritme mangler de grunnleggende egenskapene som kreves for å bli stilt for retten: den har ingen bevissthet, ingen personlige eiendeler å beslaglegge og ingen frihet som kan tas fra en person, i motsetning til en fysisk person eller et selskap som er anerkjent som en juridisk person.
Betyr dette at kunstig intelligens er irrelevant i straffesaker?
Nei, snarere tvert imot. Selv om algoritmen i seg selv ikke kan være skyldig, blir handlingene dens sentrale for å bevise skyld eller uskyld til menneskene som lager, distribuerer og fører tilsyn med den.
Hvilket juridisk konsept er vanskeligst å anvende på AI-systemer?
Kriminell hensikt (opzet) er spesielt vanskelig, siden aktorer normalt må bevise skyldig sinn, for eksempel forsett, hensynsløshet eller kjennskap til forseelser, mens en algoritme ganske enkelt opererer basert på programmering og datainnganger og mangler bevissthet, tro eller ønsker.
Hvordan Law and More kan hjelpe
Law and More gir råd til selskaper, styremedlemmer og enkeltpersoner om strafferettslig ansvar som følge av automatiserte systemer. Vi vurderer eksponering i henhold til art. 51 Sr og doktrinen om funksjonell utførelsen, bygger og gjennomgår AI-styring som vil holde stand som bevis på aktsomhet, utfordrer algoritmiske bevis i straffesaker, og forsvarer selskaper og deres ledere i etterforskninger av påtalemyndigheten og av regulatorer. Hvis organisasjonen din bruker AI i en setting der feil har konsekvenser, ta kontakt med kontoret vårt før en hendelse tvinger frem spørsmålet.
