De politie in Texas gebruikte AI om een ​​rapport te schrijven over het gebruik van Flock bij de zoektocht naar een vrouw die een abortus had ondergaan.

Het sheriffskantoor in Texas dat Flock gebruikte om meer dan 80.000 camera’s in het hele land te doorzoeken naar een vrouw die een zelf uitgevoerde abortus had ondergaan, gebruikte de AI-tool Draft One van Axon om een ​​politierapport over het incident op te stellen. Dit blijkt uit documenten die met 404 Media zijn gedeeld. De tool werd onder meer gebruikt om een ​​bespreking van “de juridische implicaties van de situatie” samen te vatten.

Flock 404 Media berichtte in mei 2025 voor het eerst over het incident waarbij het Johnson County Sheriff’s Office in Texas het landelijke netwerk van Flock doorzocht naar de verblijfplaats van een vrouw die zelf een abortus had ondergaan. Dit incident benadrukte de dreiging dat dit door AI aangedreven surveillancesysteem gebruikt zou kunnen worden om vrouwen die reproductieve gezondheidszorg zoeken te criminaliseren of te volgen.

Het gebruik van zowel Flock als Axon’s Draft One, dat audio van bodycam-beelden gebruikt om automatisch politierapporten op te stellen met behulp van kunstmatige intelligentie, laat zien hoe snel politiekorpsen AI-surveillancetools zijn gaan inzetten, zelfs in uiterst gevoelige zaken. 

“Ik erken dat dit rapport is gegenereerd met behulp van Draft One van Axon,” staat er in een gedeelte van het rapport.

De abortuszaak is sindsdien een heikel punt geworden in de controverse rond het gebruik van de geautomatiseerde kentekenherkenningscamera’s (ALPR) van Flock. De CEO van Flock, Garrett Langley, heeft herhaaldelijk en ten onrechte gesuggereerd dat 404 Media de zaak verkeerd heeft weergegeven en dat de huiszoeking alleen werd uitgevoerd voor de veiligheid van de vrouw, omdat haar familie zich zorgen om haar maakte.

404 Media meldde eerder dat het hele politieonderzoek op verzoek van de mishandelende partner van de vrouw was uitgevoerd en dat de politie had besproken of ze haar wel mochten vervolgen: “Het werd destijds besproken met het Openbaar Ministerie en men kwam erachter dat de staat [de vrouw] wettelijk gezien niet kon vervolgen voor het innemen van de pil om de abortus te veroorzaken”, aldus een politierapport dat eerder door de Electronic Frontier Foundation werd verkregen en met 404 Media werd gedeeld .

De bezorgdheid van haar familie wordt in dat eerdere politierapport noch in het door AI gegenereerde politierapport dat voor dit artikel is gebruikt, genoemd. 

Het door AI gegenereerde incidentrapport werd verkregen door journalist Cameron Probert van de Tri-City Herald en gedeeld met 404 Media. Het rapport toont aan dat er uitgebreid bewijsmateriaal van bodycams en audio-opnamen is dat zou kunnen verduidelijken wat er in de zaak is gebeurd, en dat ten minste één politieagent, sergeant Damien Bethel, Draft One heeft gebruikt om zijn rapport over het incident te schrijven.

Delen van een politie-incidentrapport laten zien dat Draft One werd gebruikt om een ​​discussie tussen agenten over “de juridische implicaties van de situatie” en andere onderzoeksaspecten van de zaak samen te vatten. Het Johnson County Sheriff’s Department heeft herhaaldelijk geweigerd om bodycam-beelden van de zaak vrij te geven, ook niet in reactie op verzoeken om openbaarmaking van documenten door 404 Media.

“Agenten bespraken de juridische implicaties van de situatie en merkten op dat, hoewel de vriendin de abortuspil zelf had ingenomen, er volgens de huidige wetgeving in Texas geen strafrechtelijke aanklachten mogelijk waren”, aldus het rapport van Bethel, zonder verdere details over de inhoud van het gesprek. “Agenten overwogen ook de mogelijkheid van een civiele rechtszaak tegen het farmaceutische bedrijf dat de pil had geleverd.”

In het eerste conceptrapport van Bethell staat verder: “Er is digitaal multimediamateriaal van bodycam-opnamen van deze melding in de AXON-bewijsbibliotheek. Er is digitaal multimediamateriaal van cameraopnamen in de politieauto van deze melding in de AXON-bewijsbibliotheek of de WatchGuard-bewijsbibliotheek. Er zijn digitale beelden gemaakt ter plaatse.” Het Johnson County Sheriff’s Department heeft tot nu toe geweigerd zelfs bewerkte versies van dit bewijsmateriaal vrij te geven, waar de EFF en 404 Media afzonderlijk om hebben gevraagd.

Uit gelekte audio-opnamen van Langley, verkregen door 404 Media en opgenomen door Signal Akron , blijkt dat Langley tot begin deze maand nog steeds loog over de details van de zaak tegenover wetshandhavers die gebruik maakten van Flock. “Ze zat in een gewelddadige relatie en de familie maakte zich zorgen dat ze in gevaar was. Ze probeerden haar te vinden omdat ze bang waren dat haar leven in gevaar was”, zei hij.

In geen enkel politierapport wordt melding gemaakt van bezorgdheid van de familie van de vrouw; de enige persoon die in de politierapporten bezorgdheid uitspreekt, is haar gewelddadige partner, die de politie vertelde dat de abortus weken voor hun onderzoek had plaatsgevonden. Zogenaamde “welzijnscontroles” zijn herhaaldelijk door daders gebruikt om vrouwen die een abortus hebben ondergaan lastig te vallen, en in Wisconsin zou een politieagent Flock illegaal hebben gebruikt om te achterhalen of zijn ex-vriendin een abortuskliniek had bezocht .

Een ander gedeelte van het rapport, waarin de Flock-zoekopdrachten worden beschreven, laat zien dat de agent die de Flock-zoekopdrachten uitvoerde nooit bij de vrouw thuis is geweest, maar haar heeft opgezocht in een database met creditcardgegevens genaamd TLO om haar adressen en voertuiginformatie te vinden. In zijn deel van het rapport beschrijft hij de zoekopdrachten als zijnde bedoeld voor haar veiligheid, omdat hij bang was dat de man die haar had aangegeven (haar mishandelende partner) haar iets had kunnen aandoen. Hij vermeldt niet dat hij de zoekopdracht op verzoek van haar familie heeft uitgevoerd. 

“Ik begon te denken dat het slachtoffer mogelijk gewond was geraakt door de melder, omdat het telefoontje niet logisch klonk. Ik wilde de beschikbare middelen gebruiken om te achterhalen waar het slachtoffer en haar kinderen zich bevonden, om er zeker van te zijn dat ze in orde waren”, schreef de agent. “Ik startte de FLOCK-zoekopdracht in de auto om te zien waar het slachtoffer en haar kinderen zich bevonden, aangezien er verschillende locaties voor hen waren opgegeven.

Agenten hadden geprobeerd contact op te nemen met de vrouw, maar zonder succes. De FLOCK-zoekopdracht toonde aan dat het slachtoffer eerder in Dallas was geweest, maar niet recent. De reden voor de FLOCK-zoekopdracht was om te achterhalen in welke stad het slachtoffer en haar kinderen zich bevonden en om ons een idee te geven waar we naar hen moesten zoeken, gezien het grote gebied waar het slachtoffer en haar kinderen zich zouden kunnen bevinden . ” 

Toen 404 Media contact opnam met het Johnson County Sheriff’s Office voor een reactie, wilde het bureau geen verdere details over de zaak of het gebruik van Draft One voor het schrijven van delen van het politierapport verstrekken. Keven George van het sheriffskantoor zei: “Draft One werkt door de audio van de bodycam te uploaden en te transcriberen zodra een incident is afgerond. Binnen ongeveer vijf minuten wordt een voorlopig verslag op basis van die transcriptie gegenereerd.

Agenten behouden de volledige controle over het uiteindelijke rapport: ze controleren en bewerken het concept, vullen ontbrekende details aan en keuren het goed voordat het wordt ingediend. Beveiligingsmaatregelen, zoals de mogelijkheid om tekst in te voegen, zorgen voor nauwkeurigheid en voorkomen dat het systeem details raadt die het niet kan verifiëren.” Hij voegde eraan toe: “De agent moet het verslag digitaal ondertekenen voordat het kan worden gebruikt.”

Paris Lewbel, public relationsmanager bij Flock, vertelde aan 404 Media: “Zoals Garrett al zei, staat in het zaakverslag van Johnson County dat de autoriteiten expliciet hebben verklaard dat ze NIET voor een misdaad kon worden aangeklaagd.”

Forbes meldde onlangs dat de AI-tools van Axon soms fouten introduceren die agenten vervolgens moeten corrigeren.