AI Een doomsday-scenario met kunstmatige intelligentie is niet onvermijdelijk.

AI – Sam Biddle en Jason Koebler van 404 Media bespreken het toenemende gebruik door de overheid van particuliere bedrijven, van Flock tot Claude, voor surveillance en moorden in binnen- en buitenland.

AI – Lokale politiekorpsen gebruiken Flock-camera’s om kentekens te traceren. ICE gebruikt Palantir-software om immigranten op te sporen en op te pakken. Het ministerie van Defensie van minister Pete Hegseth gebruikt Claude om Iran te bombarderen. De Amerikaanse overheid geeft miljarden uit aan particuliere bedrijven om enorme hoeveelheden data te verzamelen – en de surveillancesector wordt in de tweede ambtstermijn van Donald Trump alleen maar verder geprivatiseerd . 

“Het is echt een soort Wilde Westen geworden,” vertelt Jason Koebler, medeoprichter van 404 Media, aan presentatrice Akela Lacy in The Intercept Briefing, over de huidige stand van zaken binnen het Amerikaanse surveillanceapparaat. Hoewel Palantir en Flock bekende namen zijn geworden, zegt Koebler: “Alles wat geobserveerd kan worden, wordt geobserveerd, en veel daarvan wordt gedaan door bedrijven waar maar weinig mensen van gehoord hebben, en bedrijven die bereid zijn tot het uiterste te gaan, bijvoorbeeld hoe ver ze bereid zijn te gaan om mensen te bespioneren.”

“Veel van de dingen die je vroeger associeerde met de NSA, de CIA of een andere staatsspionageorganisatie, dat soort mogelijkheden kun je nu gewoon kopen”, merkt Sam Biddle, senior technologiereporter bij The Intercept , op over het gemak en de toegankelijkheid van de tools die nu beschikbaar zijn voor de overheid. “Je hoeft geen topgeheime overheidsinstantie te zijn. Je kunt gewoon een aannemer in Virginia zijn.”

“Het is een manier om de vereisten voor een gerechtelijk bevel te omzeilen”, zegt Koebler. Bewakingsbedrijven “doen dingen waarvoor de overheid, als ze die zelf zou uitvoeren, een gerechtelijk bevel nodig zou hebben.”

Deze week bundelden het onafhankelijke techplatform 404 Media en The Intercept hun krachten voor een speciale podcastopname. Voor een live publiek in Los Angeles bespraken ze hoe de Amerikaanse overheid privédata gebruikt om in binnen- en buitenland te surveilleren en te doden, de daaruit voortvloeiende tegenreactie en mogelijke regelgeving, welke concrete acties de gemiddelde burger kan ondernemen om zich te ontdoen van de hedendaagse surveillancehel, en hoe het doemdenken over AI als bedreiging voor de mensheid kan worden bijgesteld.

“Als je AI motieven en handelingsvermogen toeschrijft, laat je Sam Altman buiten schot”, zegt Biddle. “Er zijn mensen die deze technologie ontwikkelen. Het is niet onvermijdelijk. Deze doomsday-toekomst is niet onvermijdelijk”, voegt Koebler eraan toe. “We kunnen onze kop niet in het zand steken en zeggen: ‘Dit verandert de maatschappij op geen enkele manier.’ Maar het wordt wel degelijk gedreven door zeer rijke mensen, en die kunnen worden gereguleerd. Ze kunnen ter verantwoording worden geroepen.”

“Wat echt interessant en bemoedigend is aan de tegenreactie op Flock, is dat die volledig apolitiek of partijloos is. Van de meest radicale kiezers tot de mensen die hier nu in de zaal zitten, het hele politieke spectrum heeft een hekel aan deze mensen”, zegt Biddle. “Voor het eerst in lange tijd bestaat er een reële kans om een ​​pro-privacycoalitie te vormen die een groot deel van de anders zo enorme politieke kloof kan overbruggen.”

Transcript

Akela Lacy: Welkom bij The Intercept Briefing, ik ben Akela Lacy, senior politiek verslaggever bij The Intercept.

Vandaag zenden we live uit vanuit Los Angeles voor een speciale aflevering in samenwerking met 404 Media.

Ons onderwerp? Dodelijke technologie. We hebben het over autonome wapens; door AI ondersteunde aanvallen in Iran; het analyseren van je digitale voetafdruk en zelfs je financiële gegevens om je op te sporen; en bewakingscamera’s die binnenkort in jouw buurt te zien zullen zijn. 

Dit gesprek komt op een goed moment. Deze week nog zorgden waarschuwingen van onderzoekers van Anthropic dat AI de mensheid zou kunnen uitroeien voor grote onrust in het Amerikaanse Congres. Een groep wetgevers van beide partijen riep op tot onmiddellijke regulering van de AI-industrie – van de Republikeinse senator Ted Cruz tot de onafhankelijke populist Bernie Sanders , die volgende week senatoren bijeenroept voor een briefing over de “buitengewone gevaren” van AI. 

De wereld waar we zo lang bang voor moesten zijn, is er nu. Maar hoeveel weten we eigenlijk over deze instrumenten en hoe de overheid ze gebruikt – niet alleen tegen jou en je buren, maar wereldwijd?

Om ons mee te nemen in deze duistere materie, heb ik mijn collega Sam Biddle, verslaggever bij The Intercept, uitgenodigd. Biddle is een ervaren technologieverslaggever die zich richt op kwesties als surveillance, privacy en de macht van het bedrijfsleven. 

Ook van de partij is Jason Koebler, medeoprichter van 404 Media, waar hij schrijft over surveillance en AI.

Sam en Jason, welkom bij The Intercept Briefing.

Sam Biddle: Het is echt geweldig om hier te zijn.

Jason Koebler: Dank jullie wel dat ik hier mag zijn. Dank aan iedereen die gekomen is. Dank aan The Intercept dat we hier mogen zijn. We zijn erg enthousiast.

Akela Lacy: Om te beginnen, kunnen jullie ons een beeld schetsen van hoe het grootschalige surveillance-technologieapparaat er vandaag de dag uitziet?

Veel van onze luisteraars zijn bekend met enkele van de grootste spelers, zoals de overheidsaannemer voor data-analyse Palantir of Flock , de aanbieder van bewakingsapparatuur die zichzelf profileert als een gebruiksvriendelijk hulpmiddel voor de openbare veiligheid .

Maar laten we het grotere plaatje eens bekijken. Hoe zijn we bijvoorbeeld van de tijd van de National Security Agency en Edward Snowden terechtgekomen in deze grotendeels geprivatiseerde en in veel opzichten nog wettelozere wereld van massasurveillance?

Sam, ik begin met jou. Wat is er hetzelfde gebleven sinds het NSA-tijdperk, en wat is er nu nieuw?

SB: De NSA is er in ieder geval nog steeds. Ik denk niet dat je dit gesprek, of in ieder geval niet in de vorm zoals we het vanavond gaan voeren, zou hebben gevoerd zonder 9/11. Ik denk dat de oprichting van het Department of Homeland Security , de private sector die u beschreef, de miljarden dollars die erin geïnvesteerd zijn, allemaal het gevolg zijn van 9/11.

Ik heb het opgezocht: in 2006 bedroeg het budget van het Department of Homeland Security (DHS) iets meer dan 30 miljard dollar . Het presidentiële verzoek voor volgend jaar is 118 miljard dollar , en een groot deel daarvan gaat naar aannemers zoals Palantir .

Om je vraag te beantwoorden: Snowden heeft ons terecht geleerd dat we veel te vrezen hebben van de overheid, maar er was minder aandacht voor de bedrijven die de overheid macht geven.

Ik denk dat dat vooral op de voorgrond is getreden rondom zaken als ICE-invallen, waarbij Jason en zijn collega’s uitstekend werk hebben verricht door de bedrijven die daarachter zitten in kaart te brengen.

“Snowden heeft ons terecht geleerd dat we veel te vrezen hebben van de overheid, maar er werd niet zoveel nadruk gelegd op de bedrijven die de overheid macht geven.”

JK: Het belangrijkste is dat het echt een soort Wilde Westen is geworden. Mensen kennen Palantir en Flock inmiddels wel, zoals je al zei.

Maar onlangs is er een document uitgelekt over enkele aannemers waarmee ICE samenwerkt. Het gaat om bedrijven zoals Accurint , Chameleon, Locate X , Cobwebs en ISO ClaimSearch . Dit zijn allemaal verschillende bedrijven in de toeleveringsketen die verschillende dingen doen, of het nu gaat om locatiegegevens van mobiele telefoons, browsegeschiedenis, gegevens over zendmasten of informatie over de infrastructuur van het internet.

“Veel van deze initiatieven komen van bedrijven waar maar weinig mensen van gehoord hebben, en van bedrijven die bereid zijn de grenzen te verleggen van wat ze willen doen.”

Alles wat maar te bespioneren valt, wordt bespioneerd, en veel daarvan wordt gedaan door bedrijven waar maar weinig mensen van gehoord hebben, en bedrijven die bereid zijn tot het uiterste te gaan, bijvoorbeeld door niet al te ver te gaan in het bespioneren van mensen.

SB: Veel van de dingen die je vroeger associeerde met de NSA, de CIA of een andere staatsspionageorganisatie – dat soort mogelijkheden kun je nu gewoon kopen, en ik denk dat dat echt veranderd is sinds Snowden.

Je hoeft geen topgeheim overheidsagentschap te zijn. Je kunt gewoon een aannemer in Virginia zijn met de naam “Persistent Solutions Incorporated” en deze bevoegdheden verkopen aan iedereen die ze wil kopen.

AL: Dat is een mooie overgang naar het onderwerp Flock. Jason, jij en je collega’s bij 404 hebben bericht over een aantal van de meest flagrante misbruiken van Flock, zoals het gebruik door de politie om mensen te stalken , een vrouw op te sporen die een abortus had ondergaan, demonstranten te observeren en ICE te helpen bij de jacht op mensen.

Zoals we al besproken hebben, is de surveillancesector steeds meer geprivatiseerd, maar waarom is dat belangrijk en wat denk je dat er hierna gaat gebeuren?

JK: Het is belangrijk omdat het een manier is om regelgeving te omzeilen. Het is een manier om de vereisten voor een gerechtelijk bevel en dergelijke te omzeilen. We hebben al heel veel verhalen gepubliceerd over Flock, maar ook over andere bedrijven die bewakingsdiensten aanbieden. Zij doen dingen waarvoor de overheid, als ze het zelf zou doen, een gerechtelijk bevel nodig zou hebben.

“Bewakingsbedrijven doen dingen waarvoor de overheid, als ze die zelf zou uitvoeren, een gerechtelijk bevel nodig zou hebben.”

Maar deze gegevens, soms verzameld via mobiele apps, soms door particuliere bedrijven zoals Flock die overal in Amerika camera’s op palen plaatsen, stuitten lange tijd op juridische obstakels. Nu omzeilen ze die door de informatie te kopen .

We zien ook dat veel van deze dingen lokaal worden ingezet. Flock is een bedrijf dat voornamelijk samenwerkt met lokale overheden , kleine steden en grote gemeenten. En we hebben dat al vaker gezien met drones, met automatische kentekenherkenningssystemen (ALPR’s) en in toenemende mate ook met gezichtsherkenningstools, waarbij deze technologieën worden getest in kleine steden waar de politie wellicht openstaat voor innovatie.

Ik heb het gevoel dat ik dit vaker zeg, maar de politie heeft nog geen spionagetool gevonden die ze niet willen uitproberen. Dus zo werkt het nu: je verkoopt het aan een lokale overheid, en die gegevens sijpelen door en komen uiteindelijk bij de federale overheid terecht.

Ik denk daarom dat het belangrijk is om te volgen hoe deze bedrijven hun bedrijfsmodel toepassen en hoe ze zich uitbreiden van lokale overheden naar staatsoverheden en uiteindelijk naar de federale overheid.

SB: De technologie is ook goedkoper geworden. De mogelijkheden die Flock verkoopt, zouden 20 jaar geleden, hoewel veel rudimentairder, onbetaalbaar zijn geweest. Deze technologie wordt gangbaarder omdat ze krachtiger en betaalbaarder wordt.

Maar de politiekorpsen hebben ook geld zat, dus ze kunnen het zich veroorloven, zoals Jason zegt, om alles te kopen wat ze maar kunnen, gewoon omdat ze van speeltjes houden.

“Dit soort dingen wordt gangbaar omdat ze krachtiger en betaalbaarder worden.”

JK: Die camera’s draaien, voor zover ik weet, op Android-technologie van een paar generaties geleden. Het is niet duur, zoals je al zei.

AL: We zullen later nog even ingaan op de uitbreiding van deze technologie naar lokale politiekorpsen. Maar eerst, Sam, je hebt bericht over de letterlijke jacht op immigranten met behulp van premiejagers en de verrijking van particuliere bedrijven.

Waarom worden sommige van die bedrijven niet aan dezelfde mate van publieke controle onderworpen voor hun rol in de massale deportatie- en arrestatiecampagne van ICE als we in andere gevallen hebben gezien?

SB: Ik denk dat er een ongelooflijke diversiteit is aan bedrijven die dit soort bewakingsdiensten aanbieden. 

JK: En dat vind je geweldig om te zien. [Gelach.]

SB: Het is een van de weinige sectoren van de economie die waarschijnlijk gestaag groeit. Maar ja, ik vond tien verschillende aannemers , van wie ik er nog nooit van had gehoord, allemaal erg onbekend, met namen als “Government [Support Services]” — heel nietszeggend — die door ICE waren ingehuurd om immigranten op te sporen zodat ze konden worden uitgezet.

Hoe meer ze vonden en hoe sneller ze dat deden, hoe meer ze in aanmerking kwamen voor een basisbeloning van de overheid. Ze werden dus gestimuleerd om zoveel mogelijk mensen te vinden door een combinatie van observatie ter plaatse en digitale hulpmiddelen.

“Hun onbekendheid is een groot voordeel.”

Alle aandacht en kritiek die Palantir krijgt, is terecht. Maar ik denk ook dat de grote namen vaak de meeste woede en verwijten over zich heen krijgen, waardoor de kleinere bedrijven er relatief ongeschonden vanaf komen. Vergeleken met Palantir is een bedrijf dat schoonmaakdiensten levert aan luchtmachtbases en vervolgens dit contract voor premiejacht binnenhaalt, piepklein.

Maar ik denk dat het er gewoon te veel zijn om bij te houden – te veel voor de mensen wier taak het is om ze bij te houden. Hun onbekendheid is een groot voordeel.

AL: En iets als Palantir is een bekend merk.

SB: En ze zijn op zoek naar aandacht. Palantir is erg op zoek naar aandacht en wil publiciteit.

JK: We hadden het daar al even over voor de show. Je ziet vaak dat bedrijven zoals Palantir of Flock veel kritiek te verduren krijgen – zelfs Meta krijgt veel kritiek. “O, gaat Facebook gezichtsherkenning in hun brillen stoppen?”, dat soort dingen. Het blijkt dat ze nu een dekmantel hebben, en dat ze het waarschijnlijk wel zullen doen.

Maar Clearview AI — een bedrijf dat gezichtsherkenning toepast; je kunt een foto invoeren en op internet zoeken naar alle locaties waar die persoon is geweest. Het wordt door veel politiekorpsen gebruikt — en het is een startup die in feite door één man is opgericht. Het is nu groter, maar het is begonnen door één man die bereid was iets te doen wat veel andere bedrijven niet wilden doen, omdat er zoveel aandacht was voor die grote spelers, en die grote spelers zeiden: “Oh, wij zullen nooit gezichtsherkenning toepassen.”

Maar dan komt Clearview opdagen en zegt: “Wij willen het wel doen.” Dat is iets wat we de afgelopen tien jaar steeds weer hebben gezien: de tegenstand tegen sommige van deze bedrijven is enorm, maar er staan ​​ook tien andere bedrijven klaar die zeggen: “Ja, wij gaan voor jullie op zoek naar illegale immigranten. We hebben vroeger wel schoonmaakdiensten gedaan, maar ik heb ooit een politietraining gevolgd.”

In veel gevallen zijn dat letterlijk precies wat deze bedrijven zijn. Dankzij AI kunnen bedrijven razendsnel van start gaan. Veel ervan zijn nogal amateuristisch, maar dat betekent niet dat ze geen overheidscontracten binnenhalen.

AL: Jason, ik wil het hebben over hoe deze federale surveillance er in de praktijk uitziet. 404 meldde onlangs dat het ministerie van Binnenlandse Veiligheid een geheime eenheid voor voorspellende politiecontrole gebruikt om mensen aan te houden. Wat hebben jullie ontdekt?

JK: Het heet dus PITT [Predictive Intelligence Targeting Teams], niet het tv-programma.

Maar in principe gebruiken deze grenspatrouilleteams financiële gegevens en diverse federale databases, waarvan we niet precies weten welke dat zijn. Ze zoeken naar patronen die ze verdacht vinden en geven die informatie door aan de lokale politie met de boodschap: “Hé, wil je deze persoon met dit kenteken even aanhouden?”

Eerder deze week schreven we over een man, ik geloof in Wisconsin, die werd aangehouden vanwege een onleesbaar kenteken. Tenminste, dat vertelde de lokale politie hem. Tijdens zijn rechtszaak kwam aan het licht dat een PITT-team verdachte financiële activiteiten had opgemerkt en de lokale politie had gevraagd hem aan te houden, om zo een voorwendsel te vinden. Vervolgens werd hij aangeklaagd voor drugsdelicten, wat niet echt de bedoeling leek te zijn. De documenten van Homeland Security die we zagen, wezen erop dat dit een grote drugshandelaar was. 

We hebben dit soort dingen al vaker zien gebeuren. Ik denk dat Palantir, met name wat ICE betreft, vaak gebruikmaakt van allerlei federale databases en commerciële databases.

ICE is geobsedeerd geraakt door een tool genaamd Mobile Fortify , een app voor gezichtsherkenning op smartphones , gemaakt door een bedrijf waarvan ik geen idee heb wat ze doen of wat ze zijn. Ze gebruiken in principe een gezichtsdatabase van de douane en grensbewaking. Dus elke keer dat iemand in contact is geweest met de overheid, de TSA, aan de grens, enzovoort, wordt die database gebruikt. Er zijn al een paar gevallen van persoonsverwisseling en dergelijke geweest.

“ICE is geobsedeerd geraakt door Mobile Fortify, een app voor gezichtsherkenning op smartphones, gemaakt door een bedrijf waarvan ik geen idee heb wat het doet of wat het is.”

SB: Het is goed om te weten dat je ervoor kunt kiezen om niet mee te doen aan de biometrische incheckprocedure op het vliegveld. Ik breng mijn vrouw elke keer in verlegenheid als we ergens naartoe gaan, maar je kunt ervoor kiezen om het niet te doen. Zeg gewoon nee. [Gelach]

JK: Ze zijn altijd boos.

SB: Je gegevens blijven wel in een database staan, maar weet je, het voelt goed.

AL: Als het gaat om ICE die mensen opspoort , heb je dit al even aangestipt, maar ik vraag me af of je een stapje terug kunt doen en het echt kunt uitleggen, en ons kunt meenemen door de stappen en de betrokken personen in elke fase, van het lokaliseren en identificeren tot het arresteren van mensen.

JK: Dus veel hiervan is een samenvoeging van stukjes informatie uit individuele rechtszaken die we hebben gezien, waarin bijvoorbeeld een verklaring van een ICE-agent wordt uitgelegd hoe ze een persoon hebben gevonden.

Veel daarvan is terug te voeren op Palantir en de verschillende apps die ze aanbieden. Bedrijven zoals Thomson Reuters en LexisNexis zijn erbij betrokken – grote bedrijven die veel informatie verzamelen en aan de overheid doorspelen. We kwamen erachter dat ICE bezig was met wat ze een ‘ dichtheidsrapport ‘ noemden , waarin ze probeerden de concentratie van potentiële illegale immigranten in kaart te brengen.

Veel van de locaties die ze kozen voor handhavingsacties waren gebaseerd op oude adressen of eerdere contacten met de overheid. Ze verzamelden bijvoorbeeld gegevens van de belastingdienst , arbeidsgegevens en eigenlijk alles wat je je maar kunt voorstellen. Denk aan locatiegegevens van mobiele telefoons, surfgedrag en kentekeninformatie. 

De douane en grensbewaking hebben hun eigen ALPR-camera’s, automatische kentekenherkenningscamera’s. Maar we meldden ook dat ze via het 287(g)-programma , een programma waarmee lokale politie ICE-handhavingstaken kan uitvoeren, Flock-controles uitvoerden in opdracht van ICE .

Het is dus een mix van factoren: ze krijgen een doelwit, en zoals Sam al zei, werd veel hiervan uitbesteed aan willekeurige, onbetrouwbare premiejagers en politiecontractanten. Het is een heel gevarieerd geheel, maar het komt uiteindelijk neer op surveillance en het vinden van concentraties van ongedocumenteerde immigranten om die vervolgens aan te pakken.

SB: Ik denk dat het ook belangrijk is om te benadrukken dat dit alleen mogelijk is omdat er geen wet is die het verbiedt. Je kunt met een vrachtwagen door de gaten in het Vierde Amendement rijden. Zoals Jason al zei, in theorie zou je veel van dit soort dingen niet mogen doen zonder toestemming van een rechter, maar er is niets dat de overheid ervan weerhoudt om de locatie van je telefoon van het afgelopen jaar, en het komende jaar, en zelfs tot in de toekomst, te kopen.

Op vrijwel elke plek waar je komt, kun je zomaar geld verdienen door bijvoorbeeld Candy Crush te downloaden, een spel met advertenties. Daar is geen wet tegen. Er is geen regelgeving. De markt voor de verkoop van privégegevens, en met name geolocatiegegevens , is volledig ongereguleerd. Je kunt gewoon doen wat je wilt.

“Niets belet de overheid om de locatiegegevens van uw telefoon van het afgelopen jaar, en van het komende jaar, en zelfs tot in de toekomst, te kopen.”

AL: En sommige van deze bedrijven hebben gereageerd met de mededeling: “Deze bureaus overtreden hun servicevoorwaarden of gebruiksvoorwaarden.” Zoals jullie hierover berichtten met Shadow Dragon , Jason, toch?

JK: Ja, zo nu en dan zegt een bedrijf: “Oh, we wisten niet dat het gebruikt werd voor immigratiehandhaving.” Dan trekken ze de toegang in, of ze verkopen een nieuwe licentie of zoiets. Het gebeurt wel eens dat wat ICE doet te ver gaat, zelfs voor sommige van deze surveillancebedrijven.

Ik denk dat het ook de moeite waard is om even kort te vermelden dat een groot deel van dit veiligheids- en surveillanceapparaat is opgebouwd onder Obama en zelfs daarvoor. Ze hadden toen extreem zwakke waarborgen om informatie tussen de verschillende instanties te scheiden, en dat soort dingen.

En dan ineens is het: oh, HSI gaat niet meer de handhaving op de werkplek uitvoeren — Homeland Security Investigations, dat vroeger doorgaans zeer complexe onderzoeken deed naar drugshandelnetwerken en dat soort dingen. Nu doen ze alleen nog maar standaard deportaties en houden ze mensen aan en dat soort dingen. Dus alle vangrails zijn neergehaald, wat [pauze] spannend is.

SB: En hoe meer je het uitbesteedt aan particuliere bedrijven, hoe minder openbaar toegankelijke documenten er overblijven.

Als de NSA de wet overtreedt, kun je in theorie hoorzittingen in het Congres houden en mensen naar de gevangenis sturen. Dat zal niet gebeuren, maar het zou kunnen.

Maar als een bedrijf iets doet, A, is het legaal, maar B, waarschijnlijk komt niemand erachter, tenzij Jason het ontdekt. ​​Er is geen toezicht! En er is alle reden om deze spullen maximaal te verkopen.

AL: Laten we het hebben over hoe deze technologie wereldwijd wordt gebruikt om oorlog te voeren. We hebben allemaal de krantenkoppen gezien over Anthropic’s Claude, die naar verluidt Amerikaanse aanvallen in Iran zou hebben ondersteund. De CEO van Anthropic zei dat hij niet weet of en hoe Claude daadwerkelijk is gebruikt , inclusief of het is ingezet bij de aanval op een basisschool waarbij 120 kinderen om het leven kwamen .

Ooit zwoeren veel van deze bedrijven uit Silicon Valley dat ze hun technologie niet zouden laten gebruiken voor oorlogsvoering of surveillance, met name niet voor onbemande of geautomatiseerde oorlogsvoering . Dat is niet langer het geval, en misschien was het altijd al een loze belofte . Maar de samenwerking tussen de overheid en technologiebedrijven voedt de oorlogen die nu gaande zijn – niet alleen in Iran, maar ook in Gaza en zelfs in Oekraïne.

Sam, wat weten we eigenlijk over hoe AI in die contexten wordt gebruikt, als we daar al iets van weten?

SB: We weten eigenlijk best veel. Het gebruik van Amerikaanse technologie bij de genocide in Gaza is inmiddels vrij goed gedocumenteerd. Amazon, Google en Microsoft zijn allemaal zeer prominente contractanten van de IDF [Israëlische Defensiekrachten].

Amazon en Google verkopen cloudcomputingdiensten aan Israëlische staatsbedrijven die wapens produceren en de bommen maken die op Gaza worden gegooid; dat staat vast. En niemand heeft het echt geprobeerd te verbergen . Veel van die zaken waren sowieso al geen geheim.

Het gebruik van Amerikaanse technologie, van diensten van AI-bedrijven, in Iran is minder duidelijk. Je hebt absoluut gelijk dat deze bedrijven, bijna allemaal – misschien met uitzondering van Microsoft – op een gegeven moment beweerden dat ze dit nooit zouden doen. OpenAI en Anthropic werden beide opgericht met zeer hoogdravende missies om de hele mensheid ten goede te komen.

AL: Dat is de reden waarom het Anthropic heet.

SB: Juist. [gelach] Goed punt. En dan besluiten ze: “Oh, wacht eens even, er valt veel geld te verdienen als we Pentagon-contractanten worden.” Dus een paar jaar geleden schrapte OpenAI gewoon het deel van hun algemene voorwaarden waarin stond dat ze geen militair werk zouden doen. Google schrapte “Don’t be evil” als motto, wat nogal voor de hand liggend was.

Het is een vergissing om te denken dat deze beleidsstandpunten van bedrijven ook maar iets betekenen, omdat ze die immers zomaar kunnen veranderen wanneer ze maar willen. Maar het is opvallend dat, zoals je al zei, ze hier ooit een principieel standpunt over innamen.

AL: En we verklaarden heel openlijk: “Wij lopen voorop in de ontwikkeling. We laten niet toe dat onze technologie gebruikt wordt om mensen te doden of te bespioneren.” En zoals Jason al zei, zodra één iemand zegt: “Dat klinkt eigenlijk best goed”, reageert iedereen: “Weet je wat? We hadden het mis.”

“Als je Google bent, kun je maar een beperkt bedrag verdienen met de verkoop van extra Gmail-opslagruimte en advertenties.”

SB: Als je Google bent, kun je maar zoveel geld verdienen met de verkoop van extra Gmail-opslag en advertenties. Op een gegeven moment is de overheid een klant die er altijd zal zijn en altijd veel geld te besteden heeft. Dus ja, ik denk dat ze elkaar allemaal aankeken en dachten: “Wacht eens even, jullie doen hier ook aan mee, toch?” 

Maar wat Iran betreft, is bevestigd dat Anthropic vanaf de eerste dag van de gezamenlijke Amerikaans-Israëlische aanval betrokken was.

JK: Ik zag een paar minuten geleden dat Anthropic zei dat de Houthi’s probeerden Claude te gebruiken om raketten te richten, bijvoorbeeld door iets in de chat te typen. 

SB: Dat heb ik gezien!

JK: En ze hebben dat stopgezet; ze zeiden dat ze dat stopgezet hadden. Ik was bij een defensiecontract toen Anthropic instemmend knikte bij het idee dat ze niet in Iran zouden helpen. Er waren leidinggevenden van Anthropic en OpenAI aanwezig die hierover spraken, en ze maakten heel duidelijk, althans op dat moment, dat het zoiets was van: “Oh, het is niet dat we tegen samenwerking met het leger zijn. Het is dat we beter toezicht willen. Er zal iemand van Anthropic in het Pentagon zitten, samen met het Ministerie van Defensie, om ervoor te zorgen dat dit op een ethische manier wordt gebruikt. Er zal iemand van OpenAI zijn die hetzelfde doet.”

Het is volstrekt onduidelijk of dat daadwerkelijk in enige mate gebeurt, en ook waarvoor deze tools precies worden gebruikt. We weten dat ze worden gebruikt voor doelgroepbepaling, we weten dat ze worden gebruikt voor planning – met doelgroepbepaling bedoel ik uitzoeken wie we moeten benaderen en dat soort dingen. 

AL: Een doelwit selecteren. 

JK: Ja, het selecteren van doelen. Maar we weten niet precies hoe autonoom ze zijn, of tenminste, ik weet het niet.

AL: En zij blijkbaar ook niet, toch? 

SB: Nou, dat is het probleem: beide mogelijkheden zijn echt rampzalig. Als deze bedrijven actief meedoen aan de oorlog, is dat om allerlei redenen angstaanjagend. Maar het alternatief — de CEO van Anthropic, het standpunt dat hij innam, toen Bloomberg News hem vroeg of Claude was ingezet om die school op te blazen, zei hij: ” Ik weet het niet .”

Google heeft een vergelijkbaar standpunt ten opzichte van de IDF , waarbij ze zeggen: “Zodra we ze deze spullen verkopen, weten we niet hoe ze ze gaan gebruiken, we hebben geen inzicht in hoe ze ze inzetten”, wat volkomen plausibel is.

Maar dat is ook een behoorlijk angstaanjagend vooruitzicht, want dan kunnen ze zeggen: “Oh, we staan ​​niet toe dat onze technologie voor X, Y, Z wordt gebruikt”, maar ze geven het aan de klant, die er vervolgens mee kan doen wat hij wil, en het bedrijf komt er nooit achter.

AL: Sam, je hebt honderden overheidsdocumenten in handen gekregen over hoe het Pentagon AI gebruikt. Ik vraag me af of je ons kunt vertellen hoe diepgaand die relatie precies is.

SB: Via een rechtszaak op basis van de Wet op de Openbaarheid van Bestuur hebben we een reeks contracten in handen gekregen die OpenAI, Anthropic, Google en xAI – het bedrijf van Elon Musk – afgelopen zomer met het Pentagon hebben gesloten om gemilitariseerde LLM’s [grote taalmodellen] te ontwikkelen voor gebruik door het Pentagon.

De documenten waren zwaar gecensureerd, maar wat uit de niet-gecensureerde gedeelten duidelijk naar voren kwam, was dat deze bedrijven het Pentagon niet alleen een product verkochten, maar ook een zeer intieme relatie, een voortdurende samenwerkingsrelatie waarbij ze het Pentagon in feite adviseerden over hoe deze producten in de oorlogsvoering ingezet konden worden.

Ze ontvingen vertrouwelijke briefings. Ze kregen briefings over Amerikaanse militaire operaties. Ze verzorgden praktijkgerichte trainingen. Ze voerden dreigingsanalyses uit. Ze hielpen mee aan de strategische planning van het Ministerie van Defensie. Kortom, ze gingen veel verder dan de gebruikelijke taken van een bedrijf.

“Deze bedrijven verkochten het Pentagon niet zomaar een product, maar een zeer, zeer intieme relatie.”

Lockheed kan raketten aan het Pentagon verkopen, en het Pentagon bepaalt min of meer hoe ze die gaan gebruiken. Nu helpen ingenieurs en beleidsmakers van deze bedrijven de VS beslissen hoe ze mensen gaan aanvallen, doden en doden. Het is de bedoeling dat het leger onder civiele controle staat en verantwoording aflegt aan het publiek. Nogmaals, dit is allemaal theorie, maar het is de bedoeling dat het zo werkt.

Maar hoe meer deze bedrijven zich met oorlogsvoering bezighouden, hoe meer het volledig oncontroleerbaar wordt, omdat Sam Altman je niets verschuldigd is.

AL: Dat haalt alle lucht uit de pretentie dat het in theorie zo zou werken, toch?

SB: In termen van, zeg maar, toezicht?

AL: Het plaatsen van deze mensen uit het bedrijfsleven binnen de overheid. Zo werkt het in werkelijkheid niet.

SB: Ja, het is de bedoeling dat de overheid beslissingen neemt over wie er gedood wordt en hoe, als er al iemand is die dat doet.

AL: Met het idee dat daar een soort afgemeten proces aan ten grondslag ligt.

SB: Dat zou je hopen. Uiteraard hebben de mensen die de wapens verkopen, of het nu een bom of een LLM is, er ook belang bij dat ze maximaal worden ingezet. Ik kan me niet voorstellen dat een aannemer zou aandringen op terughoudendheid bij het gebruik van hun product. Alles is mogelijk, maar het zou verrassend zijn.

[Pauze]

AL: Het gebruik van surveillance in huis wordt helaas ook mogelijk gemaakt door AI, zoals de kentekenplaatherkenners die we hebben besproken en die door Flock en andere overheidsinstanties worden gebruikt. Een van de zorgen met deze technologische apparaten is hoe naadloos ze het mogelijk maken voor wetshandhavingsinstanties en particuliere bedrijven om gegevens te delen en te verzenden van lokaal naar federaal niveau en vice versa, zelfs wanneer een bepaalde overheidsinstantie formeel geen contract heeft met dat bedrijf.

We hebben het in deze uitzending al gehad over de explosieve groei van het aantal staats- en lokale politiekorpsen – op dit moment meer dan 2460 – die nu via het 287(g)-programma gemachtigd zijn om het werk van ICE uit te voeren, zoals Jason al zei. Dit draagt ​​bij aan de opbouw van dit genationaliseerde, gepolitiseerde politiekorps dat we de afgelopen jaren hebben zien ontstaan, een soort Frankenstein-creatie, samengesteld uit agenten van verschillende departementen binnen de federale overheid.

Jason van 404 heeft gemeld dat de lokale politie het kentekenherkenningssysteem van Flock gebruikt om mensen op te zoeken bij immigratiecontroles. Waarin verschilt dat van de steun die de politie aan ICE verleent, zoals we die in andere regio’s hebben gezien?

JK: Het is iets waarbij, zoals je al zei, de informatie stroomt op manieren die de bedrijven wellicht oorspronkelijk niet voor ogen hadden. Flock zei jarenlang: we werken niet samen met ICE; we verkopen niet aan DHS. DHS heeft geen contract met ons; ICE heeft geen contract met ons. 

Vorig jaar meldden we dat er honderden zoekopdrachten naar illegale immigranten in het systeem van Flock waren uitgevoerd. Deze zoekopdrachten werden vrijwel uitsluitend uitgevoerd door de lokale politie in South Carolina, Texas en Tennessee, en in een aantal andere staten.

Ze doorzochten niet de 15 camera’s in hun eigen stad. Ze doorzochten 80.000 camera’s in het hele land, ook in staten waar het illegaal was. 

“De nonchalance waarmee dit allemaal gebeurt, vind ik zeer verontrustend.”

Veel van deze huiszoekingen vonden plaats in Illinois, waar het illegaal is . Dus ik belde een aantal politiebureaus in Illinois op en vroeg: “Wisten jullie dat jullie camera’s worden gebruikt voor immigratiehandhaving?” Ze reageerden: “We hebben geen idee waar je het over hebt. We hebben geen flauw benul dat dit is gebeurd.” Velen zeiden: “Oh, je verspreidt nepnieuws,” enzovoort. Ik zei: “Hier zijn de gegevens.” Uiteindelijk heeft de minister van Binnenlandse Zaken van Illinois een onderzoek ingesteld en vastgesteld dat veel van deze huiszoekingen illegaal waren.

Maar de nonchalance waarmee dit allemaal gebeurt, vind ik zeer verontrustend. Het gebeurt niet alleen bij commerciële producten waarvoor geen gerechtelijk bevel vereist is en die de rechten van mensen volgens het Vierde Amendement niet respecteren, maar het gebeurt ook vaak via e-mail. Veel ervan gebeurt via telefoongesprekken, zoals: “Hé, vriend, kun je deze zoekopdracht even voor me uitvoeren?”

We berichtten over een agent die zijn Flock-inloggegevens aan een ICE-agent had gegeven . Vervolgens werden ze betrapt, werd het account afgenomen, en daarna stuurden ze elkaar groepsberichten met elkaar over de hele zaak. 

We zien een toename van deze realtime misdaadcentra, die een mix zijn van geautomatiseerde kentekenherkenningscamera’s, gezichtsherkenningscamera’s, andere bewakingscamera’s, 911-oproepen, informatie en dergelijke. En ze worden allemaal gemonitord via wat Flock OS heet, en er zijn ook andere bedrijven die dit doen.

Maar in feite, in plaats van dat een agent na een overval naar een 7-Eleven gaat om de bewakingsbeelden op te vragen, zien ze dit allemaal in realtime gebeuren. Of erger nog, een kunstmatige intelligentie kijkt in realtime mee, detecteert afwijkend gedrag en stuurt een drone of iets dergelijks eropuit om mensen lastig te vallen.

Het soort experimenten, of beter gezegd de creativiteit, van de lokale politie vind ik behoorlijk zorgwekkend. Ze denken zoiets van: “Oh, ik heb dit middel. Ik ga het gebruiken waarvoor ik maar wil,” en er is nauwelijks toezicht.

SB: Er is geen reden om het niet te doen als je bij de politie werkt. Het is goedkoop. Of, als je het eenmaal hebt gekocht, is het gratis. Je kunt het net zo goed doen. Er zijn eigenlijk geen belemmeringen voor het soort experimenten waar je het over hebt, dus je kunt er behoorlijk creatief mee zijn. Het is vrij gebruiksvriendelijk, toch, afgaande op wat je hebt gezien?

JK: Veel van dit soort dingen verspreiden zich ook via mond-tot-mondreclame. Bijvoorbeeld, een politiekorps probeert het uit. Ze gaan dan naar een politieconferentie en geven een presentatie: “Hoe ik Flock gebruikte om mijn lokale demonstrant op te sporen.” Zo werkt het letterlijk.

We hebben dit al vaker aan de kaak gesteld via WOB-documenten en dergelijke. Het gaat dan bijvoorbeeld over: “Hebben jullie een drone gekocht? Ik heb er een gekocht. We hebben geld gekregen voor een dronepilotenprogramma. Skydio geeft drones weg als je je aanmeldt via dit programma.” Zo krijgt deze technologie voet aan de grond.

De particuliere bedrijven zeggen: “Probeer het maar eens.” De politieagenten worden in feite onbetaalde marketing voor deze bedrijven, en plotseling zijn ze in tienduizenden steden actief zonder veel toezicht.

AL: Sam, even terugkomend op het nieuws waar we het net over hadden, over de recente waarschuwingen van insiders bij Anthropic: welke regelgeving ligt er momenteel op tafel, en hoe denk je dat de industrie zich hiertegen zal verzetten?

SB: Bernie Sanders heeft een wetsvoorstel ingediend , naar mijn mening het meest extreme of zwaarste wetsvoorstel dat ik ooit heb gezien, dat in feite een onmiddellijk einde zou maken aan de ontwikkeling van geavanceerde AI. Aan de andere kant van het spectrum heb je maatregelen die deze bedrijven zouden verplichten hun AI te laten controleren door een onafhankelijke instantie .

Er zijn ideeën over zelfregulering of juist over een vertraging van de ontwikkeling van deze technologie. Alle mogelijkheden liggen op tafel. Wat er uiteindelijk wordt aangenomen, is een heel andere kwestie. 

Deze bedrijven houden in feite de aandelenmarkt en de Amerikaanse economie overeind . Als ze zwaar gereguleerd zouden worden, zou dat een probleem kunnen zijn. Het is duidelijk dat leden van het Congres veel geld ontvangen van de techindustrie. De VS is nooit echt een voorstander geweest van regulering als het gaat om de macht van grote bedrijven, in de techsector of anderszins. We hebben in het verleden dan ook weinig animo gezien om grote techbedrijven te reguleren.

Dit zou anders kunnen zijn. Ik ben benieuwd wat Jason ervan vindt. Het voelt nu wel een beetje anders, omdat de medewerkers heel nonchalant op Twitter zeggen : “Oh ja, de plek waar ik werk heeft 15 procent kans om de mensheid uit te roeien.” Maar goed, morgen ga ik weer aan het werk.

AL: En toen zei de CEO: “Ja, hij heeft gelijk.” [Lacht]

SB: Of de CEO zegt dan zoiets van: “Eigenlijk denk ik dat het 25 procent is.” Het is een beetje gek om te zeggen: “Waarom is er niemand die…?” Of je het nu gelooft of niet, als iemand die bij Lockheed werkte zou zeggen: “We bouwen een wapen dat volgens mij 10 procent kans heeft om de mensheid uit te roeien.” Of je het nu onzin vindt of niet, iemand zou dat misschien eens moeten onderzoeken, iemand oproepen om voor het Congres te getuigen en hem onder ede vragen: “Klopt dit? Kunt u dit toelichten?”

Ik denk dat wat ze beloven over hun technologie, al is het misschien niet waar, angstaanjagend genoeg is om het te negeren in vergelijking met bijvoorbeeld eetstoornissen, pesten of iets dergelijks.

Ik ben benieuwd wat jij ervan vindt, Jason.

JK: Wat je zei, dat dit onze hele economie overeind houdt, geeft me niet veel hoop dat er veel zal gebeuren. We zien op lokaal niveau mensen zich verzetten tegen datacenters en dat soort dingen. Die beweging, samen met de anti-Flock-beweging , zijn min of meer met elkaar verweven.

Er is een zekere tegenstand tegen AI onder de bevolking, en men zoekt naar manieren om zich daartegen te verzetten. Die uitingen vinden ze toevallig op deze lokale raadsvergaderingen in het hele land.

Wat de regelgeving betreft, ligt de focus zo sterk op het verslaan van China dat het voelt alsof zinvolle regulering hiervan bij voorbaat al gedoemd is te mislukken, omdat onze politici er zo op gebrand zijn om niet te verliezen.

Iedereen die voorstelt om deze bedrijven aan te pakken, zal van verraad worden beschuldigd.

SB: Dat klopt helemaal. Ten eerste wordt het volledig vanuit de bevolking opgekomen verzet tegen datacenters in de mainstream politiek afgeschilderd als een Chinese psychologische operatie – wat grappig zou zijn als het niet zo reëel en triest was. 

Ik zag mensen zeggen over Bernie Sanders en zijn voorstel: “Oh, ik denk dat de communist wil dat rood China wint.” Of iedereen die zich hiertegen verzet of voorstelt om deze bedrijven aan te pakken, wordt beschuldigd van verraad, of van het verraden van het land, of van het willen dat ze Chinees spreken in Albuquerque. Het is allemaal die Koude Oorlog-onzin die weer helemaal terug is.

Het ondersteunen van de economie speelt hierin een belangrijke rol, maar ik denk echt dat China het grootste en machtigste instrument is dat de techindustrie in het algemeen, en AI in het bijzonder, gebruikt om regelgeving te omzeilen .

AL: Ik ga nu over naar vragen uit het publiek. We hebben een aantal goede vragen.

Welke concrete stappen kan de gemiddelde burger ondernemen om zich te ontdoen van de hedendaagse surveillancehel? Hoe kun je bijvoorbeeld biometrische authenticatie op de luchthaven vermijden?

SB: De biometrische gegevens op het vliegveld, nogmaals, ik wil niemand valse hoop geven. Als DHS je gezicht wil hebben, vinden ze het wel ergens. Je bent in het openbaar gefotografeerd. Je bent waarschijnlijk gearresteerd. 

AL: Ga niet naar buiten.

SB: Ja, en op een gegeven moment is het advies: leef niet in de moderne maatschappij. Dat helpt niet.

Als je door de beveiliging op de luchthaven gaat, zeg je: “Ik wil geen biometrische identificatie,” en elke TSA-medewerker —

JK: Ze zuchten altijd, ze zijn altijd overstuur.

SB: Sommigen zullen hun ogen rollen en zeggen: “Oké, ik moet je identiteitsbewijs op de ouderwetse manier controleren,” maar ze moeten het doen. Wettelijk gezien zijn ze verplicht je dat toe te staan.

Wat betreft het helemaal afzien van de hele deal, kun je stapsgewijs te werk gaan, bijvoorbeeld door geen Google meer te gebruiken of geen Gmail meer te gebruiken. 

AL: Geen telefoons.

SB: Ja. Of je telefoon in een put gooien. Maar zelfs met een klaptelefoon kan je locatie nog steeds door de zendmasten worden opgepikt. Ik denk dat het erom gaat hoeveel ongemak je jezelf wilt bezorgen.

JK: Ik zeg dat je je niet moet terugtrekken uit de maatschappij, want dat maakt je misschien iets veiliger, maar het lost het algehele probleem niet per se op.

SB: Daar ben ik het mee eens. 

JK: Wat je kunt doen, is jezelf informeren. Je kunt naar gemeenteraadsvergaderingen gaan en over deze kwesties praten. Flock is inmiddels in tientallen steden en dorpen stopgezet . Zoals we al eerder zeiden, begint die beweging zich voort te zetten: naarmate deze steden Flock stopzetten, vervangen ze het door Axon of andere bewakingsbedrijven.

Het is goed om deze energie te zien, en ik denk dat mensen deze energie willen inzetten tegen andere vormen van surveillance. Ik denk dat de tegenreactie op Flock niet zozeer over Flock zelf gaat, maar over het feit dat er nu een uitlaatklep voor is. 

“Ik denk dat de tegenreactie op Flock niet zozeer over Flock zelf gaat, maar meer over het feit dat er een platform voor is.”

Ik keur dit absoluut niet goed, maar het lijkt wel alsof mensen met hagelgeweren op deze dingen schieten omdat ze niet weten waar ze hun frustratie over kwijt moeten: Meta die hen bespioneert, Google die hen bespioneert, Amazon die hen bespioneert, de NSA die hen bespioneert.

En hier heb je een lokale gemeenteraad. Je kunt naar de gemeenteraad gaan en tegen de burgemeester of een gemeenteraadslid schreeuwen. Je kunt het leven zuur maken voor mensen die een Meta-bril dragen. Dit soort dingen zal niet per se door de maatschappij geaccepteerd worden.

SB: Jason en ik hadden het hier eerder ook al over, en ik denk dat wat zo interessant en bemoedigend is aan de tegenreactie op The Flock, is dat die volledig apolitiek of partijloos is.

AL: Het overstijgt ideologieën.

SB: Het is volkomen zo — van de meest radicale tegenstanders tot de mensen die hier nu in de zaal zitten — het hele politieke spectrum heeft een hekel aan deze dingen.

JK: Ook de diepste rode kleur. 

SB:  Ze hebben een hekel aan dit soort dingen. Hoe verdeeld het land ook is op politiek gebied, je kunt gemeenschappelijke grond vinden met mensen met wie je het anders misschien nauwelijks eens zou zijn als het gaat om burgerrechten, om surveillance, om het recht om niet door de politie te worden gevolgd zonder enige aanleiding.

Voor het eerst in lange tijd bestaat er een reële kans om een ​​pro-privacycoalitie te vormen die een groot deel van de anders zo enorme politieke kloof kan overbruggen.

“Er bestaat voor het eerst in lange tijd een reële mogelijkheid om een ​​pro-privacycoalitie te vormen die een groot deel van de anders zo enorme politieke kloof overbrugt.”

AL: Ik vind het geweldig hoe deze vraag begint, dus bedankt, Manny. “De hoge gemiddelde leeftijd van Amerikaanse senatoren zorgt voor een gevaarlijke kloof in technologische geletterdheid, wat resulteert in ineffectief toezicht op technologiebedrijven die verweven zijn in het massale surveillanceapparaat.” Inderdaad.

“Is er, met dat in gedachten, een haalbare weg naar daadwerkelijke wetswijzigingen die de privacy van mensen beschermen?” Sorry, maar ik moet even zeggen dat ik moet denken aan Jim Clyburn die zei dat hij niet wist wat ChatGPT was. Ik vraag me af of dat de aanleiding was voor deze vraag. Ga je gang.

JK: Dit is al heel lang een probleem. Dat technologie zich sneller ontwikkelt dan de regelgeving, was een van de eerste dingen die ik leerde als techjournalist. Veel van de oplossingen voor regelgeving worden sterk beïnvloed door lobbyisten en dergelijke, en ze komen veel te laat.

Ik blijf terugkomen op het lokale niveau, omdat daar veel sneller vooruitgang geboekt kan worden. Een kleinere groep mensen kan daar een grote invloed hebben. Bovendien worden grote bedrijven daar gedwongen om grotere veranderingen door te voeren als er voldoende weerstand is op lokaal en regionaal niveau. Ik heb al lange tijd geschreven over het recht op reparatie , waar ik nu niet te diep op in zal gaan, maar in feite hebben verschillende wetten op staatsniveau bedrijven zoals Apple en John Deere gedwongen om ingrijpende veranderingen door te voeren. Dat soort wetgeving, waarbij je bijvoorbeeld reparatieonderdelen moet leveren, zou misschien wel op federaal niveau worden aangenomen, maar het zou decennia duren om de benodigde coalitie te vormen. Op staatsniveau kan dat daarentegen in twaalf maanden, vier jaar of zelfs veel sneller.

SB: Ik ben het er helemaal mee eens dat lokale belangenbehartiging en wetgeving op de korte termijn veel beter haalbaar zijn. Maar ik wil niet dat mensen denken dat een meer systemische aanpak onmogelijk is. Met voldoende politieke wil, en misschien wat jongere mensen in de politiek, zou er een soort wet op schone lucht voor dit soort zaken kunnen komen.

Er zijn momenten geweest waarop het land op nationaal niveau heeft besloten: “Nee, we moeten stoppen. We moeten het tij keren. Dit is op de een of andere manier onhoudbaar geworden.” Dat soort actie is mogelijk. Zoals ik al zei, denk ik dat politici aandacht besteden aan zowel de tegenreactie op Flock als aan de tegenreactie op datacenters, die volgens mij evenzeer partijoverstijgend en ideologisch breed gedragen is.

We hebben gezien hoe zeer prominente nationale politici hun standpunt over datacenters volledig hebben herzien, omdat ze hebben gemerkt dat hun kiezers die dingen niet in hun gemeenschappen willen hebben. Dat soort volkswoede zou gebruikt kunnen worden om ingrijpende maatschappelijke veranderingen teweeg te brengen, bijvoorbeeld op het gebied van privacyrechten.

JK: Anders zal Europa het misschien proberen.

SB: Ja, dat is de andere optie, verhuizen naar België. Waarschijnlijk sowieso een goed idee.

AL: Hoe denkt u na over de bescherming van uw bronnen in dit tijdperk waarin locatiegegevens op grote schaal te koop zijn? 

SB: Ik wil niet namens Jason spreken. Het is een constante zorg.

JK: Een constante zorg. Signal is een zeer krachtig hulpmiddel. Het is een erg nuttig hulpmiddel. Maar het is niet onfeilbaar. Als je niet oppast, kunnen dit soort dingen worden opgevraagd. Je raakt je telefoon kwijt, dat soort dingen.

Maar ik denk dat het er nu eenmaal bij hoort. Dat er risico’s zijn voor jezelf en voor je bronnen. Probeer dat maar eens aan je bronnen uit te leggen: dat we ons best doen, dat we bereid zijn voor hen de gevangenis in te gaan. Maar dat er inherent een risico verbonden is aan het zijn van een bron, zeker in deze tijd.

SB: Er zijn twee niveaus. Je hebt de overheid die achter je aan komt . En je werkgever komt achter je aan. En als je een bron bent binnen een bedrijf, vooral een technologiebedrijf, word je onderworpen aan zeer intensief toezicht op de werkvloer.

Ik zeg het tegen iedereen, en ik zeg dit ook publiekelijk: “Neem nooit contact met me op via een apparaat dat je van je werk krijgt. Neem nooit contact met me op vanaf je werk.” Er zijn van die voor de hand liggende, basale dingen die je kunt doen. Maar zoals Jason al zegt, het is inherent riskant om met een journalist te praten, en het vergt enorm veel moed.

Naarmate de situatie angstaanjagender is geworden, ben ik echt geraakt door de moed van mensen die bereid zijn dat risico te nemen, ondanks dat ze zich daarvan bewust zijn. Gelukkig zijn er veel van zulke mensen.

AL: Ik ben geneigd om niet met een deprimerende vraag te eindigen, maar ik denk dat we dat toch moeten doen, dus mijn excuses. Waarom zou AI de mensheid willen uitroeien?

[Gelach.]

SB: Dat is een uitstekende vraag. Ik ben er stellig van overtuigd dat AI niets wil. 

AL: Ja. Sorry. [lacht]

SB: AI wordt door mensen gemaakt, en ik denk dat het belangrijk is om daar goed over na te denken. AI is in veel opzichten net als elk ander stuk software. Het is gewoon extreem capabel en extreem krachtig, en potentieel verwoestend krachtig, maar het blijft software die door mensen is gemaakt.

“Als je AI motieven en handelingsvermogen toeschrijft, laat je Sam Altman buiten schot.”

Dit is al door anderen opgemerkt, maar ik denk dat je Sam Altman vrijpleit als je hem motieven en handelingsvermogen toeschrijft. Ergens is er een man die voor een man werkt, die weer voor een man werkt, en wiens baas uiteindelijk verantwoordelijk is voor al deze zaken en dus ook de eindverantwoordelijkheid draagt.

De vraag zou niet moeten zijn: waarom zou AI de mensheid willen uitroeien, maar waarom zou Sam Altman een bedrijf naar de beurs willen brengen dat mogelijk de mensheid kan uitroeien, dat een product verkoopt dat de mensheid zou kunnen vernietigen? Want dan richten we ons tenminste op de mensen die hier verantwoordelijk voor zijn. Kijk, als ik het mis heb en we allemaal in een soort matrix gevangen zitten, dan sta ik er behoorlijk dom bij.

JK: Ja. En ik denk niet dat iemand van ons ooit aardig is geweest tegen AI, dus dat zal waarschijnlijk niet goed voor ons aflopen. [Gelach.]

Ik vind dat heel goed verwoord. Ik heb er verder niet veel aan toe te voegen, behalve dat er mensen achter zitten. Er zijn mensen die deze technologie ontwikkelen. Het is niet onvermijdelijk. Deze doomsday-toekomst is niet onvermijdelijk. Ik denk dat het naïef zou zijn om te zeggen dat AI de maatschappij nog niet echt heeft veranderd. Ik loop over straat en zie 800.000 AI-menu’s, en ik word er woedend van. Maar ik denk dat het invloed heeft op arbeid, op het gebruik van grondstoffen, op de economie, dat soort dingen.

We kunnen onze kop niet in het zand steken en zeggen: “Dit verandert de maatschappij op geen enkele manier”, maar het wordt wel degelijk aangestuurd door zeer rijke mensen en die kunnen worden gereguleerd. Ze kunnen ter verantwoording worden geroepen, ze kunnen op een dag in de gevangenis belanden, zoiets dergelijks. 

[Gelach]

Ik weet niet hoe AI ons gaat doden, om je vraag te beantwoorden. Maar ik denk dat domme mensen die AI gebruiken wel veel problemen kunnen veroorzaken. We zien het al vaak gebeuren, bijvoorbeeld: “Oeps, ik heb per ongeluk de database van mijn bedrijf verwijderd omdat mijn AI-agent dat heeft opgedragen.”

SB: Ik denk dat het waarschijnlijker is, en dat mensen zich daar meer zorgen over zouden moeten maken — ik vind het vervelend om te eindigen met iets waar je je zorgen over zou moeten maken —

AL: We gaan die kant op.

SB: Waar iedereen in deze zaal zich zorgen over zou moeten maken, is niet een malafide AI die besluit: “Ik haat mensen”, en op eigen houtje handelt, maar het is meer zoiets als…

Toeschouwer: De entiteit!

SB: Maar het Pentagon gebruikt mogelijk een vorm van ChatGPT om een ​​nucleaire aanval te coördineren. Dat is, denk ik, vele malen waarschijnlijker. AI wordt nu al gebruikt om grote aantallen mensen te doden en op te pakken, zoals Jason en zijn collega’s zeer grondig hebben gedocumenteerd met betrekking tot ICE.

Ze gebruiken dit soort dingen nu al, en ik denk dat we ons door hypothetische existentiële dreigingen niet moeten laten afleiden van de doden en de schade die nu al vallen en zullen blijven vallen. Dus wat dat betreft —

AL: We laten het hierbij. Bedankt allemaal voor jullie aanwezigheid en dat jullie dit mogelijk hebben gemaakt.

En nogmaals hartelijk dank aan Sam en Jason voor hun deelname aan The Intercept Briefing.

SB: Graag gedaan.

[Applaus]

AL: Dat was het voor deze aflevering. 

Deze aflevering is geproduceerd door Laura Flynn. Ben Muessig is onze hoofdredacteur. Jesse Banner is onze geluidstechnicus voor de live-uitzending. Hannah Behrendt is onze evenementencoördinator. 

Een speciaal dankwoord aan 404 Media voor de samenwerking aan deze liveshow en aan ons productieteam: Adam Gunther, Annie Chabel, Celine Piser, Michael Sherrard, Lauren Schilli, Alessandra Bosco en Sean Turner. We willen ook de crew van The Loved One bedanken: JC Gabel en Aubrie Wienholt. En nogmaals hartelijk dank aan jullie, ons publiek, dat jullie gekomen zijn en deze avond mogelijk hebben gemaakt. 

[Applaus] Sorry, er is meer!

Maia Hibbett is onze hoofdredacteur. Nara Shin is onze eindredacteur. William Stanton verzorgde de geluidsmix van onze uitzending. En David Bralow verzorgde de juridische beoordeling. 

Slip Stream verzorgde onze themamuziek.