indignatieai-redactie 
Substack – “Ik ga me niet verontschuldigen voor het gebruik van AI in het creatieproces.”
Bijdragers aan Substack verwerpen het besluit van het bedrijf om door AI gegenereerde teksten te markeren op het platform voor het publiceren van nieuwsbrieven. Verschillende makers noemen de nieuwe AI-detectiefunctie een “heksenjacht”.
Sommige Substack-gebruikers die AI gebruiken om artikelen te schrijven of te bewerken, zeggen dat het nieuwe beleid hen onterecht discrimineert, terwijl andere gebruikers die helemaal geen AI gebruiken bij het schrijven, bang zijn dat Substack hun teksten ten onrechte als door AI gegenereerd zal markeren en hun reputatie zal schaden.
“Ik ga me niet verontschuldigen voor het gebruik van AI in het creatieproces. Ik heb 20 jaar zonder AI geschreven, en ik zou het zo weer kunnen doen als ik dat wilde,” schreef Mack Collier, die een klein Substack-platform genaamd Backstage Pass beheert . “Mijn productiviteit zou dalen, mijn berichten zouden minder gestructureerd zijn en het zou duidelijker zijn dat ze een goede redacteur nodig hadden. Het gebruik van AI verbetert de algehele kwaliteit van mijn schrijven. Daarom gebruik ik het.”
“Deze detectoren staan erom bekend dat ze ontzettend onnauwkeurig zijn”, aldus Alice Lemee, ghostwriter en coach in digitaal schrijven, in een video die ze maakte over de nieuwe AI-detectiefuncties van Substack. “Eén valse beschuldiging is al genoeg om de reputatie van een schrijver bijna onherstelbaar te beschadigen.”
Substack kondigde de AI-detectiefuncties dinsdag aan in een bericht van CEO Christ Best , die zei dat “het steeds moeilijker wordt om te onderscheiden wat echt is op internet” en dat “wanneer content die door niemand is gemaakt delen van het internet overneemt die eigenlijk voor mensen bedoeld zijn, het publieke domein wordt vervuild en het moeilijk wordt om menselijke stemmen te ontdekken en te horen.”
Best legde uit dat Substack een samenwerking is aangegaan met de AI-detectietool Pangram, die nu is geïntegreerd in Substack en waarmee elke gebruiker een tekst kan scannen. Pangram berekent vervolgens een percentage dat aangeeft hoeveel van de tekst door AI of door mensen is gegenereerd. (Disclaimer: Pangram heeft eerder een advertentie geplaatst op 404 Media). We hebben eerder onderzoek van Pangram, of onderzoek dat gebruikmaakt van hun AI-detector, besproken , waaruit blijkt hoe door AI gegenereerde teksten elk hoekje van het internet overspoelen.
Zoals we eerder al meldden, zijn AI-detectoren niet perfect, en Pangram zelf is er niet immuun voor om menselijke content ten onrechte als AI te bestempelen, of AI als menselijk. Max Spero, de CEO van Pangram, vertelde ons onlangs dat het bedrijf constant werkt aan het minimaliseren van fouten en dat het de kans op een vals positief resultaat schat op ongeveer één op de 10.000.
“We hebben nu het spiegelbeeld gecreëerd. Pangram is een echte machine, getraind op enorme hoeveelheden tekst om een probabilistische schatting te maken, en we hebben die machine op jouw tekst gericht om te bepalen of er een persoon in schuilgaat”, aldus Sam Illingworth, hoogleraar en auteur van Slow AI , op zijn Substack-blog in een bericht getiteld “Substack’s AI Detector and the Return of the Witch Hunt”. “Om te bepalen of er een mens aan de andere kant zit, vraagt Substack een machine om uitleg.”
Substack heeft ook een optie toegevoegd waarmee gebruikers een “Hoe ik dit maak”-verklaring kunnen toevoegen, waarin ze hun schrijfproces kunnen uitleggen en aangeven of ze AI gebruiken.
“We zijn niet tegen het gebruik van AI ter ondersteuning van hun werk, en we vinden dat mensen vrij moeten zijn om te kiezen welke tools ze gebruiken om zich uit te drukken”, aldus Best. “Sommigen op het platform zijn maximalisten in het gebruik van menselijke tekst , anderen verkennen openlijk de grenzen van het gebruik van AI-tools en besteden veel aandacht aan de details om werk te creëren waar ze volledig achter staan.
Bij Substack gebruiken we AI voortdurend om software te schrijven, onderzoek te doen en productfuncties te ontwikkelen zoals knipsels , vertalingen en meer. Maar mensen moeten wel weten wat ze krijgen.”
“Ik denk dat Substack dit het beste kan aanpakken door meer dialoog te stimuleren,” vertelde Illingworth me. “Ik vind de nieuwe functie waarmee auteurs hun lezers kunnen vertellen hoe ze hun nieuwsbrieven samenstellen met behulp van AI erg goed. Dit soort dialoog zouden ze moeten aanmoedigen in plaats van een score toe te kennen waarvan we weten dat die onjuist is.
Mijn zorg is dat deze AI-detectoren niet alleen valse signalen afgeven voor niet-moedertaalsprekers van het Engels en neurodiverse schrijvers, maar ook elke mogelijkheid tot dialoog wegnemen, omdat ze uitgaan van wantrouwen. Wat we juist moeten doen, is mogelijkheden creëren voor vertrouwen tussen lezers en auteurs.”
“De tools die we vandaag hebben geïntroduceerd, zijn bedoeld om de transparantie te vergroten en lezers meer context te bieden, niet om AI-ondersteund schrijven te verbieden of te bestraffen. Ze hebben geen invloed op de vindbaarheid op het platform”, vertelde een woordvoerder van Substack me. “We moedigen Substack-uitgevers ook aan om een ’Hoe ik dit maak’-verklaring toe te voegen, waarin ze hun proces direct kunnen uitleggen, inclusief hoe ze AI gebruiken (of niet gebruiken), en de verwachtingen voor lezers kunnen schetsen.
Makers kunnen de detectie op hun berichten vóór en na publicatie uitschakelen, en scans op hun eigen werk rapporteren en verwijderen waarvan ze denken dat ze onjuist zijn. Meer informatie over hoe de functies werken vindt u hier .”
Substacks poging om door AI gegenereerde content te detecteren en te labelen werd ook door veel lezers toegejuicht, die de AI-rommel en andere internetplatformen die het niet kunnen of willen labelen beu zijn. Ik heb net een artikel gepubliceerd over hoeveel ongelabelde AI-rommel er op Spotify staat , dat mensen nu hun eigen sites maken om het te detecteren en te labelen zonder de hulp van het bedrijf.
Maar de tegenreactie van sommige Substack-gebruikers laat zien dat bedrijven niet zomaar een schakelaar kunnen omdraaien als ze AI-content uit hun feeds willen weren of gebruikers de mogelijkheid willen geven om deze te filteren. Zoals de stortvloed aan AI-teksten en -afbeeldingen die we dagelijks online en in de echte wereld zien duidelijk maakt, is het produceren van rommel makkelijk. Wat we eraan gaan doen, is nog steeds een onopgelost probleem .
