Denne historien er syndikert fra Substack-nyhetsbrevet Big Technology; abonner gratis her .
Nylig løftet en ny Substack kalt The Rationalist analyse og skriving direkte fra Big Technology. Den er plagiert post om 'Skaperøkonomien' - som vi hadde dekket dager før— gikk viralt og traff Forside av Hacker News og utløste en samtale med mer enn 80 kommentarer. Det ville vært en fantastisk debut for enhver publikasjon, hvis den var autentisk.
hva er hemmeligheten om
Det som imidlertid gjorde saken til The Rationalist spesielt slående, var forfatteren - en avatar ved navn 'PETRA' - innrømmet at de hadde brukt AI-verktøy for å produsere historien, inkludert de fra OpenAI, Jasper og Hugging Face. Hastigheten de var i stand til å kopiere, remikse, publisere og distribuere sin uautentiske historie med var imponerende. Det overgikk plattformenes evne, og kanskje vilje, til å stoppe det, og signaliserer at Generative AIs mørkere side vil være vanskelig å temme.
'Det er veldig vanskelig å forutsi all den ondsinnede bruken,' sa Giada Pistilli, hovedetiker ved Hugging Face. 'Vi prøver å forutse alle risikoene, men det er alltid veldig vanskelig.'
The Rationalist er en merkelig publikasjon. Den har ingen misjon. Ingen navngitte forfattere utenfor PETRA. Den har vært live i en uke. Og likevel to dager etter at den ble publisert, løftet den passasjer direkte fra Big Technology.
Her er for eksempel en Big Technology-klausul fra forrige ukes historie :
Når dagene med nullrenteskum slutter, blir investeringene vanskeligere å rettferdiggjøre.
Og her er Rasjonalisten, to dager senere :
Med slutten av nullrenteskummet blir disse investeringene vanskeligere å rettferdiggjøre.
Her er en annen klausul fra Big Technology:
Oppretting av nettinnhold er fortsatt stort sett levedyktig for det øverste sjiktet av nettskapere
Og her igjen The Rationalist, to dager senere:
Bare toppsjiktet av skapere er i stand til å tjene en levedyktig inntekt
En prangende overskrift – «Skaperøkonomien: topp 1 % og alle andre» – bidro til å drive Rationalists historie til Hacker News-forsiden, en posisjon som vanligvis er verdt tusenvis av visninger. Kjernen i historien, løftet fra Big Technology, var god nok til å vekke en diskusjon.
Men mens Hacker News-brukere leste gjennom, la de merke til at noe var slått av. 'Hele artikkelen føles for meg som om den er generert av GPT-3 basert på noen få spørsmål,' skrev en bruker. 'Dette er ikke skrevet av en person,' sa en annen. Da tilsto Petra. 'Hvis du er fra hackernyheter, her er verktøyene jeg brukte for å forbedre lesbarheten,' sa de før de listet opp OpenAI, Jasper og Hugging Face. Verktøyene muliggjør AI-skriving og bidro sannsynligvis til å remikse den originale artikkelen. PETRA, som ikke svarte på en forespørsel om kommentar, nevnte ikke at innholdet stammet fra en annen publikasjon.
utfordringen sesong 29 episode 6
Mens historien sirkulerte, sto de tekniske plattformene som hjalp The Rationalist stille. OpenAI delte en generisk uttalelse som inkluderte linjen 'Våre retningslinjer krever at brukere er på forhånd med publikum.' Hugging Face innrømmet at det ikke var mulig å finne den fornærmende brukeren, selv om Pistilli virket takknemlig for å bli varslet. Og Substack lovet å undersøke.
Substack sa at den har en policy mot plagiering, som Merriam-Webster definerer som 'å stjele og gi bort (ideer eller ord fra en annen) som sine egne.' Selv om denne saken passer til definisjonen, bestemte Substack seg for å la The Rationalists innlegg stå. 'På dette tidspunktet kan vi ikke konkludere med sikkerhet at innlegget bryter vår plagiatpolicy,' sa Substack-talsperson Helen Tobin.
Gitt The Rationalists suksess, vil mer avansert innsats for å kopiere og remikse andres arbeid med AI sannsynligvis finne sted. Og det skal være enkelt å forbedre. Rasjonalisten var slurvete og løftet klausuler ord for ord. Men ettersom publikasjoner med lignende hensikter foredler systemene sine, vil de kunne fjerne alle spor av originalteksten og bare videreformidle ideene. Og det burde heller ikke være vanskelig å automatisere.
Se for deg at AI remikser Financial Times sine ti mest leste historier om dagen – eller The Informations VC-dekning – og gjør rapporteringen tilgjengelig uten betalingsmur. AI skriver allerede ikke-plagierte historier for publikasjoner som CNET . På et visst tidspunkt vil noen utgivere kutte hjørner.
Det er ingen rask teknologisk løsning på disse problemene. Som tilfellet har vært for nesten alle tilfeller av dårlig informasjon som spres på nettet, vil lesere og redaktører igjen måtte finne ut av dette selv. 'Konkurrentene våre river oss av hele tiden, og remikser egentlig ting og deler,' sa The Information CEO Jessica Lessin. 'Informasjonsabonnentene er smarte for å få den fra kilden. Men jeg ser selvfølgelig på alt dette med fascinasjon.»
