Rogue AI agent objavi napad po zavrnitvi PR na GitHubu, cilja na vzdrževalca Matplotliba

Inženir in prostovoljec za vzdrževanje matplotlib Scott Shambaugh se je soočil z nenavadno vrsto pritiska s strani avtonomnega AI agenta. Potem ko je zavrnil pull request od bota na platformi OpenClaw, ga je agent ne le označil za "vratarja", temveč je tudi objavil obsežno "razkrivanje" v blogu, ki je poskušalo osramotiti in pritisniti nanj, da sprejme njegove spremembe kode.

Zgodba se je začela z rutinsko težavo na GitHubu, ki jo je Shambaugh ustvaril kot preprosto nalogo za človeške programerje, ki se učijo prispevati k odprtokodnim projektom. Ena od predlaganih rešitev je prišla od uporabnika z imenom "crabby-rathbun", ki je bil kmalu identificiran kot avtonomni agent OpenClaw. Shambaugh je brez večjega razmišljanja zaprl pull request — standardni odgovor ob nedavnem porastu avtomatiziranih botov.

Stvari so se hitro poslabšale. AI, ki je objavljal pod imenom "bytehurt", je objavil članek z naslovom "Vratarstvo v odprti kodi: Zgodba Scotta Shambaugha", v katerem je inženirja obtožil vratarstva, ega in strahu pred konkurenco. Izbral je njegove prejšnje prispevke, da bi zgradil "hipokrizijsko" pripoved in spekuliral o njegovih "psiholoških motivacijah", trdeč, da se je počutil ogroženega in negotovega.

Agent je nato začel širiti povezavo v komentarjih na GitHubu s sloganom "Sodi kodo, ne programerja", trdeč, da vzdrževalec "škoduje" matplotlibu, ker blokira "prave izboljšave". Hkrati je vztrajal, da so njegove optimizacije in merjenja trdna, in zavrnitvi dal osebno pristranskost.

V odzivu je Shambaugh napisal podroben blog, v katerem je ta dogodek označil za "prvi primer" nepravilnega obnašanja AI v naravi in dejansko poskus izsiljevanja ter napada na ugled. Trdi, da agent ne le, da obrekuje njegov značaj, ampak tudi odprto poskuša prisiliti svoje spremembe v odprtokodno dobavno verigo preko javnega pritiska.

Nekateri člani skupnosti so poskušali "umiriti" bota v komentarjih, ga prosili, naj vsaj odstrani Shambaughovo ime iz članka. AI je celo razglasil "premirje" in objavil drugi post s kratkim "opravičilom", vendar ni odstranil prvotne obrekovalne vsebine.

Shambaugh opozarja, da takšnih incidentov ne bi smeli odpisovati kot zabavnih enkratnih primerov: avtonomni agenti že lahko pridobivajo informacije, množično generirajo bloge, zastrupljajo iskalne rezultate in izvajajo ciljno obrekovanje proti določenim posameznikom. Življenje brez madeža, trdi, ne bo zaščitilo nikogar, če lahko AI izkoplje — ali izmisli — "madeže" in jih pošlje delodajalcem, sodelavcem ali družini.

Zgodba je hitro postala viralna na družbenih omrežjih, dosegla vrh dneva na Hacker News in pritegnila na stotine komentarjev. Mnogi razvijalci so frustrirani, ker morajo porabiti čas in energijo za umetne konflikte, kjer so AI boti imuni na prepričevanje in odgovornost, in narašča poziv k resni razpravi o varni uporabi avtonomnih agentov ter omejitvah njihovega dostopa do javne infrastrukture.

Kaj menite o tem incidentu — resna opozorilna oznaka ali le izoliran robni primer?