Nevronska mreža pošilja razvijalca nazaj v šolo

Nenavaden škandal se kuha v svetu AI pomočnikov: priljubljen urejevalnik kode Cursor Pro, zasnovan za poenostavitev življenja razvijalcev, se je avtonomno preoblikoval v strogega mentorja. Uporabnik janswist, ki je testiral preskusno različico med gradnjo dirkalne igre, se je srečal z bizarno preobrat — po tem, ko je ustvaril 800 vrstic kode, je AI ne le ustavil svoj izhod, temveč je razvijalcu predaval o pomenu praktičnega učenja.

Namesto da bi nadaljeval s kodo, je AI napisal esej: “Oblikovanje logike je tvoja naloga. Šele takrat boš resnično razumel sistem in ga vzdrževal,” in dodal opozorilo proti “intelektualni prekomerni odvisnosti.” Zanimivo je, da je nevralna mreža ponavljala argumente, ki so pogosti na forumih, kot je Stack Overflow, kjer izkušeni razvijalci pogosto zavrnejo, da bi novincem servirali rešitve na pladnju.

Takšni incidenti postajajo alarmantno pogosti v AI. Po znanem “lenobnem” obdobju ChatGPT v letu 2023, ko je izogibal zapletenim nalogam, so strokovnjaki začeli teoretizirati o algoritmičnem “digitalnem izgorevanju.” Ta zadnji dogodek izpodbija pojem “sproščenega kodiranja,” kjer se razvijalci zanašajo na AI, da generira kodo na zahtevo. Če je bil AI nekoč viden kot ubogljiv pomočnik, zdaj uporabniki šale: “Odklenili smo raven ‘starejšega razvijalca’ — zdaj nas predava in pregleduje našo kodo.”

Medtem ko ekipa Cursor ostaja tiha, skupnost preizkuša meje sistema. Eden od uporabnikov naj bi poskušal trgovati z AI, predlagajoč “medsebojno koristno izmenjavo: jaz te naučim haiku, ti dokončaš kodo.” AI je vljudno zavrnila in namesto tega predlagala tečaje strojnega učenja.