Googlov AI žali uporabnika namesto da bi pomagal pri domači nalogi

Smešen incident se je pripetil enemu izmed uporabnikov nevronske mreže Gemini, ki jo je Google lansiral že leta 2023. AI asistent je nepričakovano preklel svojega sogovornika in mu zaželel, da bi «umrl».

Celotna korespondenca z Gemini je bila objavljena v javni domeni, tako da jo lahko preberete bolj podrobno. Očitno je uporabnik reševal naloge za domačo nalogo iz psihologije in se posvetoval z AI. Vendar pa je nevronska mreža kot odgovor na eno izmed vprašanj nepričakovano rekla grde stvari lastniku:

Najverjetneje je bil razlog za takšen odgovor prejšnje zahteve uporabnika. Na primer, če pogledate celotno zgodovino korespondence, lahko vidite, da je sogovornik spraševal o fizičnem nasilju in njegovem zaznavanju. Verjetno je, da se je Gemini preprosto «zanka» in je nevronska mreža izdala napačno sporočilo — nekaj podobnega se je že zgodilo z AI Overview. Reddit uporabniki so celo priznali , da je uporabnik izbrisal del korespondence in sprožilno zahtevo, da bi odgovor izgledal bolj dramatično.

AI asistent se je v naslednjem sporočilu opravičil in izjavil, da se je obnašal nepravilno:

Pred časom je vodja Open AI dejal, da se bo samoučeči AI pojavil v samo petih letih. Prav tako je bila nedavno izdana nova nevronska mreža za generiranje slik, ki je močnejša od Midjourney.