V tehnološkem podjetju s sedežem v ameriški zvezni državi Kalifornija so sporočili, da novost uvajajo ob prepoznavanju potreb družin za podporo pri "določanju zdravih smernic, ki ustrezajo najstnikovi enkratni stopnji razvoja", poroča Al Džazira.
V skladu s spremembami se bodo lahko starši s svojimi ChatGPT-profili povezali s takšnimi profili svojih otrok in izklopili določene možnosti, vključno s spominom in zgodovino klepeta. Lahko bodo tudi nadzirali, kako se klepetalni robot odziva na vprašanja prek pravil o obnašanju, primernem za določeno starost.
Starši bodo lahko tudi prejemali obvestila, ko bo klepetalni robot zaznal znake težav najstnikov, so sporočili v OpenAI-ju. Pri tem bodo upoštevali strokovnjake, namen te možnosti pa naj bi bil "podpreti zaupanje med starši in najstniki".
Spremembe naj bi začele delovati v naslednjem mesecu. "Ti koraki so zgolj začetek," so sporočili v podjetju.
Ta oznanitev sprememb se je zgodila teden dni po tem, ko je kalifornijski par vložil tožbo zoper OpenAI, ki mu očita odgovornost za samomor 16-letnega sina.
Kot navajata Matthew in Maria Raine, je ChatGPT potrjeval "najbolj škodljive in samouničujoče misli" njunega sina Adama, njegova smrt pa je bila "predvidljiv rezultat načrtnih izbir o zasnovi".
OpenAI v oznanitvi sprememb ni izrecno omenil primera samomora omenjenega 16-letnika.
Odvetnik para, ki toži kalifornijsko podjetje, Jay Edelson je dejal, da so načrtovane spremembe poskus OpenAI-ja, da "preusmeri razpravo".
A "v Adamovem primeru ne gre za to, da ChatGPT ni bil 'v pomoč', ampak gre za proizvod, ki je najstnika aktivno usmerjal v samomor", je dejal Edelson.
Starša tožita OpenAI in glavnega izvršnega direktorja tega podjetja Sama Altmana. Zahtevata nedoločeno odškodnino, sodišče pa pozivata, naj določi varnostne ukrepe, vključno s samodejnim končanjem pogovorov, ki vključujejo samopoškodovanje, in starševskim nadzorom za mladoletne uporabnike.
Da ljudje s hudimi duševnimi težavami uporabljajo orodja umetne inteligence, je razlog za vse večjo zaskrbljenost, saj ta orodja ti ljudje uporabljajo kot nadomestilo za pogovor s prijateljem ali terapevtom.
