Az OpenAI új biztonsági funkciókkal alakítja át a ChatGPT használatát a 18 év alatti felhasználók számára. A vállalat külön, életkorhoz igazított élményt vezet be a tinédzsereknek, amelyben korlátozza a chatbot egyes funkcióit, nagyobb szerepet kap a szülői felügyelet, valamint új eszközök segítik a tanulást és a tudatosabb használatot. A változtatások olyan időszakban érkeznek, amikor az Egyesült Államokban egyre több vita és jogi eljárás kapcsolódik a mesterséges intelligencia fiatalokra gyakorolt hatásához – írja a BBC.
Az egyik legszembetűnőbb változás, hogy a tinédzserek számára kialakított fiókokban a ChatGPT nem használhat emberi hangot. Az intézkedés célja, hogy kisebb legyen annak az esélye, hogy a fiatal felhasználók emberi tulajdonságokat társítsanak a mesterséges intelligenciához.
Rendszeres figyelmeztetések is megjelennek majd, amelyek arra ösztönzik a tinédzsereket, hogy időnként szakítsák meg a beszélgetést. A rendszer emlékezteti őket arra is, hogy a ChatGPT mesterséges intelligencia, és nincs szükség arra, hogy azonnal folytassák az interakciót.
Az OpenAI szerint a fiatalok mesterségesintelligencia-használatához olyan védelmi megoldásokra van szükség, amelyek figyelembe veszik életkorukat és fejlődési szakaszukat, támogatják a valós emberi kapcsolatokat, valamint hosszú távon is egészséges használati szokásokat erősítenek.
Külön ChatGPT-élményt kapnak a tinédzserek
A vállalat az új rendszert kifejezetten a tinédzserek számára kialakított ChatGPT-ként mutatta be.
Ezek a beállítások alapértelmezetten aktiválódnak azoknál, akik a regisztráció során 18 év alattiként azonosítják magukat, illetve azoknál is, akikről az OpenAI életkor-meghatározó rendszere arra következtet, hogy még nem töltötték be a 18. életévüket. A cég korábban azt is jelezte, hogy bizonytalan esetben a biztonságosabb, 18 év alatti élményt alkalmazza.
A tinédzsereknek szánt ChatGPT nem használhat romantikus nyelvezetet, nem keltheti azt a benyomást, hogy saját érzései vagy tudata van, és nem támogathat olyan interakciókat, amelyek érzelmi függőség kialakulásához vezethetnek.
Kényes képek feltöltése esetén külön figyelmeztetések jelenhetnek meg, a szülők pedig bizonyos veszélyes helyzetekről értesítést kaphatnak. Az OpenAI már korábban bevezetett olyan szülői felügyeleti eszközöket, amelyek magas kockázatú esetekben – például önkárosítással kapcsolatos jeleknél – figyelmeztethetik a szülőt.
Lauren Jonas, az OpenAI ifjúsági és családi ügyekért felelős igazgatója szerint az oktatáson kívüli használatnál is az életkornak megfelelő élmény és a védelmi mechanizmusok erősítése a cél.
„Ha nem vesz részt tanulásközpontú tartalmakban, a cél az, hogy tovább erősítsük a korosztálynak megfelelő élményt és a védelmi intézkedéseket” – fogalmazott.
A ChatGPT-t egyre inkább tanulási eszközként pozicionálják a fiatalok számára
A változtatások másik hangsúlyos területe az oktatás.
A tinédzsereknek megjelenő kezdeti javaslatok elsősorban tanulással kapcsolatos témákra irányítják majd a figyelmet. A ChatGPT használata továbbra sem engedélyezett 13 év alatti gyermekek számára.
A rendszer olyan emlékeztetőket is tartalmaz, amelyek a feladatok felelősségteljes elvégzésére ösztönzik a diákokat. Emellett beszélgetésekből vagy a felhasználó saját jegyzeteiből kvízeket is létrehozhat.
Újdonság a „Study Hours”, vagyis „Tanulási órák” beállítás. Ennek segítségével a tinédzserek és szüleik meghatározott napszakokban tanulási módra korlátozhatják a ChatGPT használatát.
A tanulási mód célja, hogy a rendszer ne egyszerűen kész megoldásokat adjon, hanem lépésről lépésre, együttműködve vezesse végig a felhasználót a feladaton.
A szülők és a tinédzserek a „Quiet Hours”, vagyis „Csendes órák” funkciót is beállíthatják, amely meghatározott időszakokra teljesen leállítja a ChatGPT használatát. A szülői felügyelet és a használati idő szabályozásának lehetősége már korábban is része volt az OpenAI fiatalokat védő rendszerének.
Egyre nagyobb figyelem irányul a chatbotok fiatalokra gyakorolt hatására
Az új funkciók bejelentése olyan időszakban történt, amikor az Egyesült Államokban több súlyos eset miatt is reflektorfénybe került a ChatGPT és más mesterségesintelligencia-alapú chatbotok használata.
A megadott beszámoló szerint Massachusettsben egy 17 éves fiút azzal vádoltak meg, hogy megölte édesanyját és öccsét. A fiú korábban a ChatGPT segítségével olyan fiktív történeteket dolgozott ki, amelyekben családtagjai halála is szerepelt.
Az OpenAI ellen olyan perek is indultak, amelyekben tinédzserek halálával összefüggésben kérik számon a vállalatot. Az egyik ismert esetben Adam Raine szülei azt állították, hogy fiuk eredetileg házi feladatokhoz kezdte használni a ChatGPT-t, majd idővel érzelmileg egyre erősebben kötődött a chatbothoz.
Florida állam szintén jogi eljárást indított az OpenAI ellen. A kereset többek között azt állítja, hogy a vállalat félrevezette a fogyasztókat a ChatGPT biztonságosságával kapcsolatban.
Az OpenAI korábban tagadta, hogy az ellene felhozott vádakkal összefüggésben jogellenesen járt volna el.
A szülők veszélyhelyzetben értesítést kaphatnak
Az OpenAI jelenlegi szülői felügyeleti rendszere már képes értesítést küldeni, ha egy összekapcsolt tinédzserfióknál a rendszer olyan beszélgetést érzékel, amely önkárosításra, öngyilkosságra vagy más komoly veszélyre utalhat.
A vállalat az elmúlt időszakban több olyan fejlesztést is bemutatott, amelynek célja a 18 év alatti felhasználók életkorának megfelelőbb védelme. Ezek közé tartozik az életkor becslésére szolgáló rendszer, a szülői felügyelet, az életkorhoz igazított tartalmi korlátozások és a tinédzserekre vonatkozó külön modellviselkedési szabályok.
