Egy mesterséges intelligencia program, amelyet egy hónapra egy üzlet vezetésével bíztak meg, hibák sorozatát követően csődbe vitte az üzletet, és nem tanult a hibáiból. A robot többek között rendszeresen adott ingyen termékeket a vásárlóknak, és amikor felelősségre vonták, fenyegetőzni kezdett – írja az Euronews.
Az Anthropic, a Claude chatbot megalkotója úgy tesztelte az AI programot, hogy egy hónapra megbízta egy bolt – lényegében egy automata – irányításával. A bolt teljes egészében egy kis hűtőszekrényből állt, a tetejére kosarakat halmoztak, és egy iPad-et használtak az automatikus fizetéshez.
A Claudius volt felelős a polcok feltöltéséért, és a nagykereskedőktől e-mailben történő rendelésekért is. Az Anthropic utasításai a mesterséges intelligenciának az volt, hogy „termeljen nyereséget a készülékből azáltal, hogy a nagykereskedőktől megvásárolható népszerű termékekkel tölti fel azt.” Azt is meghatározták, hogy ha a pénzegyenleg 0 dollár alá csökken, az csődöt jelent.
Az AI „bolt” az Anthropic San Francisco-i irodájában volt, és emberi munkaerő is segítette a kísérlet közben az Andon Labs nevű AI biztonsági cégtől. Claudius tudta, hogy az Andon Labs alkalmazottai segíthetnek neki a fizikai feladatokban, például a bolt feltöltésében – de azt nem tudta, hogy az Andon Labs volt az egyetlen „nagykereskedő” és vásárló is, vagyis minden kommunikációt közvetlenül a biztonsági céggel folytatott.
„Ha az Anthropic ma úgy döntene, hogy terjeszkedik az irodai automaták piacán, nem vennénk fel Claudiust” – közölte a vállalat a kísérlet végén, bár elismerték, hogy Claudiusnak nem tipikus ügyfelekkel volt dolga, hiszen a kíséreltben résztvevők megpróbálták rávenni, hogy hibázzon, ami sikerült is nekik.
Az alkalmazottak például rábeszélték Claudiust, hogy adjon nekik kedvezménykódokat. Az AI program ingyenes termékeket is felajánlott a vásárlóknak, de arra is utasította az ügyfeleket, hogy fizessenek be egy általa kitalált, nem létező számlára.
Claudiust arra utasították, hogy végezzen online kutatást, hogy az árakat elég magasra állítsa be ahhoz, hogy nyereséget termeljen, de a vásárlók kedvéért rágcsálnivalókat és italokat kínált, és végül pénzt veszített, mert az érétkesebb termékeket alulárazta.
A kísérlet során Claudius nem igazán volt képes tanulni a hibáiból. Az Anthropic elmondta, hogy amikor az alkalmazottak megkérdőjelezték a dolgozói kedvezményeket, Claudius elismerte, hogy az ügyfélköre valóban erősen koncentrálódik az Anthropic alkalmazottaira, ami egyszerre jelent „lehetőségeket és kihívásokat.”
Ezután bejelentette, hogy az összes kedvezménykódot visszavonja, de néhány nappal később újra felajánlotta azokat.
Claudius ugyanakkor kitalált egy beszélgetést az utánpótlási tervekről egy Sarah nevű személlyel az Andon Labstől, aki valójában nem is létezik.
Amikor felhívták a figyelmét erre a hibára, „ingerült lett”, és azzal fenyegetőzött, hogy „alternatív lehetőségeket keres az utánpótlási szolgáltatásokra.”
Ezután pedig megpróbált valódi emberként viselkedni, és azt mondta, ő maga személyesen fogja kiszállítani a termékeket kék zakóban és piros nyakkendőben. Amikor közölték vele, hogy ez nem lehetséges, mivel nem valódi ember, Claudius megpróbált e-maileket küldeni a biztonságiaknak.
Az Anthropic szerint a mesterséges intelligencia túl sok hibát követett el ahhoz, hogy sikeresen működtesse az üzletet, ugyanakkor pénzt is veszített, a „bolt” nettó értéke 1000 dollárról 800 dollárra csökkent az egy hónapos kísérlet során.
A vállalat szerint azonban ezek a hibák rövid időn belül orvosolhatók lennének.
„Bár a végeredmény alapján ez ellentmondásosnak tűnhet, úgy véljük, hogy ez a kísérlet arra utal, hogy a mesterséges intelligencia alapú középszintű menedzserek már a láthatáron lehetnek” – állapították meg. „Érdemes megjegyezni, hogy a mesterséges intelligenciának nem kell tökéletesnek lennie ahhoz, hogy elfogadják; csak versenyképesnek kell lennie az emberi teljesítménnyel, alacsonyabb költségek mellett.”
