Az OpenAI ígérete a nagyobb átláthatóság kapcsán izgalmas lehetőségeket kínál, de ez a törekvés nem mentes a kihívásoktól.
Az OpenAI nemrégiben bemutatott egy új weboldalt, amely célja, hogy fokozza a mesterséges intelligencia fejlesztésének átláthatóságát. Ez a lépés kétségtelenül üdvözlendő, hiszen a technológia fejlődése egyre nagyobb figyelmet igényel. Ugyanakkor, ezt a kezdeményezést néhány apróbb hiányosság övezi, amelyek érdemesek a megfontolásra.
Bár a nagyszabású nyelvi modellek által vezérelt mesterséges intelligenciák rendkívül értékes eszközökké válhatnak a tartalomkészítés területén, létezik egy súlyos aggály: ezek az AI rendszerek képesek hallucinálni, azaz olyan információt generálni, ami valójában nem igaz. Nemrégiben egy férfi panaszt tett az OpenAI-nál, mert a ChatGPT azt állította róla, hogy megölte a gyermekeit, ezzel súlyos következményeket okozva a valóságos életében.
A mesterséges intelligencia működése sokszor rejtélyesnek tűnhet, ezért az OpenAI elhatározta, hogy átláthatóbbá teszi ezt a folyamatot. Ennek érdekében egy új weboldalt indítottak, amelyen különféle fontos információkat osztanak meg a jövőben. Itt például nyomon követhető lesz a modellek hallucinációs aránya, valamint az, hogy mennyi káros tartalom keletkezik a használatukkal. Továbbá, a jelentések segítségével a felhasználók láthatják, hogy a modellek mennyire követik az utasításokat.
A vállalat bejelentette, hogy az új platform révén nagyobb átláthatóságot kíván nyújtani az OpenAI működésével kapcsolatban. Azonban, hogy ez mennyire lesz megvalósítható, az kérdéses. A The New York Times nemrégiben arról számolt be, hogy a cég véletlenül törölte azokat a bizonyítékokat, amelyek választ adhatnának arra, hogy a vállalat esetleg ellopta-e a lap cikkeit a mesterséges intelligencia betanítása érdekében - írja az Engadget.
Az OpenAI bejelentette, hogy új weboldala elsősorban azt a célt szolgálja, hogy a közvélemény tisztán lássa, milyen biztonsági intézkedések állnak a mesterséges intelligencia működésének hátterében. Emellett a vállalat arra törekszik, hogy általános átláthatóságot nyújtson a tevékenységeivel kapcsolatban. Fontos azonban megjegyezniük, hogy az oldalon közzétett információk csupán "pillanatfelvételek", így a részletesebb tájékoztatás érdekében az érdeklődőknek más forrásokból is érdemes tájékozódniuk.
A lap megjegyzi: a kezdeményezés ugyan jó, ám a teszteket maga az OpenAI végzi, és a cég közli az adatokat is, így könnyen lehet, hogy nem a teljes igazság olvasható ki a tájékoztatásból.
