A mesterséges intelligenciának új akadálya van: a bolondok napja
A mesterséges intelligencia csak annyira "okos", mint a kapott információ, és láttuk az információk nagy részének árnyoldalait az internetről. De mi történik, ha a mesterséges intelligencia szándékosan hamisított cikkekkel találkozik? Nos, még több ugyanebből.
Nem rejtély, hogy sok hamis információ található az interneten, amelyekből a mesterséges intelligencia táplálkozhat. Például, nagyon. Azonban nem minden hamis információt mutatnak be igaz tényként. Az olyan kiadványok, mint a The Onion, szatírák és szándékosan nevetséges hamis cikkek írására specializálódtak. Bolondok napján az internetet még több ilyen típusú tartalom árasztja el, és ez problémát jelent a mesterséges intelligencia számára.
Ben Black újságíró 2020 áprilisának bolondjain írt egy történetet Cwmbranról, dél-walesi városáról, amely Guinness-rekordot állított fel a legtöbb körforgalom négyzetkilométerenként. Ben később aznap egy nyilatkozatot tett hozzá, hogy tisztázza, hogy a történet vicc volt, de ez nem akadályozta meg egy másik kiadványt abban, hogy hírként vegye fel. Annak ellenére, hogy megpróbálták kihúzni a történetet, a cikk ma is elérhető az interneten.
Ugorjon előre öt évet a 2025-ös bolondok napjáig, és Ben a Google-on keresi meg régi történetét. Láss csodát, úgy találja, hogy viccét a Google AI Overview igaz tényként adja át, idézve a város egyik kitalált lakójának kitalált számításait.
Nyilvánvaló, hogy ez számos rendkívül aggasztó problémát vet fel. Mint említettük, Ben kifejezett felelősséget kizáró nyilatkozatot tett a cikkhez, kijelentve, hogy ez egy áprilisi bolondok napi történet. De ez a felelősségkizárás soha nem jutott el az eredeti történettel foglalkozó kiadványhoz, és innen merítette az információt a Google mesterséges intelligenciája.
Ebben a példában nincs semmi veszélyes, de megmutatja, milyen könnyen becsapható az AI, hogy azt higgye, valami igaz tény. A mesterséges intelligencia nem képes megérteni a különbséget egy igaz történet és egy hamis történet között, amelyet egy vicc miatt igaznak mutatnak be. Persze, lehet feketelistára tenni a szatíra- és paródiaoldalakat, de soha nem fogják mindegyiket megkapni, és ez nem veszi figyelembe a valódi kiadványokat, amelyek bolondok napján szórakoznak.
Ben a következőket mondta a helyzetről:
Nagyon ijesztő, hogy valaki Skóciában rákeres a Google-ban a "walesi utakra", és olyan történetre bukkan, amely egyszerűen nem igaz. Ez nem veszélyes történet, de megmutatja, hogy az álhírek könnyen terjedhetnek, még akkor is, ha megbízható hírforrásból származnak. Annak ellenére, hogy ugyanazon a napon megváltoztattam, ez azt mutatja, hogy az internet képes a saját dolgára. Ez egyszerűen őrület.
Még márciusban a Tow Center for Digital Journalism tanulmányt végzett, amely nyolc népszerű mesterséges intelligencia keresőmotort végzett átfogó teszteken. Összességében azt találták, hogy az esetek több mint 60%-ában helytelen hírforrásokat idéznek. A legrosszabb elkövetők "magabiztosan tévedtek" és "részben tévedtek", akár 76%-ig. Néhányan az esetek 90%-ában megdöbbentően tévedtek, még akkor is, ha olyan kiadványokkal foglalkoztak, amelyekkel hivatalos partnerséget kötöttek.
Mindez azon felül van, hogy a Google azt mondja az embereknek, hogy ragasztják a pizzát, és információkat gyártanak az emberek életéről. Nem számít, hányszor mondják ezek a vállalatok, hogy ezek a helyzetek az eredmények töredékét jelentik, nem hagyhatjuk figyelmen kívül, hogy megtörténnek.
Forrás: TechSpot