6 legnagyobb üzleti hiba, amit az AI okozott | AI az üzletben #58

Hogyan kerülhetjük el az üzleti baleseteket az AI bevezetésekor?

Az AI-val kapcsolatos üzleti balesetek súlyos következményekkel járhatnak a vállalatok számára, ezért a gépi tanulási rendszereket nagyon alaposan tesztelni kell, mielőtt piacra kerülnek. Ellenkező esetben a nagy beruházások új technológiákba súlyos pénzügyi és hírnévbeli katasztrófába torkollhatnak.

De hogyan kerülhetjük el az üzleti baleseteket az mesterséges intelligencia bevezetésekor? Bár az első tanács túl egyszerűnek tűnhet, hogy működjön, az a következő: “Figyelj a adatok minőségére!”

A második tanács a szerszám nyilvános kiadása előtt zárt környezetben végzett alapos tesztelésre vonatkozik. Nemcsak a szerszám technikai teljesítményét kell tesztelni, hanem azt is ellenőrizni kell:

• etikai megfelelőség — a tesztek célja a mesterséges intelligencia által reprodukált elfogultság és sztereotípiák csökkentése,
• jogi megfelelőség — annak ellenőrzése, hogy a mesterséges intelligencia eszközök által használt adatok, valamint az általuk generált tartalom megfelel-e az ország törvényeinek.

Még a mesterséges intelligencia területén működő óriások sem követik ezt a tanácsot, amikor “korai kísérletek” vagy “kutatási projektek” címkével ellátott chatbotokat bocsátanak a világra. Azonban ahogy a technológia érik, és a mesterséges intelligencia használatát szabályozó törvények életbe lépnek, ezek a problémák egyre sürgetőbbé válnak.

Google Photos

A mesterséges intelligencia használatával kapcsolatos üzleti balesetek listája egy 2015-ös esettel kezdődik. Ekkor a Google Photos alkalmazás, amely a képfelismeréshez (számítógépes látás) egy korai verziójú mesterséges intelligenciát használt, tévesen címkézte a fekete emberek fényképeit gorillák fényképeiként. Ez az üzleti baleset azért történt, mert az algoritmus tanításához használt tanító adathalmazon túl kevés fekete ember fényképe volt.

Továbbá, a Google-nak hasonló problémája volt egy Nest okosotthon kamerával, amely néhány sötét bőrű embert állatként azonosított. Ezek az esetek azt mutatják, hogy a számítógépes látási rendszerek még mindig nehezen ismerik fel a különböző fajú emberek jellemzőit.

Üzleti balesetek: Korai diszkrimináció

2023-ban az iTutor Group 365 000 dollárt fizetett egy diszkrét toborzó szoftver használatával kapcsolatos per rendezésére. A szoftver automatikusan elutasította az 55 év feletti női jelölteket és a 60 év feletti jelölteket, anélkül, hogy figyelembe vette volna tapasztalatukat vagy képesítéseiket.

Az Amazon hasonló üzleti balesetet szenvedett el. 2014-ben a cég mesterséges intelligenciát fejlesztett a toborzási folyamat segítésére. A rendszer nehezen tudta értékelni a női jelöltek önéletrajzait, mert olyan adatokból tanult, amelyek többsége férfiak által benyújtott dokumentumokat tartalmazott. Ennek eredményeként az Amazon feladta a mesterséges intelligencia bevezetésére irányuló projektet.

Ezek az esetek azt mutatják, hogy a toborzási folyamat automatizálása magában hordozza a torzítások fenntartásának és a jelöltek tisztességtelen kezelésének kockázatát.

Forrás: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

A ChatGPT hamis bírósági precedenseket talál ki

Another case is very contemporary. In 2023, lawyer Steven A. Schwartz used ChatGPT to find past legal cases for a lawsuit against the airline Avianca. However, it turned out that at least six of the cases provided by AI were false – they contained incorrect names, case numbers, and citations.

This happened because Large Language Models (LLM) hallucinate, i.e. they create probable answers when they can’t find the right facts. Therefore it is necessary to check their answers every time. And Schwartz skipped this step. That’s why the judge fined him $5,000 for “gross negligence”.

Üzleti balesetek: Apple Watch, amely nem működik megfelelően sötétebb bőrű embereken

According to a 2021 class action lawsuit, the blood oxygen app on Apple Watch does not work properly for people with darker skin tones. Apple asserts that it has tested the app on a “wide range of skin types and tones,” but critics say the technology devices are still not designed with dark-skinned people in mind.

Forrás: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Zillow az ingatlanpiacon

A Zillow, egy ingatlanvállalat, 2018-ban indította el a Zillow Offers programot, amelynek célja, hogy házakat vásároljon és gyorsan újraértékesítse őket. A CNN arról számolt be, hogy a Zillow 2018 áprilisi indulása óta 27 000 házat vásárolt, de 2021 szeptember végére csak 17 000-et adott el. A Zillow azt állította, hogy az üzleti balesetet a mesterséges intelligencia használata okozta. Az algoritmus tévesen jósolta meg a házárakat, ami miatt a Zillow túlfizetett a vásárlásokért. Bár a cég azonnal leállította a programot, 25%-os létszámcsökkentést kellett végrehajtania. Azáltal, hogy véletlenül olyan házakat vásároltak, amelyek ára magasabb volt a jövőbeli eladási árak aktuális becslésénél, a cég 304 millió dolláros veszteséget könyvelt el.

A Microsoft rasszista chatbotja

2016-ban a Microsoft kiadott egy kísérleti AI chatbotot, amelynek neve Tay volt. Az volt a célja, hogy a Twitter (most X) felhasználóival való interakció révén tanuljon. 16 óra alatt Tay “megtanulta”, hogy sértő, rasszista és szexista tweeteket posztoljon. A Twitter felhasználói szándékosan provokálták a botot, amely nem rendelkezett a mai chatbotokban, mint a ChatGPT, Microsoft Copilot és Google Bard, használt megfelelő biztonsági mechanizmusokkal. A Microsoft gyorsan letiltotta a botot, és elnézést kért az incidensért, de Tay a Microsoft egyik nagyobb üzleti balesete.

Üzleti baleset történt a Google-nál is, amely 2020-ban kiadott egy Meena nevű botot. A Meta (korábban Facebook) szintén nem tudta elkerülni a hasonló hibát. 2022 augusztusában elindította a BlenderBot 3 nevű új AI chatbotot, amelyet arra terveztek, hogy emberekkel beszélgessen és tanuljon az interakciókból.

A kiadását követő napokban jelentések érkeztek arról, hogy a chatbot sértő, rasszista és tényszerűen helytelen állításokat tett a beszélgetések során. Például azt állította, hogy Donald Trump megnyerte a 2020-as amerikai választásokat, antiszemita összeesküvés-elméleteket terjesztett, és kritizálta a Facebookot.

Ha tetszik a tartalmunk, csatlakozz a zsúfolt méheink közösségéhez a Facebookon, Twitteren, LinkedIn-en, Instagramon, YouTube-on, Pinterest-en, TikTok-on.