6 suurinta liiketoimintavirhettä, jotka aiheutti tekoäly | Tekoäly liiketoiminnassa #58

Kuinka välttää liiketoimintavirheitä tekoälyn käyttöönotossa?

Tekoälyn liiketoimintavirheillä voi olla vakavia seurauksia yrityksille, joten koneoppimisjärjestelmiä on testattava erittäin huolellisesti ennen niiden markkinoille tuomista. Muuten suuret investoinnit uusiin teknologioihin voivat päättyä merkittävään taloudelliseen ja maineeseen liittyvään katastrofiin.

Kuinka siis vältetään liiketoimintavirheitä tekoälyn käyttöönotossa? Vaikka ensimmäinen neuvo saattaa vaikuttaa liian yksinkertaiselta toimiakseen, se on: “Kiinnitä huomiota datan laatuun!”

Toinen neuvo koskee laajaa testausta suljetussa ympäristössä ennen työkalun julkista julkaisemista. Sinun tulisi testata työkalun teknistä suorituskykyä, mutta myös varmistaa sen:

• eettinen vaatimustenmukaisuus — testauksen tavoitteena on vähentää tekoälyn toistamia ennakkoluuloja ja stereotypioita,
• laillinen vaatimustenmukaisuus — varmistaa, että tekoälytyökalujen käyttämä data sekä niiden tuottama sisältö noudattavat maan lakeja.

Jopa tekoälyn alalla toimivat jättiläiset eivät noudata tätä neuvoa tänään, julkaisten chatbotteja maailmalle “varhaisina kokeiluina” tai “tutkimusprojekteina”. Kuitenkin, kun teknologia kypsyy ja tekoälyn käyttöä säätelevät lait tulevat voimaan, nämä kysymykset tulevat yhä ajankohtaisemmiksi.

Google Kuvat

Liiketoimintavirheiden lista, joka liittyy tekoälyn käyttöön, alkaa vuodesta 2015. Silloin Google Kuvat -sovellus, joka käytti varhaista versiota tekoälystä kuvantunnistuksessa (tietokonenäkö), merkitsi väärin mustaihoisten ihmisten kuvia gorillojen kuvina. Tämä liiketoimintavirhe tapahtui, koska algoritmin opettamiseen käytetty koulutusdata sisälsi liian vähän mustaihoisten ihmisten kuvia.

Lisäksi Googlella oli samanlainen ongelma Nest-älykotikameran kanssa, joka väärästi tunnisti joitakin tumman ihoisia ihmisiä eläimiksi. Nämä tapaukset osoittavat, että tietokonenäköjärjestelmillä on edelleen vaikeuksia tunnistaa eri rotujen ominaisuuksia.

Liiketoimintavirheet: Ikäsyrjintä

Vuonna 2023 iTutor Group suostui maksamaan 365 000 dollaria sovittaakseen oikeusjutun syrjivän rekrytointiohjelmiston käytöstä. Ohjelmiston havaittiin automaattisesti hylkäävän yli 55-vuotiaat naiskandidaatit ja yli 60-vuotiaat kandidaatit, ottamatta huomioon heidän kokemustaan tai pätevyyttään.

Amazon koki samankaltaisia liiketoimintavirheitä. Jo vuonna 2014 yritys työskenteli tekoälyn parissa auttaakseen rekrytointiprosessissa. Järjestelmä kamppaili arvioidessaan naiskandidaattien ansioluetteloita, koska se oppi pääasiassa miesten lähettämistä asiakirjoista. Tämän seurauksena Amazon hylkäsi projektin tekoälyn toteuttamiseksi prosessissa.

Nämä tapaukset osoittavat, että rekrytointiprosessin automaattinen käsittely tuo mukanaan riskin ennakkoluulojen ylläpitämisestä ja kandidaattien epäoikeudenmukaisesta kohtelusta.

Lähde: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

ChatGPT keksii vääriä oikeusperusteita

Toinen tapaus on hyvin ajankohtainen. Vuonna 2023 asianajaja Steven A. Schwartz käytti ChatGPT:tä löytääkseen aiempia oikeustapauksia oikeusjuttua vastaan lentoyhtiö Aviancaa. Kuitenkin kävi ilmi, että ainakin kuusi tekoälyn tarjoamista tapauksista oli vääriä – niissä oli virheellisiä nimiä, tapausnumeroita ja viittauksia.

Tämä tapahtui, koska suuret kielimallit (LLM) hallusinoivat, eli ne luovat todennäköisiä vastauksia, kun ne eivät löydä oikeita faktoja. Siksi on tarpeen tarkistaa niiden vastaukset joka kerta. Ja Schwartz ohitti tämän vaiheen. Siksi tuomari määräsi hänelle 5 000 dollarin sakon “huolimattomuudesta”.

Liiketoimintavirheet: Apple Watch, joka ei toimi kunnolla tumman ihon omaavilla ihmisillä

Vuoden 2021 ryhmäkanteen mukaan Apple Watchin veren happipitoisuus -sovellus ei toimi kunnolla tumman ihon omaavilla ihmisillä. Apple väittää testanneensa sovellusta “laajalla valikoimalla ihotyyppejä ja sävyjä”, mutta kriitikot sanovat, että teknologialaitteet eivät vieläkään ole suunniteltu tumman ihon omaavia ihmisiä silmällä pitäen.

Lähde: DALL·E 3, prompt: Marta M. Kania (https://www.linkedin.com/in/martamatyldakania/)

Zillow kiinteistöhallinnassa

Zillow, kiinteistöhallintoyritys, lanseerasi Zillow Offers -ohjelman, joka ostaa koteja ja myy niitä nopeasti eteenpäin, vuonna 2018. CNN raportoi, että Zillow oli ostanut 27 000 kotia lanseerauksensa jälkeen huhtikuussa 2018, mutta myynyt vain 17 000 syyskuun 2021 loppuun mennessä. Zillow sanoi, että liiketoimintavirhe johtui sen tekoälyn käytöstä. Algoritmi ennusti kotien hinnat väärin, mikä johti siihen, että Zillow maksoi liikaa ostoista. Vaikka yritys sulki ohjelman heti, sen oli pakko irtisanoa 25 prosenttia henkilöstöstään. Ostamalla koteja vahingossa korkeammilla hinnoilla kuin nykyiset arvioidut tulevat myyntihinnat, yritys kirjasi 304 miljoonan dollarin tappion.

Microsoftin rasistinen chatbot

Vuonna 2016 Microsoft julkaisi kokeellisen tekoälychatbotin nimeltä Tay. Sen oli tarkoitus oppia vuorovaikutuksessa Twitterin (nykyisin X) käyttäjien kanssa. 16 tunnin sisällä Tay “oppisi” julkaisemaan loukkaavia, rasistisia ja seksistisiä twiittejä. Twitterin käyttäjät provosoivat botin tahallisesti, jolla ei ollut asianmukaisia turvallisuusmekanismeja, joita nykyään käytetään chatboteissa, kuten ChatGPT, Microsoft Copilot ja Google Bard. Microsoft poisti botin nopeasti käytöstä ja pyysi anteeksi tapausta, mutta Tay on yksi Microsoftin suuremmista liiketoimintavirheistä.

Chatbot-ongelma tapahtui myös Googlelle, joka julkaisi botin nimeltä Meena vuonna 2020. Meta (entinen Facebook) ei myöskään onnistunut välttämään samanlaista virhettä. Elokuussa 2022 se lanseerasi uuden tekoälychatbotin nimeltä BlenderBot 3, joka oli suunniteltu keskustelemaan ihmisten kanssa ja oppimaan näistä vuorovaikutuksista.

Julkaisun jälkeen päivien sisällä tuli raportteja chatbotin tekemistä loukkaavista, rasistisista ja faktuaalisesti virheellisistä väitteistä keskusteluissa. Esimerkiksi se väitti, että Donald Trump voitti vuoden 2020 Yhdysvaltain vaalit, levitti antisemitistisiä salaliittoteorioita ja kritisoi Facebookia.

Jos pidät sisällöstämme, liity vilkkaaseen mehiläisyhteisöömme Facebookissa, Twitterissä, LinkedInissä, Instagramissa, YouTubessa, Pinterestissä, TikTokissa.