AI-sisältödetektorit. Ovatko ne sen arvoisia? | AI liiketoiminnassa #38

Tänään AI-sisältödetektoreiden kehittäjät esittävät niitä työkaluina aitouden suojelemiseksi. Kysymys kuuluu, ovatko ne luottamuksen ja investoinnin arvoisia? Tässä artikkelissa tarkastelemme, miten AI-sisältödetektorit toimivat, miksi ne saattavat hävitä, mitä haasteita ne tuovat mukanaan ja mitä eettisiä dilemmoja ne aiheuttavat.

AI-sisältödetektorit

AI-sisältödetektorit perustuvat kielimalleihin, jotka ovat samankaltaisia kuin ne, joita käytetään AI-sisällön tuottamiseen. Ne voidaan jakaa niihin, joiden tehtävänä on tarkistaa kuvien, tekstien ja musiikin alkuperä, jotka on tuotettu tekoälyn avulla. Jokainen “AI-detektori” toimii hieman eri tavalla, mutta mikään niistä ei voi erottua täysin varmasti ihmisen luoman ja AI:n tuottaman sisällön välillä.

AI-tuotettujen kuvadetektoreiden rooli on yhä tärkeämpi median kyvyn vuoksi tuottaa valeuutisia. Ne analysoivat poikkeavuuksia, erottuvia tyylejä ja kuvioita sekä etsivät merkkejä, joita mallit kuten DALL-E ovat jättäneet taakseen.

Erityisesti kuvien tunnistamiseen käytettävien detektoreiden joukossa on Opticin “AI or Not” -työkalu, joka käyttää Midjourneyn, DALL-E:n ja Stable Diffusionin tuottamia kuvapankkeja. Vaikka tulokset ovat epävarmoja, se on askel kohti tarkempien tunnistusmenetelmien kehittämistä tulevaisuudessa.

Lähde: AI or Not (https://www.aiornot.com/)

AI-tekstejä tunnistavien AI-detektoreiden taustalla ovat kehittyneet algoritmit, jotka analysoivat tekstin rakennetta ja sanavalintoja, ja tunnistavat sitten AI:lle tyypillisiä kuvioita. Ne hyödyntävät:

• luokittajia – algoritmi, joka luokittelee tekstiä ja tarkistaa tyylin, sävyn ja kieliopin. Esimerkiksi tuotekuvaus, joka voisi sopia mihin tahansa sen tyyppiseen tuotteeseen, saatetaan luokitella AI:n luomaksi,
• upotuksia (embeddings) – sanojen numeeriset esitykset, jotka mahdollistavat koneiden ymmärtää niiden käytön kontekstia. Juuri niiden ansiosta ohjelma “ymmärrää”, että monotonisella sanavalinnalla varustettu teksti voi olla AI:n työtä,
• hämmennys – joka on mittari tekstin arvaamattomuudelle. Ihmisten kirjoittamilla teksteillä on yleensä korkeampi hämmennys, vaikka perusasiat, utilitaristiset tyypilliset muodot tai ulkomaalaisten kirjoittamat tekstit voidaan virheellisesti luokitella AI:n tuottamiksi,
• monimuotoisuus (burstiness) – tämä tekijä kuvaa lauseiden pituuden ja rakenteen vaihtelua. Ihmiset kirjoittavat yleensä monimuotoisempia tekstejä kuin tekoäly.

Edellä mainittuja elementtejä käytetään yhdessä AI-sisältödetektoreissa arvioimaan, onko kyseessä ihmisen vai koneen tuottama teksti.

Miksi käyttää AI-sisältödetektoreita?

AI-sisältödetektorit toimivat monilla eri aloilla – koulutuksesta markkinointiin ja rekrytointiin. Tässä ovat tärkeimmät syyt käyttää niitä arvioinnin apuvälineenä, mutta ei lopullisena todisteena siitä, onko sisältö tuotettu:

• AI-muokattujen valokuvien tunnistaminen, jotka esittävät tunnettuja henkilöitä – havaitakseen, kuvaako valokuva todellista tilannetta,
• Väärän tiedon ehkäiseminen – Väärän tiedon torjunnassa tehokkaat AI-sisältödetektorit auttavat sosiaalisen median moderaattoreita havaitsemaan leviävää väärää tietoa ja tunnistamaan sekä poistamaan bottien tuottamaa toistuvaa sisältöä,
• Vähäarvoisten tekstien julkaisemisen rajoittaminen – AI-sisältödetektorit voivat auttaa julkaisijoita hylkäämään tekstejä, jotka sisältävät geneeristä tietoa, jonka on tuottanut ChatGPT, Bing tai Bard yksinkertaisella kyselyllä.

Kuitenkin on syytä muistaa, että tekstin alkuperä ei ole peruste Googlen sivuston sijoituksen alentamiselle. Googlen Search Center -blogissa todetaan, että on tärkeää, että Google “palkitsee laadukasta sisältöä riippumatta siitä, miten se on luotu […]. Automaatio on pitkään ollut käytössä hyödyllisen sisällön, kuten urheilutulosten, säätietojen ja transkriptioiden, tuottamiseen. AI voi avata uusia ilmaisun ja luovuuden tasoja ja olla avainväline loistavan verkkosisällön luomisen tukemiseksi.”

AI-sisältödetektoreiden epäluotettavuus. Todellisuus vai myytti?

Vaikka AI-sisältödetektorit ovat kaikkialla, niiden tehokkuus voi olla kyseenalaista. Pääongelmat ovat:

• matala tehokkuus AI-sisällön havaitsemisessa,
• ongelmia väärissä positiivisissa tuloksissa, sekä
• vaikeuksia mukauttaa detektoreita nopeasti monimuotoistuville ja paraneville uusille AI-malleille.

OpenAI:n tekemät testit osoittivat, että heidän luokittajansa tunnisti GPT:n tuottaman tekstin vain 26 %:ssa tapauksista. Kiinnostava esimerkki generaattoreiden epäluotettavuudesta näkyy TechCrunchin tekemässä kokeessa, joka osoitti, että GPTZero-työkalu tunnisti oikein viisi seitsemästä AI-tuotetusta tekstistä. Samaan aikaan OpenAI:n luokittaja tunnisti vain yhden.

Lähde: GPTZero (https://gptzero.me/)

Lisäksi on riski saada väärä positiivinen tulos, eli tunnistaa ihmisen kirjoittama teksti AI-tuotettuna. Esimerkiksi Miguel de Cervantesin Don Quijoten toisen luvun alku merkitty OpenAI:n detektorin toimesta todennäköisesti tekoälyn kirjoittamaksi.

Vaikka virheitä historiallisten kirjallisten tekstien analyysissä voidaan pitää huvittavana kuriositeettina, tilanne monimutkaistuu, kun haluamme käyttää detektoreita tekstien arvioimiseen. Yhdysvaltain perustuslaki merkitty ZeroGPT:n toimesta 92,15 %:sti tekoälyn kirjoittamaksi. Ja tutkimuksen mukaan, jonka julkaisi Stanfordin yliopiston tutkijat, 61 % ei-äidinkielenään englantia puhuvien opiskelijoiden kirjoittamista TOEFL-esseistä luokiteltiin AI-tuotetuiksi. Valitettavasti ei ole tietoa siitä, kuinka korkea prosentti muilla kielillä väärin positiivisesti luokitelluista teksteistä on.

Toinen ongelma on luokituksen muuttuminen detektorin seuraavilla ajokerroilla. Tämä johtuu siitä, että usein käy niin, että detektori, kuten ZeroGPT tai Scribbr, muuttaa tekstin fragmenttien luokitusta, jota se merkitsee kerran AI-tuotetuksi ja toisen kerran ihmisen kirjoittamaksi.

Lähde: Scribbr (https://www.scribbr.com/ai-detector/)

AI-kuva- ja videodetektoreita käytetään ensisijaisesti syvävaleiden ja muiden AI-tuotettujen sisältöjen tunnistamiseen, joita voidaan käyttää väärän tiedon levittämiseen.

Nykyiset tunnistustyökalut, kuten Deepware, Illuminarty ja FakeCatcher, eivät tarjoa testituloksia luotettavuudestaan. Laillisessa kontekstissa AI-tuotettujen visuaalisten materiaalien havaitsemiseksi on aloitteita lisätä vesileimoja AI-kuviin. Tämä on kuitenkin erittäin epäluotettava tapa – voit vain helposti ladata kuvan ilman vesileimaa. Midjourney lähestyy vesileimausta eri tavalla, jättäen käyttäjille päätettäväksi, haluavatko he vesileimata kuvan tällä tavalla.

Vältä AI-tunnistusta. Onko se mahdollista ja miten?

Yrittäjien tulisi olla tietoisia siitä, että AI-sisältödetektorit eivät ole ihmisen laadun arvioinnin korvike eivätkä aina luotettavia. Niiden käytännön ylläpitokysymykset voivat aiheuttaa huomattavia vaikeuksia, aivan kuten yrittäminen välttää sisällön luokittelua AI-tuotetuksi. Erityisesti kun AI on yksinkertaisesti työkalu ammattilaisen käsissä – eli se ei ole “AI:n tuottama sisältö”, vaan pikemminkin “sisältö, joka on luotu yhteistyössä AI:n kanssa”.

On suhteellisen yksinkertaista lisätä joku luotuihin materiaaleihin, joten niiden luomistapa on todella vaikea havaita. Jos generatiivista AI:ta käyttävä henkilö tietää, mitä vaikutusta tavoitellaan, hän voi yksinkertaisesti käsin säätää tuloksia.

Peruskysymys liittyy siihen, miksi haluamme välttää tunnistusta, jos sisältö on tuotettu AI:n avulla.

• Jos tämä on eettinen kysymys ja koskee esimerkiksi julkaistun tieteellisen tutkimuksen tekijänoikeutta – on luotettava tutkijan ammatilliseen etiikkaan ja AI-pohjaisten työkalujen vastuulliseen käyttöön.
• Jos työnantaja toivoo, että työntekijät luopuvat AI:n käytöstä – jää jäljelle sopimusjärjestely generatiivisen tekoälyn käytölle.

Se herättää myös kysymyksen siitä, haluammeko edistää AI:n vastuullista käyttöä kieltojen ja vastustajien (ZeroGPT ja GPTZero!) kautta, vai läpinäkyvyyden, luottamuksen rakentamisen ja edistyneiden teknologioiden rehellisen käytön arvostamisen kautta.

Lähde: ZeroGPT (https://www.zerogpt.com/)

Yhteenveto

Vastaus kysymykseen siitä, ovatko AI-sisältödetektorit käytön arvoisia, on kaukana selkeästä. AI-sisältödetektorit ovat edelleen kehitysvaiheessa, ja niiden tulevaisuutta on vaikea ennustaa. Yksi asia on varma – ne kehittyvät yhdessä AI-teknologian kehityksen kanssa. AI:n edistysaskeleet, mukaan lukien kielimallien kyvyn lisääntyminen jäljitellä ihmisen kirjoitustyyliä, tarkoittavat, että AI-sisällön havaitseminen voi muuttua entistä monimutkaisemmaksi. Liiketoiminnalle tämä on merkki seurata näitä kehityksiä eikä luottaa pelkästään työkaluihin, vaan omaan arvioonsa sisällöstä ja sen soveltuvuudesta sille tarkoitukselle, jota varten se on luotu. Ja käyttää nopeasti kehittyvää tekoälyä viisaasti.

Jos pidät sisällöstämme, liity vilkkaaseen mehiläisyhteisöömme Facebookissa, Twitterissä, LinkedInissä, Instagramissa, YouTubessa, Pinterestissä, TikTokissa.