Viime aikoina feedini ovat olleet täynnä totuuden kuolemaa käsitteleviä videoesseitä ja dead internet -keskusteluja. Asia nousee jatkuvasti esiin myös kavereiden kanssa: joku jakaa jotain, joku toinen kysyy "hetkinen, onks toi ees aito?", emmekä osaa sanoa. Aloin etsiä tutkimustietoa siitä, mitä tapahtuu, kun asioiden tarkistamisesta tulee liian raskasta ja ihmiset lakkaavat edes yrittämästä.
Suuri osa lukemastani AI-riskeihin liittyvästä keskustelusta käsittelee tahallista huijaamista: sitä, miten mallit peittelevät toimintaansa tai huijaavat arvioinneissa. Olen huolissani myös tuotetun sisällön valtavasta määrästä. Vaikka kenenkään tarkoituksena ei olisi johtaa harhaan, jonkun on silti tarkistettava esitetyt väitteet.
Eräässä tammikuun 2026 tutkimuksessa osallistujille näytettiin tekoälyllä luotuja videoita rikoksista ja heille kerrottiin etukäteen, että videot olivat väärennöksiä. Ne osallistujat, jotka hyväksyivät varoituksen, olivat silti näkemänsä vaikutuksen alaisia. Se on se osa, jota pidän huolestuttavana: väärennöksen tunnistaminen ei tässä kokeessa poistanut sen vaikutusta kokonaan.
(Alan vihata tätä vitun aikajanaa koko ajan enemmän gng)
Vuoden 2025 puoliväliin mennessä oli olemassa yli 1 200 AI-generoitua "uutissivustoa", jotka julkaisivat sisältöä uskottavien nimien alla kuudellatoista kielellä. EU:n mukaan AI oli mukana 27 prosentissa ulkomaisista informaatiovaikuttamisen yrityksistä, mikä oli lähes kolminkertaisesti edellisvuoteen verrattuna. AI:lla luodut harhaanjohtavat postaukset levisivät myös suhteettoman viraaleiksi, vaikka ne olivat peräisin pääosin pieniltä tileiltä.
Muistan lukeneeni raportteja siitä, että botit muodostivat suurimman osan internetin liikenteestä korona-aikaan, vaikka en nyt löydäkään kyseistä tutkimusta. Sen jälkeen feedini ovat täyttyneet massatuotetusta engagement baitista, mukaan lukien katkarapu-Jeesus, rakkaani. En usko, että pelkät liikennemäärät kertovat sitä, kuinka suuri osa keskustelusta on feikkiä, mutta itse postauksia on vaikea olla huomaamatta.
Siis bruh, nykyään on kirjaimellisesti olemassa "kirjailijoita", "muusikoita" ja "valokuvaajia", jotka ovat vain vitun promptilooppi, johon on liitetty maksutili.
Minua häiritsee se, miten väsyneiltä ihmiset vaikuttavat asioiden tarkistamiseen. Hank puhuu tästä videossa, josta pidin:
Olen lukenut useista ongelmista otsikon "episteeminen romahdus" alla. Termit vaihtelevat eri aloilla, ja uskon joidenkin näistä ongelmista kytkeytyvän toisiinsa.
ML-ihmiset tarkoittavat model collapsea, jossa mallia koulutetaan edellisen mallin tuotoksilla, toistetaan tämä muutaman kerran, ja alkuperäisen jakauman hännät katoavat samalla kun jokainen sukupolvi ajautuu kauemmas siitä perustotuudesta, johon se oli ankkuroitu. Tämä on muuten todistettu matemaattisesti. Model collapsea ei voi välttää, jos koulutus tehdään pelkästään synteettisellä datalla. Ekosysteemitason versio on vielä pahempi: kun tutkijat testasivat 27 LLM-mallia 155 eri aiheesta, jokainen niistä oli episteemisesti vähemmän monimuotoinen kuin tavallinen verkkohaku, ja suuremmat mallit tuottivat vähemmän monipuolisia väitteitä.
Toinen huoli on validoinnin ylikuormitus. Vertaisarvioijilla, faktantarkistajilla, toimittajilla, tuomioistuimilla ja opettajilla on rajallisesti aikaa. Heille voi tulla enemmän materiaalia kuin he ehtivät tarkistaa, varsinkin kun sen tuottaminen vaatii hyvin vähän ihmistyötä.
Sitten on vielä virhetunnistus eli "misrecognition": generoitua tekstiä pidetään vakiintuneena tietona tarkistamatta, mikä sitä tukee. Lukija voi toistaa mallin tuotosta faktana, ja seuraava ihminen saattaa luottaa lukijaan tietämättä, mistä väite on alun perin peräisin.
Sosiaalisia ongelmia ovat esimerkiksi se, että eri ryhmät tukeutuvat keskenään yhteensopimattomiin näkemyksiin tapahtumista ja menettävät yhteisen maaperän. Epäilen, että tietolähteiden luotettavuus ja niiden tarkistamisen taakka vaikuttavat tähän sosiaalisen median ja polarisaation tavanomaisen pohdinnan rinnalla.
Nämä ongelmat voivat mielestäni ruokkia toisiaan. Vähemmän luotettavat työkalut tuottavat enemmän tarkistusta vaativaa materiaalia samaan aikaan, kun tarkistusta tekevillä ihmisillä on jo ennestään enemmän töitä kuin he ehtivät tehdä. Jos lukijat pitävät tarkistamatonta materiaalia vakiintuneena tietona, myöhemmät keskustelut lähtevät väitteistä, joita kukaan ei ole varmentanut.
Misinformaatio on vanha ilmiö, ja tiedelehdet, tuomioistuimet, toimitukset ja vertaisarviointi käsittelevät sitä jo valmiiksi. Minua huolestuttaa se, miten halvalla kuka tahansa voi nykyään tuottaa valtavan määrän uskottavalta vaikuttavaa materiaalia. Väitteen tarkistaminen voi silti viedä ihmiseltä tunteja lukemista, lähteiden jäljittämistä tai kokeen toistamista.
Pelkään, että ihmiset alkavat väheksyä digitaalisia todisteita yleisesti, jos aidon materiaalin erottamisesta synteettisestä tulee liian vaikeaa. Se tekisi myös aitojen tallenteiden hyödyntämisestä hankalampaa.
Kääntöpuolena on "valehtelijan osinko" (liar's dividend): kun kaikki tietävät vakuuttavia väärennöksiä olevan olemassa, kuka tahansa oikeasta teosta videolle jäänyt voi vain kohauttaa olkiaan ja sanoa "se on tekoälyä". Mitä enemmän sloppia on liikkeellä, sitä uskottavammaksi kyseinen puolustus muuttuu. Otetaan esimerkiksi jotkut nykyään generoidut AI-slop-tekstit tai kaavat kuten: "Kyse ei ole X:stä vaan Y:stä". Se on kieliopillisesti toimivaa, totta, mutta koska näemme niin paljon AI-sloppia, alamme yhdistää kyseisen kaavan "AI-generoituun sisältöön". Ennen pitkää KUKAAN ei voi vittu käyttää sitä, koska vaikka se olisi käsin kirjoitettu, oletettaisiin heti, että apuna on käytetty tekoälyä.
Ja tämä ei edes ota huomioon sitä tosiasiaa, että me ihmiset kirjoitamme samalla tavalla kuin se kieli, jota käytämme/kuulemme/luemme ja näemme eniten. Mikä tarkoittaa, että ajan myötä yhä useammat IHMISET alkavat kuulostaa AI:lta. (LinkedIn endgame fr)
AI Futures Projectin "Plan A" antaa paljon enemmän yksityiskohtia laskentatehon varmentamisesta, optisten verkkojen kuuntelusta, toimitusketjujen auditoinneista ja pelotepolitiikasta kuin epistemologiasta, joka saa vain kahden sivun liitteen. Pidän sen ideasta "järkevyyden altaasta" (basin of sanity): totuuteen pyrkivistä AI-työkaluista, jotka auttavat yhteiskuntaa saamaan paremmin selville, mikä on totta. Olisin kaivannut tarkempia tietoja siitä, miten tähän tilaan päästään, miten edistystä sitä kohti mitataan ja miten se pidetään vakaana, kun tietyt toimijat hyötyvät misinformaatiosta.
En usko, että pelkkä laskentakapasiteetin kontrollointi ja mallien parempi linjaaminen riittävät tämän hoitamiseen. Hyvässä uskossa tuotettu sisältö voi silti olla virheellistä ja viedä aikaa tarkistaa. Tahallisen huijaamisen vähentäminen auttaisi, mutta se ei poistaisi tuota työmäärää.
Vastuuta on tässä myös vaikeampi kohdentaa. Tekoälylaboratorio voi asettaa tiimin vastaamaan mallistaan. Varmentamistyö puolestaan jakautuu julkaisijoille, tutkijoille, tuomioistuimille, lukijoille ja muille instituutioille, joilla on erilaiset budjetit ja kannustimet. Epäilen, että se tekee asioiden järjestämisestä ja rahoittamisesta vaikeampaa, vaikka minulla ei olekaan rahoitusvertailua tämän osoittamiseksi.
Esillä on ollut ehdotuksia ekosysteemin terveystilastoista, koulutusdatan monimuotoisuusvaatimuksista ja paremmin rahoitetuista varmentamistyökaluista. En tiedä, mitkä niistä auttaisivat riittävästi. Haluaisin nähdä niiden toimivuuden suhteessa siihen työhön, jota ihmiset oikeasti tekevät: väitteen jäljittämiseen lähteelleen, sen tarkistamiseen tukeeko lähde sitä ja sen korjaamiseen, kun näin ei ole.
Tälle työlle toivoisin enemmän huomiota ja rahoitusta. Jos julkaisemisesta tehdään jatkuvasti halvempaa, meidän on tehtävä myös noista tarkistuksista helpompia.
Mutta joo, siinä oli se avautuminen. Lähen vittuun nukkumaan, öitä tyypit.
~ A.