Anthropic julkaisi perjantaina yksityiskohtaisen selvityksen siitä, miten Claude-mallien tuottamaan tekstiin upotettava vesileima toimii. Kirjoitus vastaa kysymyksiin, joita käyttäjät esittivät sen jälkeen, kun yhtiö kertoi merkinnästä alkuviikosta.
Vesileima on koneellisesti luettava merkki, jonka avulla voidaan arvioida, onko Claude ollut mukana tekstin tuottamisessa. Se ei näy lukijalle eikä muuta tekstin sisältöä. Taustalla on EU:n tekoälyasetuksen avoimuusvaatimus.
Anthropicin mukaan menetelmä ei lisää tekstiin merkkejä eikä kuluta ylimääräisiä tokeneita. Käyttökustannus ja vastausnopeus pysyvät käytännössä ennallaan.
Vesileima syntyy sanavalintojen satunnaisuudesta
Kielimalli tuottaa tekstiä sana kerrallaan. Jokaisessa kohdassa se valitsee seuraavan sanan todennäköisten vaihtoehtojen joukosta. Lauseessa ”Sää oli tänään kylmä ja…” jatko voi olla yhtä hyvin ”pilvinen” kuin ”harmaa”.
Näissä matalan panoksen valinnoissa ratkaisu tehdään satunnaisluvun avulla. Vesileima ei muuta valintaa itseään vaan satunnaisuuden lähteen. Arvonnan ratkaisee salainen avain yhdessä edeltävien sanojen kanssa.
Lopputulos näyttää lukijalle täysin tavalliselta. Avaimen haltija voi kuitenkin tarkistaa, vastaako sanajono niitä valintoja, jotka malli olisi tehnyt avainta käyttäessään. Vastaavuudesta lasketaan todennäköisyys sille, että teksti on Clauden tuottamaa.
Menetelmä on versio Google DeepMindin SynthID-Text-tekniikasta, joka julkaistiin Nature-lehdessä vuonna 2024. Anthropicin sisäisissä testeissä merkinnällä ei havaittu vaikutusta tekstin laatuun, luovuuteen tai luettavuuteen.
Mitä vesileima ei kerro
Merkintä vastaa vain yhteen kysymykseen: kuinka todennäköisesti Claude oli mukana tekstin tuottamisessa. Se ei kerro, onko teksti ihmisen kirjoittama. Se ei myöskään tunnista muiden yhtiöiden malleja, koska niillä on omat avaimensa.
Vesileima ei sisällä tunnistetietoja. Anthropicin mukaan siitä ei voi päätellä käyttäjää, organisaatiota tai yksittäistä keskustelua. Avain koskee mallia, ei asiakasta.
Tunnistus heikkenee lyhyissä näytteissä. Mitä vähemmän sanavalintoja tekstissä on, sitä vähemmän merkinnälle jää tarttumapintaa. Pitkissä teksteissä varmuus kasvaa.
Muokkaus vaikuttaa tulokseen. Kevyt editointi ei Anthropicin mukaan todennäköisesti poista merkintää kokonaan, mutta täydellinen uudelleenkirjoitus poistaa sen. Jos Claude on vain oikolukenut ihmisen tekstin, merkinnälle jää harvoin mitään mihin tarttua.
Koodi jää pitkälti merkitsemättä
Vesileima nojaa valinnanvapauteen. Kun oikea vastaus on vain yksi, mallilla ei ole vaihtoehtoja joista arpoa. Merkintää ei tällöin sovelleta lainkaan.
Anthropic havainnollistaa asiaa laskutoimituksella. Kun malli on kirjoittanut ”2 + 2 =”, seuraavalle merkille ei ole yhtä hyvää vaihtoehtoa kuin ”4”. Sama pätee tosiasiaväitteisiin.
Koodi kuuluu samaan ryhmään. Muuttujan tai funktion nimen vaihtaminen rikkoisi ohjelman, joten merkintä jää koodissa selvästi tekstiä ohuemmaksi. Käytännössä generoitua koodia on siis vaikeampi tunnistaa vesileiman avulla.
Poikkeuksiakin on. Kommenteissa ja muissa vapaamuotoisissa osissa valinnanvaraa riittää, joten niihin merkintä voi tarttua. Anthropicin mukaan vaikutus itse koodiin jää silti mitättömäksi.
EU:n avoimuussäännöt ajoivat muutoksen
Muutoksen taustalla on EU:n tekoälyasetus. Anthropic allekirjoitti heinäkuussa avoimuutta koskevan käytännesäännöstön yhdessä noin 190 muun allekirjoittajan kanssa. Säännöstö velvoittaa merkitsemään tekoälyn tuottaman sisällön koneellisesti luettavalla tavalla.
Velvoite tuli voimaan 2. elokuuta. Sen jälkeen julkaistut Claude-mallit tukevat merkintää heti julkaisusta alkaen. Aiemmin julkaistut mallit kuuluvat siirtymäajan piiriin, ja niihin tuki lisätään tulevien kuukausien aikana.
Merkintä otetaan käyttöön maailmanlaajuisesti. Anthropicin mukaan yhtiöllä ei toistaiseksi ole kestävää tapaa rajata sitä pelkästään EU-alueelle. Sääntely vaikuttaa siis myös Euroopan ulkopuolisiin käyttäjiin.
Tiedostoille käytetään eri tekniikkaa. PNG-, JPG- ja SVG-tiedostoihin liitetään C2PA-standardin mukainen allekirjoitettu alkuperätieto, joka ei muuta tiedoston sisältöä. Anthropic kertoo valmistelevansa myös rajapintaa vesileimojen tunnistamiseen.
Yhteenveto
Anthropicin vesileima muuttaa mallin sanavalintojen satunnaisuuden lähteen, ei tekstiä itseään. Lukijalle ero on olematon, mutta avaimen haltija voi arvioida Clauden osuutta tekstin syntyyn.
Menetelmän rajat on syytä pitää mielessä. Se ei todista kirjoittajaa, toimii huonosti lyhyissä näytteissä ja jättää koodin pitkälti merkitsemättä.