Anthropic julkaisi keskiviikkona tutkimuspaperin nimeltä "When AI builds itself". Paperin mukaan Claude kirjoittaa jo yli 80 prosenttia yhtiön tuotantokoodista. Anthropicin insinöörit toimittavat nyt kahdeksankertaisesti koodia jokaisessa vuosineljänneksessä vuoteen 2024 verrattuna.
Varsinainen uutinen ei kuitenkaan ole tuottavuusluku. Paperi piirtää reitin rekursiiviseen itsekehitykseen — tekoälyyn, joka suunnittelee ja kouluttaa oman seuraajansa. Anthropic sanoo, ettei tähän ole vielä päästy, mutta arvioi ajankohdan olevan lähempänä kuin moni instituutio on valmis kohtaamaan.
Claude kirjoittaa jo valtaosan koodista
80 prosentin osuus on Anthropicin oma luku. Se kuvaa, kuinka suuri osa yhtiön tuotantokoodista syntyy mallin tuottamana. Insinöörit tarkistavat ja ohjaavat työtä, mutta varsinaisen rivityön tekee Claude.
Kahdeksankertainen koodimäärä neljännestä kohden kertoo enemmän kuin yksittäinen prosenttiluku. Mallin rooli on siirtynyt avustajasta päätoimiseksi rakentajaksi. Sama malli kehittää työkaluja, joilla seuraavaa mallia koulutetaan.
Juuri tästä rekursiossa on kyse. Kun tekoäly nopeuttaa omaa kehitystyötään, jokainen sukupolvi voi rakentaa seuraavan entistä nopeammin. Anthropic kuvaa tätä mahdolliseksi käännekohdaksi koko alalle.
Kolme skenaariota tekoälyn kehitykselle
Paperi hahmottaa kolme mahdollista tulevaisuutta. Ensimmäisessä kehitys pysähtyy, mutta nykyisetkin kyvyt muokkaavat taloutta perusteellisesti.
Toisessa skenaariossa tekoälyn kehitystyö automatisoituu pitkälti, mutta ihmiset asettavat yhä tutkimuksen suunnan. Anthropic arvioi, että sadan hengen yritys voisi tehdä sadantuhannen hengen organisaation työn.
Kolmannessa järjestelmät saavuttavat täyden rekursiivisen itsekehityksen ja alkavat suunnitella omia seuraajiaan. Tätä skenaariota paperi pitää vakavimpana ja vaikeimmin hallittavana.
Anthropic ehdottaa maailmanlaajuista jarrua
Paperin merkittävin osa ei käsittele tuottavuutta. Se on vetoomus todennettavan globaalin mekanismin puolesta, jolla huippumallien kehitystä voitaisiin hidastaa tai pysäyttää tilapäisesti.
Anthropic muotoilee asian tarkasti. Yhden laboratorion yksipuolinen tauko vaihtaisi vain johtajaa, ei loisi puuttuvaa harkinta-aikaa. Sen sijaan yhtiö ehdottaa järjestelmää, jossa useat laboratoriot eri maissa pysähtyisivät samoin ehdoin ja voisivat todentaa, että muutkin todella pysähtyivät.
Vertailukohdaksi paperi nostaa ydinaseiden valvonnan. Erot ovat silti suuret. Koulutusajot on helpompi piilottaa kuin ohjussiilot, syötteet ovat yleiskäyttöisiä, ja houkutus livetä sopimuksesta hiljaa on valtava.
Miksi ajoitus herättää kysymyksiä
Paperi ilmestyy keskellä Anthropicin yritysmyyntiä. Yhtiö myy Claudea tuottavuusvallankumouksena ja varoittaa samaan aikaan, että sama kehityskaari saattaa vaatia globaalin hätäjarrun.
Tekoälyn koodausmarkkina on nyt kymmenien miljardien arvoinen. Teollisuuden pyytäminen tauolle tarkoittaa rahan jättämistä pöydälle — ja luottamusta siihen, että kilpailijat, myös Kiinassa, tekevät samoin.
Onko kyse periaatteellisesta läpinäkyvyydestä vai strategisesta asemoinnista, riippuu siitä, mitä seuraavaksi tapahtuu. Paperi ei anna vastausta, mutta asettaa kysymyksen terävästi.
Yhteenveto
Anthropicin paperi yhdistää kaksi vaikeasti sovitettavaa viestiä. Claude rakentaa jo suurinta osaa yhtiön koodista, ja sama kyky voi johtaa tekoälyyn, joka kehittää itse itseään.
Ratkaisuksi yhtiö ehdottaa todennettavaa, monikansallista taukomekanismia. Ehdotuksen kohtalo ratkeaa vasta, jos kilpailijat ja sääntelijät ottavat sen tosissaan.