Anthropic jätti maanantaina Yhdysvaltain arvopaperivalvoja SEC:lle päivitetyn listautumisesitteen. Taloudellisten lukujen lisäksi asiakirjan riskitekijöihin on lisätty poikkeuksellinen varoitus: yhtiön omien arvioiden mukaan sen tulevat mallit voivat pian ylittää kynnyksen, jonka se on määritellyt tekoälyn itse kiihdyttämälle kehitykselle.
Kyse on rekursiivisesta itsensä parantamisesta (recursive self-improvement, RSI). Sillä tarkoitetaan tilannetta, jossa tekoäly kehittää seuraavia tekoälyjä niin tehokkaasti, että kehitystahti kiihtyy jyrkästi. TechCrunch nosti kohdan ensimmäisenä esiin, ja se on herättänyt keskustelua sekä turvallisuustutkijoissa että sijoittajissa.
Mitä listautumisesite tarkalleen sanoo
Päivitetyssä S-1/A-asiakirjassa Anthropic kertoo, että tekoälyn kasvava käyttö sen omassa tutkimuksessa voi nostaa mallien kyvykkyyttä nopeammin kuin turvallisuus- ja valvontakeinoja ehditään kehittää. Yhtiö myöntää, ettei se ole aina tunnistanut kehityksen merkittävää kiihtymistä ennen kuin se on jo tapahtunut.
Keskeisin lause koskee yhtiön vastuullisen skaalauksen periaatteita (Responsible Scaling Policy). Sisäisten arvioiden mukaan Anthropic voi lähiaikoina täyttää periaatteiden määritelmän tekoälyn aiheuttamasta "dramaattisesti kiihtyneestä edistyksestä". Arvio koskee tulevia malleja, ei nykyisiä.
Yhtiö korostaa, ettei mikään sen nykyisistä malleista ole ylittänyt rajaa. Dataa arvioidaan edelleen, ja Anthropic kertoo harkitsevansa periaatteidensa päivittämistä niin, että ihmiset pysyvät kärkimallien kehityksen ohjaimissa.
Muotoilu on uusi. Lokakuun lopussa jätetyssä alkuperäisessä esitteessä kiihtymisen riski mainittiin yleisemmin, mutta arviota kynnyksen lähestymisestä siinä ei ollut. Lisäys tehtiin vain noin viikko ensimmäisen version jälkeen.
Claude rakentaa jo seuraavaa Claudea
Esitteen liiketoimintaosio kuvaa samaa ilmiötä myönteisemmin sanoin. Anthropicin mukaan jokainen Claude-versio nopeuttaa seuraavan kehitystä. Mallit ajavat jo kokeita, tuottavat ja käsittelevät koulutusdataa, automatisoivat arviointeja ja turvallisuustarkastuksia sekä kirjoittavat ja katselmoivat koodia.
Yhtiö kutsuu tätä kehää nimellä "closing the loop" ja pitää sitä yhtenä alan merkittävimmistä kilpailueduistaan. Konkreettinen mittari on niin sanottujen laskentakertoimien eli tehokkuusparannusten löytymisvauhti. Kyvykkäämmät mallit auttavat tutkijoita löytämään parannuksia nopeammin, ja parannukset mahdollistavat taas tehokkaampien mallien koulutuksen.
Sama mekanismi on siis samassa asiakirjassa sekä myyntivaltti että riskitekijä. Ristiriita kertoo, kuinka ohut raja tuottavuushyppäyksen ja hallitsemattoman kiihtymisen välillä yhtiön omassakin ajattelussa on.
Anthropic ei ole yksin. OpenAI kertoi syyskuussa saavuttaneensa automaattisen tutkimusharjoittelijan tason, ja useat laboratoriot käyttävät malleja jo oman koodinsa kirjoittamiseen. Anthropicin esite on kuitenkin harvinainen esimerkki virallisesta sijoittaja-asiakirjasta, jossa kärkilaboratorio sitoo tämän kehityksen omiin turvallisuuskynnyksiinsä.
Liikevaihto kasvaa, tappiot ja sitoumukset myös
Päivitys toi esitteeseen myös kolmannen neljänneksen luvut. CNBC:n mukaan Anthropicin liikevaihto oli syyskuun loppuun päättyneeltä yhdeksän kuukauden jaksolta 33,24 miljardia dollaria, noin 1 200 prosenttia enemmän kuin vuotta aiemmin. Pelkästään heinä–syyskuussa liikevaihto oli noin 17 miljardia dollaria.
Kasvu kuitenkin hidastui neljännesten välillä. Kolmannella neljänneksellä liikevaihto kasvoi edellisestä noin 47 prosenttia, kun toisella neljänneksellä kasvua oli 144 prosenttia ja ensimmäisellä 132 prosenttia.
Yhdeksän kuukauden nettotappio oli 104 miljardia dollaria. Suurin osa siitä johtuu vaihtovelkakirjojen ja johdannaisvelkojen käyvän arvon muutoksesta. Lisäksi yhtiöllä on hankinta- ja vuokrasitoumuksia yhteensä noin 895,4 miljardin dollarin edestä, ja lähes kaikki niistä liittyvät laskentakapasiteettiin ja infrastruktuuriin.
Sijoittajavaroitus vai markkinointia
Listautumisesitteen riskitekijät on kirjoitettu suojaamaan yhtiötä vastuulta. Siksi niissä kuvataan usein epätodennäköisiäkin skenaarioita. Kriitikot huomauttavat, että väite lähes itseään rakentavasta mallista toimii samalla vaikuttavana mainoksena juuri ennen pörssilistautumista.
Toisaalta Anthropic on puhunut julkisesti samasta riskistä jo pitkään, ja Clauden kyvyt koodauksessa, matematiikassa ja kyberturvassa ovat kasvaneet tänä vuonna nopeasti. Yhtiö sanoo esitteessä, ettei se usko voivansa turvallisesti antaa Clauden suunnitella ja rakentaa seuraavia kärkimalleja täysin itsenäisesti ilman merkittävää ihmisen valvontaa.
Vastapainoksi sijoittajien harhaanjohtaminen riskitekijöissä olisi yhtiölle juridisesti vaarallista. Liian synkkä kuva voisi myös laskea yhtiön valuaatiota. Varoituksen lisääminen kesken listautumisprosessin viittaa siihen, että yhtiön juristit pitivät asiaa olennaisena tietona.
Käytännössä kynnyksen ylittyminen käynnistäisi Anthropicin omien periaatteiden mukaan lisätoimet ja raportoinnin. Sitä, mitä nämä toimet tarkalleen olisivat, yhtiö ei ole vielä kertonut. Ilmoitus lisää painetta myös sääntelijöille, joiden pitäisi päättää, kuuluuko tällaisen kehityksen valvonta yksin yhtiöille itselleen.
Yhteenveto
Anthropicin päivitetty listautumisesite on harvinainen tapaus, jossa kärkilaboratorio kirjaa virallisiin asiakirjoihinsa arvion lähestyvästä itseään kiihdyttävästä tekoälykehityksestä. Yhtiön mukaan raja ei ole vielä ylittynyt, mutta tulevat mallit voivat ylittää sen pian.
Samalla esite näyttää rajun kasvun hinnan: liikevaihto on moninkertaistunut, mutta niin ovat tappiot ja laskentasitoumuksetkin. Listautumisen lähestyessä sijoittajat ja sääntelijät joutuvat punnitsemaan, kumpi varoituksessa painaa enemmän, riski vai lupaus.