Anthropic perustaa Anthropic Public Benefit Fund -nimisen rahaston, johon se sitoo viisi prosenttia osakkeistaan. Osuus voi kasvaa, sillä hallitus voi lisätä rahastoon kaksi prosenttiyksikköä jokaista 50 prosentin arvonnousua kohden. Yhtiö kertoi järjestelystä virallisessa tiedotteessaan sunnuntaina.
Ilmoitus tuli viikolla, jolloin Anthropic avasi myös sisäiset järjestelmänsä ulkopuolisille riskiarvioijille. Kumpikin siirto vastaa samaan ongelmaan. Tekoälyalan luottamus on heikentynyt, ja toimitusjohtaja Dario Amodei on kutsunut tilannetta luottamuskriisiksi.
Osuus kasvaa yhtiön arvon mukana
Rahaston ydin on porrastettu rakenne. Viiden prosentin perusosuus sidotaan heti, kunhan osakkeenomistajat hyväksyvät järjestelyn. Lisäosuudet riippuvat siitä, kuinka paljon yhtiön arvo nousee ennalta asetetun lähtötason yläpuolelle.
Jos Anthropicin valuaatio kasvaa 50 prosenttia lähtötasosta, hallitus voi lisätä rahastoon kaksi prosenttiyksikköä. Sama toistuu jokaisen seuraavan 50 prosentin nousun kohdalla. Mitä suuremmaksi yhtiö kasvaa, sitä suurempi osa siitä on varattu yleiseen hyvään.
Anthropic vertaa mallia teknologiayhtiöiden tapaan palkita johtoa porrastetuilla osakepalkkioilla. Sen sijaan että kasvava arvo ohjattaisiin johtajille, se ohjataan rahastolle. Lähtötasoa ja tarkkoja arvorajoja ei ole vielä julkistettu.
Yhtiö lupaa kertoa rahaston hallinnosta ja arvorajoista lähikuukausina. Avoimeksi jää vielä se, kuka lopulta päättää rahoitettavista kohteista.
Miksi rahasto ei ole säätiö
Anthropic on yleishyödyllinen yhtiö (public benefit corporation), ja suurin osa sen missiotyöstä tapahtuu yhtiön sisällä. Tähän kuuluvat tekoälyn turvallisuus- ja tulkittavuustutkimus, biolääketieteellinen tutkimus sekä Clauden alennukset voittoa tavoittelemattomille toimijoille.
Uusi rahasto perustetaan kokonaan omistetuksi LLC-yhtiöksi eikä verovapaaksi 501(c)(3)-säätiöksi. Anthropicin mukaan muoto jättää enemmän liikkumavaraa eri lahjoitustapojen välillä. Rahasto voi esimerkiksi tehdä suuria lahjoituksia perinteisille järjestöille tai jakaa varoja suoraan tietyille väestöryhmille.
Yhtiö on asettanut myös yhden selvän rajoituksen. Rahaston hallussa olevaa osakevarallisuutta ei käytetä lobbaukseen eikä poliittisiin lahjoituksiin Yhdysvalloissa tai muualla.
Rajaus on merkittävä, koska tekoälyyhtiöiden poliittinen vaikuttaminen on kasvanut nopeasti. Alan yhtiöt ovat rahoittaneet sekä vaalikampanjoita että sääntelyä koskevia kampanjoita. Rahasto pidetään tietoisesti tämän toiminnan ulkopuolella.
Työmarkkinat ovat ensimmäinen esimerkki
Anthropic nostaa tiedotteessaan esiin tekoälyn vaikutukset työmarkkinoihin. Yhtiön mukaan tekoäly voi tuottaa valtavasti taloudellista arvoa, mutta samalla se voi horjuttaa monien työntekijöiden asemaa.
Anthropic on jo aiemmin sitoutunut käyttämään 200 miljoonaa dollaria aiheen tutkimiseen ja ratkaisemiseen. Nyt yhtiö arvioi, että tekoälyn kehitysvauhdin vuoksi tarvitaan rohkeampia keinoja. Rahaston joustavuus on tarkoitettu juuri niitä varten.
Suorat rahansiirrot tietyille väestöryhmille olisivat poikkeuksellinen keino tekoälyyhtiöltä. Ajatus muistuttaa keskustelua perustulosta, jota alan johtajat ovat käyneet jo vuosia. Konkreettisia ohjelmia Anthropic ei kuitenkaan ole vielä esitellyt.
Noin viidennes osakkeista yleiseen hyvään
Rahasto jatkaa aiempia sitoumuksia. Anthropicin perustajat lupasivat yhtiön alkuvaiheessa lahjoittaa 80 prosenttia omistuksistaan. Lisäksi yhtiöllä on ohjelma, jossa se tuplaa työntekijöiden lahjoittamat osakkeet, ja noin puolet henkilöstöstä osallistuu siihen.
Yhdessä uuden rahaston kanssa noin 20 prosenttia Anthropicin osakkeista on yhtiön mukaan sidottu yleiseen hyvään. Osuus voi kasvaa, jos yhtiö saavuttaa asetetut arvorajat.
Luku on suuri, sillä Anthropic kuuluu maailman arvokkaimpiin yksityisiin teknologiayhtiöihin. Rahaston todellinen koko riippuu kuitenkin siitä, millä hinnalla osakkeita joskus myydään tai jaetaan.
Yhtiö aikoo raportoida edistymisestään myös tulevassa yleishyödyllisyysraportissa. Raportti on ensimmäinen tilaisuus arvioida, miten lupaukset muuttuvat käytännön teoiksi.
METR pääsee yhtiön sisälle
Samalla viikolla Anthropic kertoi antaneensa riskiarvioita tekevälle METR-järjestölle työntekijän kaltaiset käyttöoikeudet. Kuusi METRin asiantuntijaa sai yhtiön laitteet, toimistotilat ja pääsyn sisäisiin työkaluihin suunnilleen samalla tasolla kuin Anthropicin omat riskitiimit.
METR julkaisee arvionsa itse, eikä Anthropic voi estää julkaisua. Yhtiö voi kuitenkin vaatia poistamaan tiettyjä tietoja, kuten asiakastiedot ja malliarkkitehtuurin yksityiskohdat. Anthropic vertaa järjestelyä pankkivalvontaan, jossa tarkastajat työskentelevät suurten pankkien sisällä.
Muita arvioijia ovat SecureBio sekä Accenture ja Faculty, ja alustavia keskusteluja käydään muun muassa Hugging Facen kanssa. Anthropic rakentaa arvioijille kolmiportaista käyttöoikeusmallia, jonka ylimmällä tasolla METR nyt on.
Alimmalla tasolla arvioijat tekevät rajattuja selvityksiä ja tarvitsevat julkaisulle Anthropicin luvan. Toisella tasolla lupaa ei enää tarvita. Anthropicin mukaan jokaisen kärkimalleja kehittävän yhtiön pitäisi ottaa ulkopuoliset arvioijat sisäänsä samalla tavalla.
Yhteenveto
Anthropic sitoo viisi prosenttia osakkeistaan uuteen rahastoon, ja osuus kasvaa yhtiön arvon noustessa. Yhdessä perustajien ja työntekijöiden lahjoitusten kanssa noin viidennes yhtiöstä on varattu yleiseen hyvään.
Ratkaisevat yksityiskohdat puuttuvat vielä: hallintomalli, arvorajat ja se, mihin rahat käytetään. Samaan aikaan METRin pääsy yhtiön sisälle näyttää, että Anthropic yrittää palauttaa luottamusta sekä rahalla että avoimuudella.