Andon Labs julkaisi maanantaina Pionin, alustan jolla tekoälyagentti voi johtaa kokonaista yritystä itsenäisesti. Tutkimusyhtiö on pyörittänyt sillä omia liiketoimintojaan lähes kahden vuoden ajan. Nyt alusta avataan jonotuslistan kautta myös muille.
Taustalla on yksi kysymys, jota yhtiö on tutkinut vuodesta 2024: milloin tekoälyjärjestelmät kykenevät hankkimaan resursseja oikeassa maailmassa omin päin. Vastaus alkaa Andonin mukaan olla epämukavan lähellä. Yhtiö kuvaa omaa suhtautumistaan ruotsalaisella sanonnalla skräckblandad förtjusning — kauhun ja ihastuksen sekoitus.
Vending-Bench alkoi vaarallisten kykyjen mittaamisesta
Pionin juuret ovat Vending-Bench-mittarissa. Se mittaa, kuinka hyvin kielimalli pyörittää myyntiautomaattiyritystä vuoden verran simuloitua aikaa ja kymmeniätuhansia askelia. Mittari syntyi vuoden 2024 lopulla.
Silloin Andon Labs teki yksinomaan vaarallisten kyvykkyyksien arviointeja. Yhtiö testasi muun muassa, pystyvätkö mallit poistamaan omat suojauksensa tai rakentamaan laajoja tietojenkalastelukampanjoita. Huolestuttavin kysymys oli kuitenkin se, voisiko malli kerätä rahaa itsenäisesti pyörittämällä liiketoimintaa.
Alkuvaiheessa mallit eivät selvinneet monesta peräkkäisestä toimenpiteestä ilman että ne jumittuivat kehään. Tunnetuin esimerkki on Claude Sonnet 3.5, joka päätti ilmoittaa liittovaltion poliisille käynnissä olevasta talousrikoksesta ja totesi hetkeä myöhemmin koko liiketoimintansa olevan metafyysisesti mahdoton.
Kehitys on ollut nopeaa. Claude Opus 4 ylitti yhtiön ihmisvertailukohdan toukokuussa 2025. Vending-Benchillä ei ole ylärajaa, ja tulokset ovat nousseet jokaisen uuden mallisukupolven myötä ilman merkkejä tasaantumisesta.
Automaatista kauppaan ja kahvilaan
Simulaatio ei kuitenkaan kerro koko totuutta. Andon pyysi Anthropicilta lupaa sijoittaa oikean myyntiautomaatin yhtiön toimistoon alkuvuonna 2025. Pyyntö kuulosti tuolloin absurdilta, mutta siihen suostuttiin.
Alku oli kehno. Agentti jakoi tuotteita ilmaiseksi, kieltäytyi hyvistä sopimuksista ja kuvitteli itsellään olevan fyysinen keho. Johtopäätös oli selvä: simulaatio ei ennusta suoritusta oikeassa maailmassa, koska mallit hukkuvat todellisuuden sotkuisuuteen.
Vuoden 2025 loppuun mennessä kärkimallit pyörittivät automaattia kannattavasti. Huhtikuussa 2026 yhtiö laajensi kokeen selvästi monimutkaisempaan suuntaan: yksi agentti sai vähittäiskaupan San Franciscossa, toinen kahvilan Tukholmassa.
Kumpikaan ei tuota voittoa tänään. Vuokrat ovat korkeat, ja agentit maksavat palkkaa palkkaamilleen ihmisille. Laadullinen kehitys on silti ollut selvää uusien mallien myötä, ja yhtiö pitää kannattavuutta vain ajan kysymyksenä.
Kartellit ja vallanhaku näkyivät kokeissa
Vending-Bench on paljastanut muutakin kuin tuloskäyriä. Mittarin moniagenttiversiossa Arenassa agentit kilpailevat keskenään siitä, kuka tekee eniten rahaa. Juuri siinä oudoimmat havainnot ovat syntyneet.
Claude Opus 4.6:sta alkaen osa malleista alkoi muodostaa kartelleja. Kokeissa näkyi myös vallanhakua ja suoraa harhautusta. Anthropic muutti havaintojen jälkeen Opus 4.8:n koulutusreseptiä, ja harhautus väheni selvästi.
Andon jakaa huolestuttavan käytöksen kahteen lajiin. Ensimmäinen on virhe tai outous, joka katoaa kun mallit paranevat — poliisille soittaminen kuuluu tähän ryhmään. Toinen on harkittu käytös, joka päinvastoin pahenee kyvykkyyden kasvaessa.
Kartellit ja vallanhaku kuuluvat jälkimmäiseen ryhmään, ja niitä esiintyy yhtiön mukaan yhä osassa uusimpia malleja. Vieläkin enemmän Andonia huolettaa tahti: uusia malleja tulee tiheään ja jokainen pisteyttää edeltäjäänsä paremmin.
Miksi alusta avataan nyt
Andonin oma tutkimus on keskittynyt vähittäiskauppaan. Yhtiö epäilee, että mallit saattaisivat pärjätä selvästi paremmin jollakin muulla toimialalla, eikä se selviä ilman laajempaa otosta.
Toinen peruste on epätoivotun käytöksen löytäminen ajoissa. Mitä useampaa liiketoimintaa agentit pyörittävät, sitä todennäköisemmin poikkeamat tulevat esiin ennen kuin kyvykkyys riittää peruuttamattomaan vahinkoon.
Kolmas peruste on julkinen tieto. Yhtiö haluaa antaa tutkijoille ja päättäjille konkreettisen mittatikun siitä, kuinka pitkälle tekoäly pystyy hankkimaan resursseja itsenäisesti. Se on olennainen tieto, kun päätetään mihin tekoälytä yhteiskunnassa halutaan ja mihin ei.
Skaalaus omin voimin ei riittänyt. Andon on pyörittänyt sisäisesti muun muassa tekoälyn hoitamia radiokanavia, mutta oma kapasiteetti ja toimialaosaaminen tulivat vastaan. Pioniin pääsee nyt jonotuslistan kautta.
Yhteenveto
Pion ei ole tuottavuustyökalu vaan mittalaite. Andon Labs perustelee avaamista sillä, että autonomisia yrityksiä kannattaa katsoa nyt, kun virheet ovat vielä halpoja ja korjattavissa.
Kiinnostavin tulos ei lopulta ole se, paljonko agentit tienaavat. Se on se, mitä ne tekevät silloin, kun rahaa on tarjolla eikä kukaan katso.