OpenAI perusti maanantaina riippumattoman neuvoston, joka ohjaa yhtiön matemaattisten tulosten julkaisemista. Advisory Group on Mathematics and Artificial Intelligence toimii Princetonissa Institute for Advanced Studyn tiloissa. Samassa ilmoituksessa yhtiö kertoi, että sen sisäinen malli on ratkaissut yli sadan pitkään avoimena olleen matemaattisen ongelman.
Ilmoitus tuli kaksi viikkoa sen jälkeen, kun OpenAI julkaisi ratkaisunsa Navier-Stokesin olemassaolo- ja sileysongelmaan. Yhtiön mukaan sama malli, jonka koulutus alkoi 28. elokuuta, on edennyt sen jälkeen lähes kaikille matematiikan osa-alueille. OpenAI kirjoittaa, että mallin vauhti on yllättänyt yhtiön omat matemaatikot.
Yhdeksän matemaatikkoa Princetonissa
Neuvoston ensimmäisiksi jäseniksi nimettiin yhdeksän tunnettua matemaatikkoa: François Charles, Camillo De Lellis, Timothy Gowers, Martin Hairer, Nikhil Srivastava, Ulrike Tillmann, Ravi Vakil, Edward Witten ja Melanie Matchett Wood. Gowers ja Hairer ovat Fieldsin mitalisteja, Witten teoreettinen fyysikko.
Neuvosto arvioi uusien tulosten merkitystä, neuvoo niiden julkaisun koordinoinnissa ja ottaa kantaa matemaattisen tutkimuksen akateemisiin käytäntöihin. Se neuvoo myös siinä, miten OpenAI:n työkalut voivat tukea matemaatikkojen omaa tutkimusta.
OpenAI korostaa neuvoston riippumattomuutta useammalla tavalla. Jäsenet eivät saa yhtiöltä palkkaa, he voivat antaa neuvoja joita ei ole pyydetty, kommentoida julkisesti yhtiön vaikutusta matematiikkaan ja julkaista suosituksensa. Ryhmä päättää itse jäsenistöstään.
Neuvosto tarkentaa omilla sivuillaan, että se on valmis antamaan suosituksia mille tahansa tekoäly-yhtiölle, jonka mallit vaikuttavat matematiikkaan merkittävästi. Samalla se toteaa suoraan, ettei sillä ole päätösvaltaa yhdessäkään tekoäly-yhtiössä. Ryhmä syntyi sen jälkeen, kun OpenAI lähestyi osaa jäsenistä ulkoisen neuvottelukunnan perustamisesta, ja jäsenet päättivät yhtiön kanssa sopien muodostaa itsenäisen ryhmän.
Sadan ongelman lista puuttuu
Luku on vaikuttava, mutta ilmoitus ei kerro, mistä ongelmista on kyse. OpenAI ei nimeä yli sataa ratkaisemaansa ongelmaa, ei julkaise todistusindeksiä eikä kerro, millä perusteella jokainen ongelma katsottiin ratkaistuksi.
Ilmoituksesta puuttuu myös tieto siitä, kuinka monta tulosta on tarkastettu yhtiön ulkopuolella. Navier-Stokesin todistus on edelleen ilman riippumattomien matemaatikkojen vahvistusta, kertoo TechCrunch. Sen tuotti noin kymmenentuhannen rinnakkaisen agentin ryhmä 88 tunnissa, ja Lean-formalisointi vei vielä 17 tuntia.
Mittakaavasta kertovat myös yhtiön omat luvut. Kaikkien yritettyjen ongelmien osalta agentit lähettivät 4,9 miljoonaa viestiä ja käyttivät noin 300 miljardia ulostulotokenia. Pelkästään Navier-Stokesiin kului 2,7 miljoonaa viestiä ja noin 130 miljardia tokenia.
Ero julkaisemisen ja hyväksymisen välillä on olennainen. Julkaistu tulos ei ole sama asia kuin muodollisesti tarkastettu tulos, eikä kumpikaan ole sama asia kuin matemaattisen yhteisön hyväksymä tulos. Toistaiseksi tarkin kuvaus yli sadasta ratkaisusta on se, että OpenAI kertoo niistä.
Yhtiö perustelee neuvoston tarvetta juuri tällä ongelmalla. OpenAI:n mukaan tulosten määrä herätti sisäistä keskustelua siitä, miten matemaattinen yhteisö kannattaa valmistaa odotettua nopeampaan kehitykseen. Neuvoston nykyinen tehtävä on neuvoa, miten iso joukko tuloksia julkaistaan hallitusti.
Rajaus, joka jätettiin pois
Yksi lause ilmoituksessa rajaa neuvoston valtaa selvästi. OpenAI kirjoittaa, ettei ryhmä vastaa siitä, miten yhtiö tahdittaa sisäistä edistymistään matematiikassa. Julkaisunopeus kuuluu neuvoston piiriin, tutkimusnopeus ei.
Rajaus on merkityksellinen, koska koko kiista syntyi vauhdista. Syyskuun 11. päivänä joukko matemaatikkoja julkaisi kannanoton nimeltä A Severe Misalignment of AI in Mathematics. Siinä argumentoidaan, että kiire tuottaa vastauksia avoimiin ongelmiin heikentää hitaampaa työtä, joka muuttaa todistuksen yhteiseksi ymmärrykseksi: huolellista esitystä, kytkentää aiempaan kirjallisuuteen, keskustelua ja opettamista. Allekirjoittajissa on 27 Fieldsin mitalistia.
Uuden neuvoston kokoonpano kertoo saman asian toisin. Vain yksi yhdeksästä jäsenestä, Institute for Advanced Studyn Camillo De Lellis, oli allekirjoittanut mitalistien kannanoton. Hacker Newsissa keskustelu kääntyi tunneissa skeptiseksi, ja kommentoijat pitivät tahdituksen rajaamista merkkinä siitä, että kyse on viestinnän korjauksesta eikä todentamisen korjauksesta.
Taustalla on myös nimeämiskiista. NYU:n matemaatikko Tristan Buckmaster kertoi OpenAI:n painostaneen häntä olemaan mainitsematta Anthropicin tutkijaa tärkeän avoimen ongelman ratkaisijana. OpenAI on sittemmin todennut, että Levent Alpöge ja Buckmaster ratkaisivat pakotetun Euler-ongelman ensin, ja tunnustanut heidän työnsä etusijan.
Yhteenveto
OpenAI:n ilmoitus sisältää kaksi asiaa, joita kannattaa lukea erikseen. Toinen on kyvykkyysväite: sisäinen malli on tuottanut niin paljon tuloksia, että niiden julkaiseminen on muuttunut omaksi ongelmakseen. Toinen on hallintorakenne, joka on suunniteltu ratkaisemaan nimenomaan julkaisuongelma.
Neuvosto voi tehdä seuraavasta julkaisusta selvästi hyödyllisemmän, jos se suosittaa yhtenäistä kirjanpitoa jokaisesta väitetystä ratkaisusta: ongelman nimi ja aiempi tila, luettava todistus, tarkka väite, aiempi kirjallisuus ja ulkopuoliset tarkastajat. Sitä se ei voi vaatia. Vastuu päätöksistä jää yhtiölle, ja neuvoston vaikutus näkyy vasta silloin, kun ensimmäiset suositukset ja niiden taustalla oleva työ julkaistaan.