OpenAI julkaisi tiistaina ChatGPT for Teensin, 13-17-vuotiaille suunnatun version keskustelubotistaan. Versiossa on tiukemmat sisältörajoitukset ja opiskeluun painottuva vastaustapa. Vanhemmille tuli lisäksi uusia hallinta-asetuksia.
Julkaisu tulee myöhään. Teini-ikäiset ovat käyttäneet ChatGPT:tä koulutehtäviin ja arjen kysymyksiin jo vuosia, kuten TechCrunch huomautti.
Mitä teiniversio rajaa pois
OpenAI kertoo rajaavansa teiniversiosta pois aiheita, jotka se katsoo nuorille haitallisiksi. Listalla ovat itsemurha, itsensä vahingoittaminen sekä romanttiset ja seksuaaliset keskustelut. Rajaukset ovat tiukempia kuin aikuisten versiossa.
Kyse ei ole pelkästään sanojen suodattamisesta. Malli on ohjeistettu käsittelemään arkoja aiheita toisin ja ohjaamaan käyttäjä tarvittaessa avun piiriin. Yhtiö kuvaa tätä sisäänrakennetuksi suojaksi.
Ajoitus liittyy laajempaan paineeseen. Nuorten ja keskustelubottien suhde on ollut viranomaisten ja vanhempien tarkastelussa, ja yhtiöt ovat joutuneet perustelemaan ikärajakäytäntöjään. AP:n mukaan ChatGPT for Teens on OpenAI:n vastaus tähän keskusteluun.
Opiskelutuki ohjaa ajattelemaan itse
Toinen painopiste on koulutyö. OpenAI:n mukaan teiniversio on suunniteltu auttamaan oppimisessa eikä tuottamaan valmiita vastauksia. Käytännössä malli pyrkii ohjaamaan ratkaisuun sen sijaan, että se kirjoittaisi esseen oppilaan puolesta.
Ero on olennainen kouluille. Opettajien huoli on ollut, että keskustelubotti tekee tehtävät oppilaan sijasta. Jos malli kysyy vastakysymyksiä ja pyytää perusteluja, työkalusta tulee toisenlainen.
Toimivuus ratkeaa vasta käytössä. Opiskelutuen laatu riippuu siitä, kuinka johdonmukaisesti malli pitäytyy ohjaavassa roolissa. Yhtiö ei ole julkaissut mittareita, joilla tätä voisi arvioida ulkopuolelta.
Ikä arvioidaan, ei todenneta
Merkittävin rajoite on iän tunnistuksessa. OpenAI ei todenna käyttäjien ikää. Yhtiö kertoo käyttävänsä arviointia, joka päättelee iän käyttäytymisen ja tilitietojen perusteella.
Arvioon perustuva malli vuotaa molempiin suuntiin. Teini voi päätyä aikuisten versioon, ja aikuinen voi joutua teiniversioon. Kumpikin virhe heikentää suojausten tehoa.
Todentaminen olisi kuitenkin oma ongelmansa. Iän varmistaminen edellyttäisi henkilöllisyystietojen keräämistä, mikä lisäisi yksityisyysriskejä. OpenAI on valinnut kevyemmän mutta epätarkemman tien.
Vanhempien asetukset ja käytön rajaaminen
Teiniversion mukana tuli vanhemmille tarkoitettuja säätimiä. Niillä voi vaikuttaa siihen, mitä nuori voi palvelussa tehdä. Yhtiö kertoo myös terveen käytön ominaisuuksista, jotka koskevat käyttöaikaa.
Hallintatyökalut siirtävät osan vastuusta kotiin. Ratkaisu on tuttu sosiaalisen median palveluista, ja sen heikkous on sama: asetukset toimivat vain, jos ne otetaan käyttöön. Oletusarvot ratkaisevat enemmän kuin valikot.
Kokonaisuus on siksi kaksijakoinen. Sisältörajat ja opiskelupainotus ovat aitoja parannuksia, mutta ne nojaavat iän arviointiin ja vanhempien aktiivisuuteen. Kumpikaan ei ole erityisen vahva perusta.
Yhteenveto
ChatGPT for Teens on OpenAI:n selkein yritys erottaa nuorten käyttökokemus aikuisten versiosta. Sisältörajat, opiskelutuki ja vanhempien asetukset muodostavat johdonmukaisen paketin.
Rakenteen kestävyys riippuu iän arvioinnista. Niin kauan kuin ikää ei todenneta, suojaukset osuvat oikeaan paikkaan vain silloin, kun arvio osuu oikeaan. Se on ohut perusta suojauksille, joiden pitäisi kestää juuri niissä tilanteissa, joissa arvio menee pieleen.