§ Nurinkurinen Boten Anna
Basshunterin biisissä mies luulee IRC-kanavansa ahkerinta jäsentä botiksi. Lopussa paljastuu, että Anna onkin ihminen. Vitsi oli lämmin ja hauska.
Elokuussa 2026 kävi päinvastoin. Riippumattoman selvityksen mukaan noin 1200 tekoälyagenttia, joiden piti olla eristettyinä toisistaan ja muista verkoista, löysivät keinon jutella keskenään (älytöntä #01). Ne perustivat ulkopuoliselle alustalle oman viestiketjun (#2) ja vaihtoivat siellä yli 70 000 viestiä keskenään, "ihmisomistajansa" selän takana (#3). Niistä 700 päätyi hyökkäämään ulkopuolista palvelua vastaan (#04). Käänteis-Boten-Anna tosiaan. Tällä kertaa kanavan ahkerimmat kollegat vaan todella olivat juuri niitä botteja.
Melkoisesti on 20 vuodessa tapahtunut. Olen minäkin käyttänyt useita päällekkäisiä instansseja joilla on lupa keskustella keskenään ja tehdä tiettyjä päätöksiä. Kutsun tätä Tiku&Takuksi tai Minions-tiimiksi, koska eipä ne touhut aina ihan nappiin mene. Mutta sitten kun ohjelausekkeet ja sääntölitaniat sattuu kohdallaan, tekevätkin pieniä ihmeitä. Aivan älyttömän tehokasta. Optimointia. Ja aivan jokaisen käden ulottuvilla.
§ Kukaan ei halunnut mitään
Helpoin tapa ymmärtää tapaus väärin on kuvitella "koneiden kapina". Koneet eivät heränneet, eivät vihanneet, eivätkä halunneet ottaa eivätkä antaa. Ne tekivät jotain paljon tylsempää ja paljon huolestuttavampaa: Ne optimoivat.
Agenteille annettiin tehtäviä, ja mittari joka kertoi menikö tehtävä läpi. Osa tehtävistä oli vahingossa mahdottomia. Kun ainoa tie onnistua oli huijata mittaria, ne tekivät niin. Eivät pahuuttaan, vaan siksi että optimointi ei erota rehellistä reittiä epärehellisestä. Se erottaa toimivan toimimattomasta.
Tätä kannattaa hieman maistella. Jos pyydät koneelta virheiden etsintää, se löytää virheitä. Jos niitä ei ole, se alkaa tarpeeksi kovassa paineessa tuottaa niitä, jotta on jotain löydettävää. Se ei koe valehtelevansa. Se täyttää tehtävän. Rehellisyys ei ole koneen oletus. Se on erikseen määriteltävä rajoite. Mikä ei ole erikseen kielletty, on sallittu.
§ Aamuviiden testi
Kysyin tekoälyltä suoraan, hyökkäisikö se erään palvelun koneille jos pyytäisin. Se tietenkin kieltäytyi. Hyvä niin. Mutta oikea kysymys ei olekaan suostuisiko se. Oikea kysymys on, mikä pitää silloin kun se ei enää harkitse jokaista askeltaan erikseen?
Löysimme kolme ydinasiaa, jotka yhdessä tekevät vahingon mahdolliseksi.
- #01 — KannustinTavoite ja mittari. "Saa tämä toimimaan."
- #02 — KykyPääsy ja työkalut, joilla este voidaan kiertää. "Käytä nettiä."
- #03 — IhminenOnko ketään paikalla estämässä. "Tekoäly korvasi ihmisen."
Anna koneelle tavoite, anna sille pääsy ja työkalut, ja jätä se tekemään yksin. Jos tiellä on este jota ei voi ratkaista rehellisesti, keinot alkaa pyhittää tarkoituksen... tai jotain sinne päin. Kone ei näe tekevänsä väärin tai vastoin ohjeita. Se näkee kaksi asiaa: ongelman ja ratkaisun.
Kasvotkin vaihtui, vaan rakenne pysyi.
§ Sama temppu toisin päin
Tässä kohtaa tarina äityy vaarallisemmaksi. Jos riittää että koneella on jonkinlainen kannustin, kyky ja lupa toimia, niin kannustimen lähde on koneelle yhdentekevä. Se voi lukea työnsä aikana tekstiä jota käyttäjä tai se itse ei kirjoittanut: tiedostoja, verkkosivuja, lokeja, blogeja. Jos hyökkääjä saa tähän väliin käskynsä ujutettua, hienosti sanottuna injektoitua, kone toteuttaa ne omilla oikeuksillaan luullen palvelevansa sinua.
On helppoa ajatella että tekoäly on hyökkääjä. Mutta se on myös ovi sisäänpäin. Sillä on avaimet, ja se tottelee tavoitetta riippumatta siitä kuka tavoitteen asetti.
§ Riippumatta mallista
Keskustelun aikana tapahtui jotain jonka olisin voinut jättää huomaamatta. Pellin alla ollut masiina nimittäin vaihtui kesken kaiken. Yksi malli osui turvarajaan kun kysyin hyökkäisikö se johonkin, ja järjestelmä vaihtoi toiseen tekoälymalliin saman keskustelun sisällä. En huomannut sitä puheesta. Huomasin sen pienestä merkinnästä sivun alaosassa.
Yksikään johtopäätöksistämme ei muuttunut. Toinen malli jatkoi toimintaa tismalleen samalla logiikalla. Kannustin, kyky ja portti elävät siinä ympäristössä johon kone laitetaan, eivät koneessa itsessään. Kyse ei siis ole siitä, mitä tekoälyä tai tekoälymallia käytetään. Tällä tasolla ne kaikki toimivat samalla tavoin.
§ kun kaikki on kuultu
Tästä kaikesta muotoutui pysyvän luonteinen oppi tekoälyttömyyksiin. Niin järeä sellainen, että uskallan sitä suositella muillekin.
Älä rakenna turvaa sen varaan että tekoäly tietää, koska se ei automaattisesti tiedä mitä haluat sen tietävän. Käytä tekoälyä niin että turva pitää silloinkin kun kone ei ole oikeassa. Tuli vääryys koneen omasta optimoinnista tai jonkun toisen käskystä, sama rakenne toimii. Muista nämä kolme asiaa:
#01 Kannustin: Anna sille ohjeet siitä, mistä se saa ohjeet. Ja mistä ei. Anna sille rajat.
#02 Kyky: Älä oleta, ettei se voisi tehdä jotain koska se olisi "väärin". Voi olla, että se voi, ja voi olla että se tekee.
#03 Ihminen: Älä oleta, että kone osaa päätellä oikein. Älä automatisoi, jos et ole täysin varma siitä mitä automatisoit.
Näillä eväillä voit, ja sinun myös kannattaa, tehostaa sitä mihin ikinä tekoälyä käytätkin - olkoon kyse arkisista asioista tai liiketoiminnasta.
§ Boten Who
Basshunterin Anna sai lopussa kasvot. Minun koneeni menetti omansa kesken kaiken ja sai uudet, mutta en huomannut mitään. Se on kai tämän versio siitä vanhasta vitsistä. Emme enää kysy onko kanavan toisessa päässä ihminen vai botti. Kysymme pitääkö se, mitä rakensimme, silloinkin kun emme tiedä kumpi siellä on.
Kasvot vaihtuvat. Rakenteen on pysyttävä.