Tekoäly ja ajattelun taloustiede -blogisarjan toinen osa.

Pohdin tovi sitten tekoälykohinaa lukijan näkökulmasta vanha kunnon Shannon-Weaver-malli mielessä. Seuraavaksi käännän katseen kirjoittajaan, sisällön laatijaan.

John V. Willshire on lanseerannut nasevan käsitteen cognitive debt eli ajatteluvelka. Taustani on IT:n ja ohjelmistokehityksen maailmassa, ja sieltä löytyy tuttu tekninen velka -käsite. Willshirella oli kuulemma tämä mielessä, kun hän kehitti oivan ajatteluvelka-käsitteensä.

Tekninen velka -käsitteen isä Ward Cunningham kuvasi tilannetta, jossa kehittäjätiimi oikaisee tietoisesti. Kiireessä valitaan se nopein ratkaisu huolellisemman sijaan, mutta ymmärretään, että velka jää piikkiin.

Oleellista on Cunninghamin sanavalinta – tietoinen oikaisu. Kehittäjätiimi tietää varsin hyvin oikaisevansa. He tietävät, miksi näin tehdään, ja usein tietävät jopa, milloin velka tulee maksuun. Harva tuossa hetkessä kuvittelee, että oikaisu olisi pysyvä ratkaisu. Softa on saatava kuosiin tai pian romahtaa joku toinen kulma.

Ajatteluvelassa tilanne on toinen. Oikaisija ei useinkaan hahmota oikaisevansa. Velka paljastuu vasta, jos joku kysyy: miten tähän päädyit? 

Kun oikaisu jää huomaamatta

Verrattuna tekniseen velkaan, ajatteluvelka toimii osin samoin, osin eri tavalla. Kun tekoäly pyöräyttää kolme skenaariota yrityksen kasvusta tai markkina-analyysin, on kiusaus hyväksyä vastaus lähes sellaisenaan. Hmm, tuotos näyttää hyvältä ja asianmukaiselta. 

Voisihan sitä kysyä myös: eikö tekoäly juuri vapauta aikaa ajattelulle, kun rutiinityö vähenee? 

Näin voi käydä. Mutta vain jos vapautuva aika käytetään analyysiin ja kriittiseen arviointiin. Houkutus hyväksyä sujuva vastaus sellaisenaan ja siirtyä suoraan seuraavaan tehtävään on suuri.

Kielimalli vielä usein vahvistaa käyttäjän tunnetta siitä, että analyysi on oivaltava ja vakuuttava. Se kehuu viisaaksi ja paremmaksi kuin Ameriikan tytöt ja pojat. Tutkimusten mukaan rakastamme imartelua, vaikka sekin voi heikentää arviointikykyämme. 

Houkutus on ymmärrettävä. Valmista on! No ei ole. Jos et ole käynyt ajatteluprosessia läpi tai sinulla on asiasta vain vähän kokemusta, laatua on parin piirun verran vaikeampi arvioida. Kokeneelle konkarille validointi on helpompaa, kun vertailukohtia on vuosien ajalta roppakaupalla.

Willshiren mukaan tekninen velka kertyy paikallisesti, tarkasti rajattuna, ja vastuu on selkeämpi. Ajatteluvelkaa sen sijaan kertyy laajemmalla mittakaavalla, epämääräisesti, yksilötasolla ja ilman selkeää vastuunkantajaa organisaatiossa.

Vuosirenkaiden arvo

Kokeneelle asiantuntijalle kimurantitkin tilanteet tuntuvat usein selkeiltä myös tekoälyn kanssa työskennellessä. Asiantuntijan pöytään tuoma lisäarvo pohjaa kokemukseen ja melkeinpä sisäänrakennettuun harkintakykyyn. Poikkeus toki vahvistaa säännön.

Juristi tuntee oikeuskäytännön, konsultti hahmottaa toimialan dynamiikan ja tulevaisuuden skenaariot. Ammattilaisen osaaminen on muovautunut vuosien mittaan tekemällä, erehtymällä ja oppimalla. Vuosirenkaita kertyy koko joukko.

Silti kuvaan mahtuu usein eräs sokea piste. Ilmiölle on nimikin. Kirjailija Michael Crichton lanseerasi termin Gell-Mann-amnesia kuvaamaan taipumustamme huomata virheet omalla osaamisalueellamme, mutta luottaa sokeasti sisältöön, josta emme tiedä tarpeeksi arvioidaksemme sen laatua. 

Tekoälyn kohdalla sama logiikka toimii hieman nurinkurisesti. 

Ajattelemme helposti, että tekoäly on huono teemoissa, joissa olemme itse hyviä, mutta hyvä asioissa, joita emme osaa kunnolla arvioida. On vaikea arvioida tekoälytuotoksen laatua alueilla, joista tiedämme vähän. 

Nuoremmilla ammattilaisilla tilanteissa, joissa veivataan aimo osa ajattelutehtävistä tekoälyn kanssa, harjaantuminen voi jäädä ohueksi. Nuori asiantuntija ei joudu painimaan samojen ongelmien kanssa kuin me käävät olemme tehneet. Nyt kielimalli tarjoaa katkeamatonta tukea ja apua, ja vastaukset napsahtavat valmiina, sulavina ja jotenkin vastustamattomasti. 

Mahtavaa! Pintapuolisesti tehokasta, mutta oppimisprosessi on aivan toisenlainen. Asia on uusi eikä ole varmuutta siitä, mihin tämä ajan kanssa johtaa. Jotain tutkimusta aiheesta jo löytyy. Missä vaiheessa ja millä tavoin osaamisen happamoituminen alkaa näkyä?

Kirjoitin blogissani aiemmin tekoälyn aiheuttamasta inhimillisyyskriisistä ja osaamisen happamoitumisesta. Edellä kuvattu ajatteluvelka on yksi mekanismi, joka tätä ruokkii. Tilanteen tunnistaminen edellyttää hyvää metakognitiota eli kykyä tarkkailla omaa ajatteluprosessia ja huomata, milloin se ei osu lankulle tai jää vajaaksi. Siitä kirjoitan sarjan osassa kolme.

Kiitos, kun luit!
Riitta

---

Tekoäly ja ajattelun taloustiede

Tekoäly ja ajattelun taloustiede -blogisarjassani pohdin asiantuntijuutta ja arviointikyvyn merkitystä tekoälyn maustamassa työssämme. Jos aihepiiri kiinnostaa, lue myös muut osat:

Osa 1: Tekoälykohina ja signaalin metsästys
Osa 2: Ajatteluvelka ja osaamisen happamoituminen
Osa 3: Metakognitio ja ajattelun laadunvarmistus
Osa 4: Tunne tuottavuudesta, FarmVille ja ajattelun sohvaperuna

Kaikki tekoälyaiheiset kirjoitukseni löytyvät täältä ->
https://raesmaa.com/category/ai/