Tämä kirjoitus on osa 2 blogisarjassani AI ja ajattelun taloustiede, jossa pohdin tekoälyn vaikutuksia ajatteluun ja asiantuntijuuteen.

Pohdin tovi sitten tekoälykohinaa lukijan näkökulmasta vanha kunnon Shannon-Weaver-malli mielessä. Seuraavaksi käännän katseen kirjoittajaan, sisällön laatijaan.

John V. Willshire on lanseerannut nasevan käsitteen cognitive debt eli ajatteluvelka. Taustani on IT:n ja ohjelmistokehityksen maailmassa, ja sieltä löytyy tuttu tekninen velka -käsite. Willshirella oli kuulemma tämä mielessä, kun hän kehitti oivan ajatteluvelka-käsitteensä.

Tekninen velka -käsitteen isä Ward Cunningham kuvasi tilannetta, jossa kehittäjätiimi oikaisee tietoisesti. Kiireessä valitaan se nopein ratkaisu huolellisemman sijaan, mutta ymmärretään, että velka jää piikkiin.

Oleellista on Cunninghamin sanavalinta – tietoinen oikaisu. Kehittäjätiimi tietää varsin hyvin oikaisevansa. He tietävät, miksi näin tehdään, ja usein tietävät jopa, milloin velka tulee maksuun. Harva tuossa hetkessä kuvittelee, että oikaisu olisi pysyvä ratkaisu. Softa on saatava kuosiin tai pian romahtaa joku toinen kulma.

Ajatteluvelassa tilanne on toinen. Oikaisija ei useinkaan hahmota oikaisevansa. Velka paljastuu vasta, jos joku kysyy: miten tähän päädyit? 

Kun oikaisu jää huomaamatta

Verrattuna tekniseen velkaan, ajatteluvelka toimii osin samoin, osin eri tavalla. Kun tekoäly pyöräyttää kolme skenaariota yrityksen kasvusta tai markkina-analyysin, on kiusaus hyväksyä vastaus lähes sellaisenaan. Hmm, tuotos näyttää hyvältä ja asianmukaiselta. 

Voisihan sitä kysyä myös: eikö tekoäly juuri vapauta aikaa ajattelulle, kun rutiinityö vähenee? 

Näin voi käydä. Mutta vain jos vapautuva aika käytetään analyysiin ja kriittiseen arviointiin. Houkutus hyväksyä sujuva vastaus sellaisenaan ja siirtyä suoraan seuraavaan tehtävään on suuri.

Kielimalli vielä usein vahvistaa käyttäjän tunnetta siitä, että analyysi on oivaltava ja vakuuttava. Se kehuu viisaaksi ja paremmaksi kuin Ameriikan tytöt ja pojat. Tutkimusten mukaan rakastamme imartelua, vaikka sekin voi heikentää arviointikykyämme. 

Houkutus on ymmärrettävä. Valmista on! No ei ole. Jos et ole käynyt ajatteluprosessia läpi tai sinulla on asiasta vain vähän kokemusta, laatua on parin piirun verran vaikeampi arvioida. Kokeneelle konkarille validointi on helpompaa, kun vertailukohtia on vuosien ajalta roppakaupalla.

Willshiren mukaan tekninen velka kertyy paikallisesti, tarkasti rajattuna, ja vastuu on selkeämpi. Ajatteluvelkaa sen sijaan kertyy laajemmalla mittakaavalla, epämääräisesti, yksilötasolla ja ilman selkeää vastuunkantajaa organisaatiossa.

Vuosirenkaiden arvo

Kokeneelle asiantuntijalle kimurantitkin tilanteet tuntuvat usein selkeiltä myös tekoälyn kanssa työskennellessä. Asiantuntijan pöytään tuoma lisäarvo pohjaa kokemukseen ja melkeinpä sisäänrakennettuun harkintakykyyn. Poikkeus toki vahvistaa säännön.

Juristi tuntee oikeuskäytännön, konsultti hahmottaa toimialan dynamiikan ja tulevaisuuden skenaariot. Ammattilaisen osaaminen on muovautunut vuosien mittaan tekemällä, erehtymällä ja oppimalla. Vuosirenkaita kertyy koko joukko.

Silti kuvaan mahtuu usein eräs sokea piste. Ilmiölle on nimikin. Kirjailija Michael Crichton lanseerasi termin Gell-Mann-amnesia kuvaamaan taipumustamme huomata virheet omalla osaamisalueellamme, mutta luottaa sokeasti sisältöön, josta emme tiedä tarpeeksi arvioidaksemme sen laatua. 

Tekoälyn kohdalla sama logiikka toimii hieman nurinkurisesti. 

Ajattelemme helposti, että tekoäly on huono teemoissa, joissa olemme itse hyviä, mutta hyvä asioissa, joita emme osaa kunnolla arvioida. On vaikea arvioida tekoälytuotoksen laatua alueilla, joista tiedämme vähän. 

Nuoremmilla ammattilaisilla tilanteissa, joissa veivataan aimo osa ajattelutehtävistä tekoälyn kanssa, harjaantuminen voi jäädä ohueksi. Nuori asiantuntija ei joudu painimaan samojen ongelmien kanssa kuin me käävät olemme tehneet. Nyt kielimalli tarjoaa katkeamatonta tukea ja apua, ja vastaukset napsahtavat valmiina, sulavina ja jotenkin vastustamattomasti. 

Mahtavaa! Pintapuolisesti tehokasta, mutta oppimisprosessi on aivan toisenlainen. Asia on uusi eikä ole varmuutta, mihin tämä ajan kanssa johtaa. Jotain tutkimusta aiheesta jo löytyy. Missä vaiheessa ja millä tavoin osaamisen happamoituminen alkaa näkyä?

Kirjoitin blogissani aiemmin tekoälyn aiheuttamasta inhimillisyyskriisistä ja osaamisen happamoitumisesta. Edellä kuvattu ajatteluvelka on yksi mekanismi, joka tätä happamoitumista ruokkii. Sen tunnistaminen edellyttää hyvää metakognitiota – kykyä tarkkailla omaa ajatteluprosessia ja huomata, milloin se ei osu lankulle tai jää vajaaksi. Siitä kirjoitan seuraavaksi.

Tässähän syntyi nyt pieni blogisarja nimeltä ”Ajattelun taloustiede”. Ensimmäisen osan pääviestini → signaali syntyy ajattelusta. Tämän toisen osan pohde → ajatteluvelka on haaste, jota osan voi olla vaikea taklata. Kolmas osa on muhimassa.

1. Signaali vs. kohina
2. Ajatteluvelka ja osaamisen happamoituminen
3. Metakognitio (tulossa)

Kiitos, kun luit!
Riitta

Kaikki tekoälyaiheiset kirjoitukseni (30+ kpl) löytyvät täältä ->
https://raesmaa.com/category/ai/