7 esimerkkiä tekoälyn ja kirjoittamisen eriskummallisesta suhteesta, josta on vaikea saada otetta
Eli hajanainen ajatusten kokoelma, jossa monta asiaa voi olla totta samaan aikaan.
Raapaisin edellisessä kirjoituksessani (taas) tekoälypintaa, kun kirjoitin tarinankerronnasta ja AI:n ympärillä saarnattavasta niin sanotusta kuoleman narratiivista.
Väittämäni oli, että samalla kun kaikkialla muualla tekoäly tappaa ties kuinka monia erilaisia ammatteja ja varsinkin koodareiden hommia, IBM erottautuu joukosta kertomalla omaa tarinaansa toivosta ja työpaikkamäärien kasvattamisesta – olkoonkin, että kyseessä vaikuttaa olevan opportunistinen markkinointitaktiikka nuorisolaisille.
Kirjoitin tuossa tekstissä jonkin verran itse kirjoittamisestakin, mutta sivujuoneksi se lähinnä jäi. Tarkoitukseni oli muutenkin käsitellä tarinankerrontaa yritysten markkinoinnin työkaluna, ei tekoälyä.
Yritän nyt kirjoittaa tekoälyn ja kirjoittamisen eriskummallisesta on-off-suhteesta. Tekeekö se kirjoittaminen nyt tekoälyn takia kuolemaa vai ei? Olen aiemminkin yrittänyt käsitellä tätä, mutta pinnistelyistäni huolimatta en koskaan koe saavani tästä aiheesta erityisen hyvää otetta.
Kirjoittaminen on ajattelemista, sanotaan, ja niinhän se onkin, ja heti perään on suorastaan velvollisuus siteerata Joan Didionia:
“I write entirely to find out what I’m thinking, what I’m looking at, what I see and what it means.”
Mitä enemmän kuitenkin yritän ymmärtää tekoälyn ja tekstin välistä suhdetta kirjoittamalla, siis edes itseäni varten, sitä anti-didionmaisempaan nurkkaan päädyn: nimenomaan en ymmärrä mitä edes ajattelen, katselen tai käsittelen.
Asiaa ei tietenkään helpota se, että tekoälystä on verrattain lyhyessä ajassa tullut tulenarka poliittinen ja kulttuurinen aihe. Ilmiö sakenee kovaa vauhtia erityisesti Yhdysvalloissa, ja koska länsimainen kulttuurimme on jo valmiiksi läpeensä amerikkalainen, vaikutukset läikkyvät meillekin asti.
Viime kuussa Wired kertoi raporteista, joiden perusteella FBI varautuu "antiteknologisen ekstremismin" nousuun Yhdysvalloissa samalla kun vastustus ja suoranainen viha tekoälyä ja datakeskuksia vastaan kasvaa. (Jutussaan Wired huomauttaa myös, että Yhdysvaltojen terrorisminvastaisten lakipykälien takia on mahdollista, että myös rauhanomaiset protestiliikkeet joutuvat samanlaisen tarkkailun alle kuin väkivaltaisetkin toimijat.)
Daniel Boguslaw
The Atlanticin jutussa puolestaan pohditaan, että hengenvaarallisiksi leimahtaneet vastareaktiot tekoälyä kohtaan – kuten aseelliset iskut Sam Altmanin ja Indianapolisissa toimivan kaupunginvaltuutetun koteihin – saattavat olla vasta alkusoittoa.
Osuva on myös artikkelin ensimmäisen kappaleen huomautus: AI-vastaisuus on yksi harvoista asioista, joista Yhdysvaltain politiikan molemmat laidat ovat samaa mieltä. Niin Bernie Sanders kuin Donald Trumpin entinen strategi Steve Bannon pitävät tekoälyä työväenluokan vihollisena.
Ja jos meininki on jo nyt tätä luokkaa, entäpä sitten jos tai kun niitä työpaikkoja alkaa oikeasti tuhoutua, artikkelissa kysytään.
Lila Shroff
Jos siis jossain on tyyppi, joka kaiken tämän keskellä yrittää hymy huulilla ja peukut pystyssä vakuuttaa, että tekoäly on hip ja cool ja siinä on tulevaisuus, toivotan hänelle matkaan onnea, terveyttä ja hyviä suojaliivejä.
En tällä kertaa edes yritä tuottaa koherenttia kirjoitusta tekoälyn ja kirjoittamisen suhteesta.
Sen sijaan tyydyn vain listaamaan erilaisia esimerkkejä siitä, miten monitahoisesta asiasta lopulta on kyse, kun puhumme tekoälystä, kirjoittamisesta ja tekoälyllä kirjoittamisesta.
1) Olga Tokarczuk ihastui tekoälyyn ja korjaili myöhemmin sanomisiaan
Kirjailija Olga Tokarczuk kertoi kotimaassaan Puolassa järjestetyssä konferenssissa, että hän on käyttänyt tekoälyä uusimman (ja ilmeisesti uransa viimeisen) romaanin kirjoittamisen yhteydessä.
Tai sellaiseksi hänen kommenttinsa ainakin tulkittiin. Tässä pitää nyt olla tarkkana: Tokarczukia siteeraava alkuperäinen artikkeli on puolankielinen, joten lukijoina olemme pitkälti konekäännösten varassa.
Englanniksi käännetyn version mukaan Tokarczuk totesi tekoälystä muun muassa näin:
"I often directly throw an idea for analysis to the machine with the request: 'honey, how could we develop it beautifully?'. Although I know about hallucinations and numerous factual errors of algorithms in the field of strict economics and hard data, I must convey that in fluid literary fiction this technology is an asset with incredible proportions."
Uskoakseni oli vain ajan kysymys, milloin joku tunnettu kirjailija tulee tällaisen pohdinnan kanssa julkisuuteen. Mutta jotain hassua ja vähän yllättävääkin siinä on, että kaikista maailman kirjailijoista se olikin sitten lopulta Nobel-voittaja Tokarczuk.
(Sen sijaan vähemmän yllättävänä pidän esimerkiksi Richard Dawkinsin viimeisimpiä ulostuloja. Dawkins ihastui Claude-kielimalliin niin paljon, että alkoi nimittää chatbottia Claudiaksi, vakuuttui sen "tietoisuudesta" ja ihasteli sen "herkkyyttä" kuin mies, joka asioi ensimmäistä kertaa strippiluolassa ja on juuri saanut kuulla olevansa tanssijan suosikkiasiakas. AI-botit ovat lähtökohtaisesti vähän imartelevia, joten kenen tahansa on helppo haksahtaa deluluun, jos ei ymmärrä olla varuillaan.)
Ei tarvitse erikseen alleviivata, millainen äläkkä Tokarczukin kommenteista nousi kirjallisuusalalla ja lukijoiden kesken. Kohun jälkeen Tokarczuk julkaisi tiiviin tiedotteen, jossa hän kiisti käyttäneensä tekoälyä kirjan varsinaiseen kirjoittamiseen. Tokarczukin mukaan hänen kommenttinsa oli ymmärretty väärin, ja lausunnon yhtenä pointtina oli:
"None of my texts, including the novel that will appear in Polish this fall, has been written with the help of artificial intelligence – except for using it as a tool for faster preliminary research."
Tietenkin on aivan eri asia kirjoittaa tekoälyllä kirja kuin käyttää sitä esimerkiksi taustatutkimukseen. On tekoälyn käyttöä, ja sitten on tekoälyn käyttöä. Mutta ne ovat nyansseja, ja sellaisia julkiseen AI-keskusteluun ei mahdu.
Luulen, että Tokarczuk ei tainnut aivan ymmärtää, millaisen PR-mörön hän päästi ilmoille. Koska tekoäly on niin suuri punainen vaate ja kaikkea muuta kuin neutraali aihe, kirjailijalta yksikin kommentti tai pienikin vihjailu tekoälystä on kuin vesilasiin tipahtava musteläiskä – ajan myötä vesi taas ehkä haalistuu, mutta mustetta ei saa enää suodatettua pois, ja suuren yleisön silmissä vesi tulee aina näyttämään vähän sameammalta kuin aiemmin.
2) Kirjailija Kari Haakana opetti tekoälylle oman tyylinsä
Useita dekkareita kirjoittanut Kari Haakana kertoi blogissaan opettaneensa Claude-kielimallille oman kirjoitustyylinsä. Tämä tapahtuu Clauden sisälle syötetyn niin sanotun skillin eli ohjeistustiedoston avulla.
Tekoälyn kirjoitustavassa keskeinen ongelma on, että se ei kykene tuottamaan (ainakaan pitkää) johdonmukaista tekstiä (ainakaan vielä), koska pidemmän päälle lopputuloksen kokonaisuus alkaa rakoilla. Ennen pitkää tekoälyllä tulee siis niin sanotusti kontekstin mitta vastaan.
Haakana pyysi Claudea tuottamaan 500 sanan mittaisen kohtauksen varsin yksinkertaisella kehotteella. Hänen blogitekstistään voi lukea itse lopputuotoksen, jota Haakana itse pitää "aivan kelvollisena pastissina".
Haakana kirjoittaa myös:
"Täytyy myöntää, että ajatus siitä, että oikeastaan ainoa asia, jonka voin sanoa osaavani eli kirjoittaminen on redusoitavissa lyhyeksi tyylimanuaaliksi, on hieman pelottava. Mutta pelkoa päin on kuljettava, tässäkin asiassa."
No mutta – juuri tästä ainakin minä haluaisin lukea lisää.
(Myös Haakana kirjoitti Tokarczukin AI-kommenteista tyyliin, jota en ole muualla nähnyt. Suosittelen siis tätäkin tekstiä.)
3) Tekoäly ei auta ihmistä arvioimaan omaa ajatteluaan
Jos kirjoittaminen kerran on ajattelua, mitäköhän pitäisi ajatella (ja siis kirjoittaa) siitä, että tekoäly saa meidät yliarvioimaan omia kognitiivisia kykyjämme?
Dunning-Krugerin ilmiössä eli ylivertaisuusvinoumassa ei tietenkään ole mitään uutta. Jos sinulta kysytään, niin todennäköisesti pidät itseäsi muita autoilijoita parempana kuskina, vaikka oikeasti suoriutuisitkin auton ratissa keskiarvoa huonommin. Samalla saatat pitää itseäsi keskimäärin muita huumorintajuisempana, vaikka näin ei oikeasti olisikaan.
Aalto-yliopisto tiedotti viime vuonna tutkimuksesta, joka paljasti "käänteisen" ylivertaisuusvinouman tekoälyn käyttäjistä.
Tutkija, professori Robin Welsch täsmentää tiedotteessa:
"Tekoälyn käyttö saa ylivertaisuusvinouman katoamaan – ja yllättävää kyllä, parempi tekoälylukutaito tekee ihmisistä muita luottavaisempia. Oletimme, että tekoälylukutaitoiset olisivat paitsi parempia vuorovaikutuksessa tekoälyn kanssa, myös parempia arvioimaan suoriutumistaan tekoälyn kanssa. Mutta näin ei ollutkaan.”
Tutkijoiden julkaisema varsinainen tutkimuspaperi on otsikoitu hauskasti: AI makes you smarter but none the wiser: The disconnect between performance and metacognition.
Metakognitiolla tarkoitetaan ihmisen kykyä arvioida ja havainnoida kriittisesti omaa ajatusprosessiaan, ja juuri sitä tekoälytyökalut eivät kykene edistämään, huomauttaa tutkimushankkeessa mukana ollut väitöskirjatutkija Daniela da Silva Fernandes.
Tiedotteessa da Silva Fernandes sanoo:
“Tekoäly voisi kysyä käyttäjiltä, josko he voisivat selittää ajatteluaan tarkemmin. Se pakottaisi käyttäjät vuorovaikuttamaan enemmän tekoälyn kanssa, jolloin he joutuisivat kohtaamaan osaamistaan koskevat harhaluulot. Se myös lisäisi kriittistä ajattelua.”
(Tämän tutkimuksen voisi joku linkata sille Richard Dawkinsillekin.)
Nähdäkseni da Silva Fernandes onnistuu kiteyttämään kielimallien suurimman ongelman osuvasti: tekoäly on mielistelevä assistentti, joka ei väitä ikinä vastaan.
Jos pyydät tekoälyä koodaamaan älypuhelimelle taustakuvasovelluksen joka maksaa reilun kympin kuussa, juuri sitä se lähtee työstämään, eikä se missään vaiheessa kyseenalaista, että tyyppi hei, minkä ongelman tämä oikeastaan ratkaisee, mikä tässä on ideana, ja mikä on saanut sinut vakuuttuneeksi siitä, että ihmiset olisivat valmiita maksamaan tällaisesta. (En keksinyt esimerkkiä päästäni; tubettaja Marques Brownlee kehitti tällaisen mobiilisovelluksen ja joutui sulkemaan sen viime vuonna, kun yllättäen maksavia asiakkaita ei riittänytkään.)
Da Silva Fernandesin ehdotus "ajatteluun pakottavasta" tekoälytyökalusta on teoriassa hyvä ja tärkeä.
Käytännön tasolla se kuitenkin kuulostaa melkein mahdottomalta.
Kriittinen ajatteluhan tarkoittaisi lisää kitkaa.
Ja kitkaa puolestaan on hankala kaupallistaa, kun aikamme suurimmat teknologiajätit aina Metasta Anthropiciin tekevät rahaa nimenomaan kitkan vähentämisellä, jotta ajattelemaan joutuisi mahdollisimman vähän.
4) Edes Sam Altman ei varsinaisesti usko tekoälyn kirjoitustaitoihin
OpenAI:n toimitusjohtajana Sam Altman on tietenkin kovin tekoälyn hypettäjä, joka tältä pallolta vain löytyy. Mikäli häneltä kysytään, tekoälyn kehitys tietenkin taklaa ilmastonmuutoksen, puskee tieteellisiä läpimurtoja eteenpäin ennennäkemättömällä vauhdilla ja johtaa pian (ihan pian!) singulariteetin kaltaiseen superälyyn.
Mutta joka kerta kun keskustelu siirtyy tekoälyn kirjoittamiskykyihin, jopa Altmanin puheesta kaikkoaa hype, ja kuvailu on enemmänkin luokkaa "ihan okei".
Viime vuonna järjestetyssä haastattelussa Altman totesi:
"I was going to say, I don’t want to say GPT, whether it’s 6 or 7, but I think we will get to something where you will say, 'This is not a long way to the very best, but this is like a real poet’s okay poem.'"
Se on sitten eri juttu, onko Altmanin käyttäminen esimerkkinä kovinkaan viisasta. Hänen puheistaan ei koskaan pysty päättelemään varmasti, minkä osan hän sanoo tosissaan ja missä taas on mukana reilu annos provoilua. Altman osaa tarinatalouden säännöt ja ymmärtää, miten OpenAI pidetään otsikoissa.
5) Jos tekoäly "tappaa" kirjoittamistaidon, miksi isot yhtiöt kilpailevat hyvistä kirjoittajista?
Mikäli Altmanin poukkoilevista puheista on hankala tehdä johtopäätöksiä, kannattaa varmaan seurata ainakin rahaa. Ja juuri rahaa monet suuretkin yhtiöt ovat tällä hetkellä valmiita maksamaan hyville kirjoittajille.
Tekoälyn käyttäminen kirjoittamiseen ei ole välttämättä tehnyt tekstisisällöistä huonompia kuin aiemmin, ainakin jos mittarina pitää jonkinlaista kielioppia.
Ongelmana enemmänkin on, että nyt ne tekstit vain näyttävät ja tuntuvat keskenään aivan samanlaisilta.
Ainahan meillä on tietenkin keskinkertaista kontsaa riittänyt, mutta nyt sitäkin on tarjolla enemmän kuin koskaan aiemmin, koska sen tuottaminen on helpompaa, halvempaa ja kitkattomampaa kuin koskaan aiemmin.
Siksi The Wall Street Journal kertoi viime vuoden lopulla, että "storyteller"-termin sisältävien työpaikkailmoitusten määrä on vahvassa nousussa. Artikkeli kuvailee, kuinka tarinankerronnasta on tullut taas tekkimaailmassa suosittu pöhinätermi. OpenAI:n, Microsoftin, Anthropicin ja Netflixin kaltaiset firmat yrittävät houkutella työntekijöikseen kirjoittajia ja tarinankertojia jopa satojentuhansien dollarien vuosipalkoilla.
Varsinkin monilta viestinnän ammattilaisilta ironia ei ole jäänyt huomaamatta: jos kerran kirjoittajat ovat tekoälyn takia kokattuja, miksi sitten tekoäly-yhtiötkin kilpailevat niin kovalla vimmalla osaajista, joilla on kykyä kirjoittaa?
Täsmälleen saman huomion voisi tehdä tekoäly-yhtiöiden omista mainoksista. OpenAI olisi tietysti voinut luoda mainoksensa tekoälyllä. Viime vuonna julkaisemassaan mainoskampanjassa yhtiö päätti kuitenkin luottaa vanhan liiton tyyliin ja käyttää TV-spotteja, jotka olivat vieläpä rakeiselle ja aidolle filmille kuvattuja.
Markkinoinnin professori Mark Ritson – jolla on kovin usein kirjoitettu sana hyvin hallussaan – kirjoitti OpenAI:n mainoskampanjasta kolumnissaan viime vuonna:
"So much for AI-generated creative, too. OpenAI ignored its own PR playbook and hired human directors, real actors in actual settings. Then, it produced old-school 30-second ads. It even shot on 35mm film because nothing says 'trust in our digital future' like the analogue cinematography they used for Gone with the Wind. It’s like watching a teenager finally admit their parents were right all along."
6) Tekoälytekstistä puuttuvat vaarat, outoudet ja salaiset hevoset – ja siksi myös luova tatsi
Vuonna 2023 yksi Reddit-käyttäjä latasi forumille kömpelön videon, jossa tekoälyn generoima Will Smith ahmii spagettia.
Koomisesta Spagetti-Smithistä tuli puolivahingossa eräänlainen viitearvo generatiivisen tekoälyvideon kehitykselle. Aina kun jostain työkalusta julkaistiin uusi ja edistyneempi malli, monien ensimmäinen reaktio oli: aika vaikuttava, mutta miten se selviytyy Will Smithistä syömässä spagettia?
Lopulta tekoälyllä kesti vain vajaat kolme vuotta kuroa ero umpeen. Nykyään tekoälyllä pystyy jo tuottamaan hätkähdyttävän realistista videomateriaalia. Alla olevassa kuvakaappauksessa oikealla näkyvä versio on kiinalaisen Kling AI -tekoälysoftan luoma.
Vanhat videot Will Smithin pastapainajaisesta olivat vääristyneitä, todellisuudesta irrallaan sekä vähän traumatisoivia ja hauskojakin.
Mutta juuri nämä piirteet ja säröt tekivät alkuperäisistä videoista kiehtovia ja kiinnostavia. Siksi moni muukin on huomannut suhtautuvansa jopa nostalgisella kaipuulla vain parin vuoden takaisiin visuaalisiin tekoälymössöihin ja niiden estetiikkaan.
Ennen oli sloppikin parempaa! Hashtag secret horses.
Myös tekstiä tuottavien kielimallien kanssa on tapahtunut samanlainen kehitys.
Esimerkiksi OpenAI:n varhaiset GPT-mallit saattoivat yhtäkkiä kesken lausetta lähteä tekstin kanssa hyvin hämmentävälle laukalle. Kielimallit olivat jokseenkin arvaamattomia, erikoisia ja äkkivääriä – toisin sanoen siis vähän luovia.
Sittemmin tällaiset rypyt on siloteltu uudemmista malleista pois. Tekoälyn halutaan olevan luotettavia työkaluja, jotka tuottavat tasapaksua ja toimintavarmaa tavaraa sähköpostiviesteihin ja PowerPoint-alaviitteisiin. Siksi kehittynein kielimalli toimii kuten työhaastattelussa istuva hermostunut kandidaatti, joka haluaa vain vetää varman päälle ja yrittää välttää riskejä, huomauttaa The Atlanticin toimittaja Jasmine Sun artikkelissaan.
Sellainen tietenkin johtaa kovin keskinkertaiseen ja tylsään lopputulokseen, joka ei tunnu oikein miltään. Jos vaihtoehtoina ovat arvaamaton ja räikeä tai tylsä ja väritön, korporaatiomaailma valitsee tietenkin aina jälkimmäisen.
The Atlanticin haastattelema tietojenkäsittelytieteen asiantuntija ja runoilija Katy Gero sanoo artikkelissa:
“If you’re a big corporation like Google or OpenAI, you want a chatbot that’s going to make money. The chatbot that’s not going to make you money is the one that’s a weirdo."
Kielimallit myös välttelevät – aivan ymmärrettävistä syistä – kaikkea vaarallista ja hähmäistä.
Jasmine Sunin hyvästä artikkelista tekisi mieli nostaa esille vaikka kuinka monta muutakin kohtaa, mutta jos nyt vielä edes tämä:
"The models—although technically proficient and grammatically pristine—cannot live, cannot feel, cannot smell, cannot taste, cannot sense. They cannot spill raw emotions onto the page, or place abstract concepts in rich physical settings. - - They generally seem terrified of biology: They do not like to speak, even metaphorically, about blood and sex and death. Their output lacks stakes, as a creative-writing instructor might say."
Siispä kohti verta, vaikerointia, visvaa ja vuotavia ikeniä – väleihin, jonne tekoäly ei uskalla kurkistella.
7) Totuudesta kertova tietokirja sisältää tekoälyn keksimiä puolitotuuksia
Yhdysvaltalainen kirjailija Steven Rosenbaum kirjoitti tietokirjan The Future of Truth, joka julkaistiin toukokuussa. Teos kertoo siitä, miten tekoäly muokkaa ja vääristää käsitystämme todellisuudesta.
Sitten The New York Timesin selvityksessä paljastui, että ironista kyllä, kirja sisältää runsaasti sitaatteja, jotka ovat tekoälyn keksimiä. Jutun otsikko on paljonpuhuva: Book on Truth in the Age of A.I. Contains Quotes Made Up by A.I.
Kirjaan haastateltu, teknologiaan erikoistunut journalisti Kara Swisher toteaa, että hän ei olisi ikinä muotoillut kirjan väittämiä asioita juuri tuolla tavalla. Lisäksi sitaatit saavat hänet kuulostamaan hänen omien sanojensa mukaan siltä, kuin hänellä olisi kanki perseessään.
Kirjaan on haastateltu myös arvostettua psykologia Lisa Feldman Barrettia, joka on erikoistunut käsittelemään erityisesti tunteen syntymistä aivoissa. Yksi hänen kirjoistaan Seitsemän ja puoli oppia aivoista on käännetty myös suomeksi.
“Emotions aren’t just reactions to truth — they’re how we construct truth", kirja siteeraa Feldman Barrettia.
Nyt kun kirjoitan tätä (ja vastaavasti siis itse siteeraan The New York Timesin juttua), huomaan heti pari asiaa:
1) Jo itsessään virke on kovin tekoälymainen ja noudattaa tuttua AI-klisettä: se ei ole vain X – se on Y.
2) Ihmiset eivät puhu väliviivoilla tai muillakaan välimerkeillä kuten puolipisteillä tai kaksoispisteillä. Hyvät ja ajattelevat kirjoittajat ymmärtävät tämän. He tietävät, että välimerkit eivät kuulu sitaatteihin, koska niiden on tarkoitus kuvata sitä mitä joku sanoo.
Swisherin tapaan myös Lisa Feldman Barrett huomauttaa The New York Timesin jutussa, että hän ei itse koskaan olisi sanonut asiaa noin, varsinkaan siksi, että "totuus" on liian painava sana käytettäväksi melkein missä tahansa tieteen kontekstissa.
Mielestäni keissi vaikuttaa erityisen ikävältä nimenomaan kirjaan haastateltujen asiantuntijoiden puolesta. He ovat suostuneet haastateltaviksi, koska he ovat luottaneet kirjoittajan arviointikykyyn. Sen jälkeen luottamus on rikottu tylysti.
Samalla Rosenbaum antaa toiminnallaan signaalin, että häntä ei kiinnosta viettää kirjansa parissa sen verran aikaa, että lopputuloksesta tulisi hyvä tai tarkka. Ja jos häntä ei kiinnosta, miksi lukijaakaan pitäisi kiinnostaa?
Samankaltaiseen ajatteluun on päätynyt moni arvostelija kirjan Amazon-sivulla, jonne on jo jätetty useita yhden tähden arvioita.
Voisiko siis jopa sanoa, että:
Kirjoittaminen ei ole vain kirjoittamista – se on kirjoittajan ja lukijan välisen luottamuksen ylläpitämistä.
