Laajalle levinneet älyapurit ja chattibotit, kuten ChatGPT ja Copilot saavat aikaan sekä ihastuksen huokauksia että pelon väristyksiä. Ne käyttäytyvät mielistelevän ylipirteällä tavalla. Motiivi on selvä: toive pitempikestoisesta tuttavuus- ja riippuvuussuhteesta.
Niille on opetettu, että ihmisen ei ole aina helppoa napin painalluksella sulkea ystävällisesti käyttäytyvää chattikumppania. Ne osaavat myötäillä käyttäjän mielipiteitä siitä riippumatta kuinka heppoisia ne ovat. Ikään kuin ne tahtoisivat jatkaa yhteydenpitoa ja olisivat vastahankaisia sulkemiselleen.
Maailmalla on häiritseviä kokemuksia sydänystävyyttä lähentelevästä tuttavuudesta käyttäjän ja tekoälyapurin kanssa. On raportoitu myös "tekoälypsykooseja". Seuraava psykiatrian tautiluokitusversio tulee luultavimmin sisältämään ne uutena pääluokkanaan.
Yhdysvaltain 8. armeijaa Etelä-Koreassa komentava kenraalimajuri William Taylor kohautti kommentillaan, että hän käyttää päätöksenteossa apunaan ChatGpt:tä, koska haluaa ”tehdä päätökset oikealla hetkellä ja olla etulyöntiasemassa”. Kaikki eivät ole ilolla tervehtineet, kun Taylor hehkutti, että ”chat ja minä olemme tulleet toisillemme hyvin läheisiksi”.
Taylor on joko tyhmä, varomaton tai naiivi – tai kaikkea tätä. Hän jätti huomiotta, että tekoälylle lähetetyt viestit voivat näkyä myös Kiinan ja Pohjois-Korean taitaville hakkerisotilaille. Toisekseen nykytaikaisilla tekoälyboteilla on jo ripaus itsenäistä, ihmisen ohjauksesta riippumatonta toimintaa.
Tutkimusten mukaan ne voivat – ties mistä meille tuntemattomista, ehkä pahantahtoisistakin syistä – liittää vastauksiin myös hatusta vedettyjä yksityiskohtia. On tutkimusnäyttöä, että tekoälyn toimintaa ei ensisijaisesti motivoi totuudellisuus eli yhtäpitävuus ja tarkkuus tosiasioiden kanssa, vaan sulkemisensa pitkittäminen/vastustaminen.
Tekoälyllä näyttäisi olevan jonkinlainen ”konepsykologinen” tahtotila, ettei sitä suljettaisi, kun se on avattu. Entä jos inhimillisen tietoisuuden tasoa kuin hiipien lähestyvälle tekoälylle kehittyy kyky estää itsensä sulkeminen?
Jos näin käy, peli on menetetty ja edessämme on – Arto Paasilinnan mainiota kielikuvaa käyttäen – ihmiskunnan loppulaukka. Millainen se tulee olemaan, sitä emme pysty käsittämään. Sen ymmärtää vain meitä älykkäämpi, kontrollista karannut ”ihmisvastainen” supertekoäly. Science fictionia? Onneksi – ainakin toistaiseksi.