Pystyykö uusi tekoälyasetus kitkemään ihmisen mielen teknologia-avusteista manipulointia?

Digijätti Apple on kehittänyt ja patentoinut teknologiaa, joka mahdollistaa biologisten signaalien, kuten aivosähkökäyrän mittaamisen korvasta Airpods-kuulokkeiden kautta. Applen kehittämä tekninen ratkaisu on esimerkki neuroteknologioista, jotka ovat kehittyneet viime vuosina.  

Yksilön aivotoiminnasta, hermoston reaktioista ja biologisista signaaleista voidaan kerätä tietoa teknologian avulla joko elimistön sisältä tai kehon ulkopuolisilla sensoreilla. Neurodatassa on kyse henkilötiedoksi luokiteltavasta informaatiosta eikä ole yhdentekevää, kuinka sitä käytetään.  

Tekoälykehitys tuo markkinoille jatkuvasti uusia teknologisia mahdollisuuksia, joilla ihmisten manipuloinnista tulee entistä helpompaa. Unesco toi vuonna 2023 esiin neuroteknologioihin ja tekoälyyn liittyviä eettisiä ongelmia, kuten ajatusten yksityisyyden ja yksilönvapauden säilymisen tilanteissa, joissa henkilö ei tietoisesti havaitse, että häntä on manipuloitu tai harhaanjohdettu teknologialla. Ongelmallisia ovat myös tilanteet, joissa käyttäjä ei tiedä, mitä hänestä kerätty tieto merkitsee. 

Maailman talousfoorumin (WEF) kesäkuussa 2024 julkaistu raportti arvioi neuroteknologiat yhdeksi yhteiskuntia ja talouksia lähivuosien aikana merkittävästi muuttavista teknologioista. Talousfoorumin vuoden 2024 listauksessa sadasta eniten yhteiskunnallista muutospotentiaalia edustavasta kasvuyrityksestä suurinta kasvupotentiaalia oli havaittavissa avaruuden, neuroteknologian ja puhtaan teknologian sektoreilla. 

Neuroteknologioiden käyttö markkinoinnissa huolestuttaa 

Neuroteknologia-avusteisesti kerättyä dataa voidaan tekoälyn avulla analysoida personoidun markkinoinnin kehittämiseksi. Neuroteknologioiden yleistyessä keskustelu neurodatan käytöstä markkinoinnissa on yltynyt.  

Neuromarkkinointi hyödyntää biologisia signaaleja, kuten EEG-aivosähkökäyrän avulla kerättyä neurodataa, ja arvioi sen avulla ihmisten reaktioita heille markkinoitaviin tuotteisiin tai mainoksiin. Esimerkiksi sosiaalisen median alustalla mainoksia katselevalle henkilölle voidaan kohdistaa yksilöidympiä mainoksia sen perusteella, mitä tietoa hänen älykellonsa on kerännyt hänen reaktioistaan kuhunkin mainokseen. 

Neuroteknologioiden avulla voidaan myös arvioida kuluttajakäyttäytymistä ja pyrkiä vaikuttamaan esimerkiksi ihmisten ostokäyttäytymiseen.   

EU pyrkii suojaamaan kansalaisiaan lainsäädännön avulla 

Suuri osa neuroteknologiaan erikoistuneista yrityksistä ja markkinasta sijaitsee Yhdysvalloissa, jossa sääntelyn puuttuminen on herättänyt huolta yksityisyydensuojasta.  

Euroopassa tilanne on toinen. Yleisen tietosuoja-asetuksen GDPR:n myötä verkossa tapahtuva manipulointi ja henkilötietojen perusteella tehtävä käyttäjien profilointi (yksilöinti) nousivat yleiseen tietoisuuteen.  

EU:n tekoälyasetuksessa mennään vielä syvemmälle. Elokuun alussa voimaan tullut asetus on lähellä EU:n tuoteturvallisuussääntelyä. Tekoälyasetuksen tavoitteena on vaikuttaa myös suurimpiin teknologiajätteihin ja pyrkiä sääntelemään tekoälyn soveltamiskohteita riskiperusteisesti siten, että terveydelle, turvallisuudelle tai ihmisten perusoikeuksille aiheutuvia riskejä pyritään minimoimaan kieltämällä kokonaan tietyt tekoälyn käyttötapaukset tai asettamalla tiettyjen järjestelmien käytölle edellytyksiä.  

Asetus kieltää tiettyjä tekoälyjärjestelmiä, ja kielletyt järjestelmät tulee vetää pois EU:n markkinoilta kuuden kuukauden kuluessa asetuksen voimaantulosta. 

Heikossa asemassa olevia turvataan 

Kiellettyihin tekoälyjärjestelmiin lukeutuvat myös järjestelmät, joiden avulla voidaan manipuloida heikossa asemassa olevia ihmisiä. Kyse voi olla esimerkiksi puhuvista leluista, jotka manipuloivat lapsia ääni-, kuva- tai videoärsykkeillä toimimaan tavalla, jolla he eivät muuten toimisi.  

Manipulaatio voi tapahtua neuroteknologia-avusteisesti esimerkiksi aivo-tietokone-käyttöliittymässä tai virtuaalitodellisuudessa henkilön käyttäessä virtuaalilaseja. 

Kielto johtuu siitä, että tekoälyä hyödyntäviä manipulointitekniikoita (engl. dark patterns) voidaan käyttää taivuttelemaan ihmisiä haitalliseen käyttäytymiseen tai harhauttamaan heitä tekemään päätöksiä tavalla, joka horjuttaa ja heikentää heidän itsenäisyyttään, päätöksentekoaan ja valinnanvapauttaan. 

Columbian yliopiston oikeustieteen professori Anu Bradford (2023) on kuvannut eurooppalaista lähestymistapaa datatalouden sääntelyyn ihmiskeskeiseksi, sillä se asettaa etusijalle digitaalisten palvelujen käyttäjien oikeudet. Yhdysvalloissa teknologian sääntelyä lähestytään markkinavetoisesti ja Kiinassa puolestaan valtiovetoisesti. Kiitos eurooppalaisen lainsäädännön, meitä pyritään suojaamaan neuroteknologioihin liittyvältä manipulaatiolta.

Neuroteknologian tulo edellyttää valppautta lainsäätäjältä 

Yleinen tietosuoja-asetus loi pohjan henkilötietojen ja yksityisyyden suojaamiselle ja tekoälyasetus täydentää sitä.  

Pitäisikö neuroteknologia-avusteisesta markkinoinnista ja ajatusten yksityisyydestä sitten huolestua Euroopassa? Lainsäädäntö lähtökohtaisesti suojaa eurooppalaisia, mutta tekoälyjärjestelmien osalta asetuksen voimaantulo on vasta alku.  

Sääntelyn onnistuminen riippuu sen toimeenpanon onnistumisesta. Vähintään neuroteknologioiden kehitystä ja käyttöä pitää seurata, ja toivottavasti EU-lainsäädäntö pitää huolen siitä, että saamme esimerkiksi neuroteknologioita kehittävät suuret digijätit kuriin.   

Euroopan komission helmikuussa 2020 esittelemä datastrategia on ohjannut datavetoisen talouden, tekoälyn ja yhteiskunnan kehitystä EU:ssa. Uuden komission aloitettua työnsä tulee käydä keskustelua siitä, miten EU:n datastrategiaa kehitetään ja jatketaan tulevalla kaudella. 

Selvää on, että jäsenmaiden on tuettava komissiota datastrategian edistämisessä, jotta Euroopassa voidaan saada aikaan korkealaatuisia innovaatiota ja vahvistaa unionin sisämarkkinoita. Datastrategian toimeenpanoa tulee jatkaa määrätietoisesti.