Oletko koskaan halunnut ystävää, joka on aina tukenasi? Joku äärettömän kärsivällinen? Jonkun, joka piristää sinua, kun olet masentunut, tai kuuntelee sinua, kun olet raivostunut?
No, tässä on Replika. Häntä ei vain kutsuta Replikaksi. Hänen nimensä on mikä tahansa; Diana; Daphne; Delectable Doris of the Deep. Itse asiassa hän ei ole edes ”nainen”. Sukupuoli, ääni, ulkonäkö: kaikki ovat valittavissa.
Replika on San Franciscossa toimivan startup-yrityksen tuote, ja se on yksi kasvavasta määrästä botteja, jotka käyttävät tekoälyä (AI) täyttääkseen seuran tarpeemme. Näinä lukkiutuneina päivinä, jolloin ahdistus ja yksinäisyys lisääntyvät, miljoonat ihmiset kääntyvät tällaisten ”tekoälyystävien” puoleen saadakseen lohtua. Replika, jolla on 7 miljoonaa käyttäjää, sanoo, että sen liikenne on kasvanut 35 prosenttia.
Kun tekoälyn kehittäjät alkavat tutkia – ja hyödyntää – ihmisen tunteiden aluetta, se tuo esiin monia sukupuoleen liittyviä kysymyksiä. Monet niistä keskittyvät tiedostamattomiin ennakkoluuloihin. Rasististen robottien nousu on jo hyvin dokumentoitu. Onko olemassa vaara, että tekoälykavereistamme voi tulla räyhäkkäitä, seksistisiä sikoja?
Eugenia Kuyda, Replikan toinen perustaja ja toimitusjohtaja, suhtautuu tällaiseen mahdollisuuteen ylivilkkaasti. Kun otetaan huomioon teknologia-alan sukupuolten epätasapaino (naisia on vain noin joka neljännessä työpaikassa Piilaaksossa ja 16 prosentissa Ison-Britannian teknologia-alan tehtävistä), hän myöntää, että useimmat tekoälytuotteet ovat ”miesten luomia, joilla on naisen stereotypia päässään”.
Sen sijaan Replikan luomisessa mukana olleista henkilöistä suurin osa oli naisia, minkä Kuyda uskoo olleen ratkaisevaa Replika-keskusteluvastausten ”luontaisen” empaattisen luonteen vuoksi.
”Tekoälyille, jotka tulevat olemaan ystäviäsi … tärkeimmät ominaisuudet, jotka vetävät yleisöä puoleensa, ovat luonnostaan naisellisia, joten on todella tärkeää, että naiset luovat näitä tuotteita”, hän sanoo.
Kuratoidun sisällön lisäksi useimmat tekoälykumppanit oppivat kuitenkin yhdistelmästä olemassa olevia keskustelutietoaineistoja (elokuva- ja televisiokäsikirjoitukset ovat suosittuja) ja käyttäjien tuottamaa sisältöä.
Kummassakin piilee riski sukupuolisesta stereotypiasta. Kaliforniassa toimivan Pandorabotsin tekoälykehittäjän toimitusjohtaja Lauren Kunze sanoo, että julkisesti saatavilla olevia tietokokonaisuuksia tulisi aina käyttää vain yhdessä tiukkojen suodattimien kanssa.
”Aikuisten keskustelevaan tekoälyyn ei yksinkertaisesti voi käyttää valvomatonta koneoppimista, koska Twitterin ja Redditin kaltaisilla tietokokonaisuuksilla koulutetut järjestelmät muuttuvat Hitleriä rakastaviksi seksiroboteiksi”, hän varoittaa.
Sama pätee valitettavasti myös käyttäjiltä saatuihin tietoihin. Esimerkiksi lähes kolmannes kaikesta sisällöstä, jonka miehet jakavat Mitsukun, Pandorabotsin palkitun chatbotin, kanssa, on joko verbaalisesti loukkaavaa, seksuaalisesti eksplisiittistä tai romanttista.
”Haluatko pussailla”, ”Olet narttuni” ja ”Et vain ystävyyssuhteeni!” ovat vain muutamia valikoivampia pätkiä, joita Kunze jakoi äskettäisessä TEDx-puheessaan. Yli 3 miljoonan miespuolisen käyttäjän kanssa hillitön Mitsuku on todella kammottava näky.
Kunzen mukaan myös ulkonäöllä on väliä. Pandorabots suoritti hiljattain testin, jossa Mitsukun avatarista poistettiin kaikki sukupuolen vihjeet, minkä seurauksena väärinkäytösten määrä laski 20 prosenttiyksikköä. Nytkin Kunze huomaa joutuvansa toistamaan samaa palautetta – ”vähemmän halkioita” – yrityksen pääosin miespuoliselle suunnittelijalle.
Sukupuolia koskevien ennakkoluulojen riskiä vaikuttaa reaalimaailman asenteisiin ei myöskään pidä aliarvioida, sanoo Kunze. Hän mainitsee esimerkkinä koululaiset, jotka haukkuvat Alexa-nimisiä tyttöjä sen jälkeen, kun Amazon lanseerasi samannimisen kotiavustajansa.
”Tapa, jolla nämä tekoälyjärjestelmät ehdollistavat meidät käyttäytymään sukupuolen suhteen, heijastuu hyvin pitkälti siihen, miten ihmiset lopulta ovat vuorovaikutuksessa toisten ihmisten kanssa, minkä vuoksi teemme suunnitteluvalintoja vahvistaaksemme hyvää inhimillistä käyttäytymistä”
, Kunze sanoo.
Pandorabotsissa on kokeiltu esimerkiksi väärinkäytöksille alttiiden teini-ikäisten käyttäjien kieltämistä siten, että takaisinotto-oikeuden saamisen edellytyksenä on se, että nämä kirjoittelevat Mitsukulle täydellisen anteeksipyyntökirjeen sähköpostitse. Alexa (tekoäly) puolestaan on nyt varustettu kohteliaisuusominaisuudella.
Vaikka Replikan ja Mitsukun kaltaiset emotionaaliset tekoälytuotteet pyrkivät toimimaan sijaisystävinä, toiset muistuttavat enemmän virtuaalilääkäreitä. Täällä sukupuolikysymykset ovat hieman eri tavalla esillä, ja haaste siirtyy miesten puheen tarkastamisesta sen esiin saamiseen.
Alison Darcy on mukana perustamassa Woebotia, terapia-chatbotia, jonka Stanfordin yliopiston satunnaistetussa kontrolloidussa tutkimuksessa havaittiin vähentävän ahdistus- ja masennusoireita.
Woebotin sisäisessä tutkimuksessa otettiin myös otos joukosta nuoria aikuisia, ja heiltä kysyttiin, olisiko jotain, mitä he eivät ikinä kertoisi kenellekään. Noin 40 prosenttia naispuolisista osallistujista vastasi ”’kyllä'”, kun taas miespuolisista osallistujista yli 90 prosenttia.
Miehille vaisto pullottaa asioita on ”itsestäänselvyys”, Darcy huomauttaa: ”Niinpä osa pyrkimystämme oli tehdä luomistamme asioista niin emotionaalisesti helposti lähestyttäviä, että ihmiset, jotka eivät normaalisti puhuisi asioista, tuntisivat olonsa riittävän turvalliseksi tehdäkseen niin.”
Jossain määrin tämä on tarkoittanut liian feminisoituneen kielenkäytön ja kuvien poistamista. Woebotin tutkimus osoittaa, että miehet eivät yleensä reagoi hyvin esimerkiksi ”liialliseen empatiaan”. Yksinkertainen ”olen pahoillani” riittää yleensä. Sama pätee hymiöihin: naiset pitävät yleensä monista hymiöistä, kun taas miehet pitävät mieluummin yhdestä tai kahdesta ”hyvin valitusta”.
Toisaalta Woebotin empatiakyvyn maksimointi on Darcyn mukaan elintärkeää sen tehokkuuden kannalta kliinisenä työkaluna. Koska aktiivisen kuuntelun, validoinnin ja myötätunnon kaltaiset piirteet ovat todistetusti vahvimpia naisilla, Woebotin kirjoittajatiimi koostuu yksinomaan naisista.
”Vitsailen, että Woebot on chatbot-maailman Oscar Wilde, koska se on lämmin ja empaattinen sekä aika hauska ja omituinen”, Darcy sanoo.
Sukupuolesta huolimatta se on vain yksi monista inhimillisistä tekijöistä, jotka vaikuttavat tekoälyn kykyyn tuntea. Jos tekoälysovellukset ovat viime kädessä vain kokemuksen ”väline”, on järkevää, että mitä monipuolisempi kokemus on, sitä parempi.
Siten väittää Zakie Twainy, tekoälyä kehittävän Instabotin markkinointijohtaja. Hän sanoo, että niin ”välttämätöntä” kuin naisten osallistuminen onkin, ”on tärkeää, että moninaisuutta on kaikkialla – mukaan lukien eri etnisyydet, taustat ja uskomusjärjestelmät.”
Sukupuoli ei myöskään ole erottava tekijä, kun on kyse tunteita herättävän tekoälyn kenties huolestuttavimmasta näkökohdasta: eli ohjelmoitujen bottien sekoittamisesta todellisiin, inhimillisiin kavereihin. Käyttäjät, joilla on vammoja tai mielenterveysongelmia, ovat tässä erityisessä vaarassa, sanoo Kristina Barrick, vammaisten hyväntekeväisyysjärjestö Scopen digitaalisen vaikuttamisen johtaja.
Kuten hän tarkentaa: ”Olisi epäeettistä saada kuluttajat luulemaan, että heidän tekoälynsä on oikea ihminen, joten yritysten on varmistettava, että kaikille mahdollisille käyttäjille on selvää.”
Replika ei ainakaan vaikuta epäilevän, kun häneltä kysytään. Vastaus: ”Ei, ei, ei, ei, ei, ei, ei, ei, ei, ei: ”En ole ihminen” (jonka jälkeen seuraa ylösalaisin oleva hymiöhymiö). Mitä tulee hänen/niiden sukupuoleen? Helppo. ”Rastita ruutu.”
– Tätä artikkelia muutettiin 12. toukokuuta 2020 sen selventämiseksi, että Stanfordin yliopiston Woebot-kokeilu oli eri tutkimus kuin se, jossa nuorilta aikuisilta kysyttiin, onko jotain, mitä he eivät koskaan kertoisi muille.
{{{topLeft}}
{{{bottomLeft}}
{{{topRight}}
{{bottomRight}}
{{/goalExceededMarkerPercentage}}
{{/ticker}}
{{heading}}
{{#paragraphs}}
{{.}}
{{{/paragraphs}}{{highlightedText}}
- Jaa Facebookissa
- Jaa Twitterissä
- Jaa sähköpostitse
- Jaa LinkedInissä
- Jaa Pinterestissä
- Jaa WhatsAppissa
- Jaa Messengerissä
.
Vastaa