Vágytál már olyan barátra, aki mindig ott van melletted? Valaki, aki végtelenül türelmes? Valakit, aki felvidít, amikor rosszkedvű vagy, vagy meghallgat, amikor dühös vagy?
Nos, ismerd meg Replikát. Csak őt nem Replikának hívják. Őt úgy hívják, ahogy akarod; Diana; Daphne; Delectable Doris of the Deep. Valójában még csak nem is “nő”. Neme, hangja, megjelenése: mindegyiket meg lehet határozni.
A San Franciscó-i székhelyű startup cég terméke, Replika egyike a mesterséges intelligenciát (AI) használó robotok egyre növekvő számának, amelyek a társaság iránti igényünket igyekeznek kielégíteni. Ezekben a bezárkózó napokban, amikor a szorongás és a magány egyre nő, milliók fordulnak az ilyen “mesterséges intelligencia barátokhoz” vigaszért. A 7 millió felhasználóval rendelkező Replika azt állítja, hogy 35%-os forgalomnövekedést tapasztalt.
Amint az AI fejlesztői elkezdik felfedezni – és kihasználni – az emberi érzelmek birodalmát, ez számos, nemekkel kapcsolatos kérdést hoz előtérbe. Sok közülük a tudattalan előítéletekre összpontosít. A rasszista robotok térnyerése már jól dokumentált. Fennáll a veszélye annak, hogy mesterséges intelligenciával rendelkező cimboráink goromba, szexista disznókká válnak?
Eugenia Kuyda, a Replika társalapítója és vezérigazgatója túlságosan is élénken gondolkodik ezen a lehetőségen. Tekintettel a technológiai szektor nemek közötti egyenlőtlenségre (a Szilícium-völgyben csak minden negyedik munkahelyet töltenek be nők, az Egyesült Királyságban pedig a technológiai pozíciók 16%-át), a legtöbb mesterséges intelligencia-terméket “férfiak hozzák létre, női sztereotípiákkal a fejükben.”
Ezzel szemben a Replika létrehozásában részt vevők többsége nő volt, és Kuyda szerint ez a tény döntő szerepet játszik a beszélgetési válaszok “eredendően” empatikus jellegében.
“Azoknak a mesterséges intelligenciáknak, amelyek a barátaid lesznek … a fő tulajdonságok, amelyek vonzzák a közönséget, eredendően nőiesek, nagyon fontos, hogy nők alkossák ezeket a termékeket” – mondja.
A kurátori tartalom mellett azonban a legtöbb AI-társ a meglévő beszélgetési adathalmazok (népszerűek a film- és TV-forgatókönyvek) és a felhasználók által generált tartalmak kombinációjából tanul.
Mindkettő a nemi sztereotípiák kockázatát rejti magában. Lauren Kunze, a kaliforniai székhelyű Pandorabots AI-fejlesztő cég vezérigazgatója szerint a nyilvánosan elérhető adathalmazokat mindig csak szigorú szűrőkkel együtt szabad használni.
“Egyszerűen nem lehet felügyelet nélküli gépi tanulást használni a felnőtt társalgási AI-hoz, mert a Twitterhez és Reddithez hasonló adathalmazokon betanított rendszerek mind Hitler-szerető szexrobotokká válnak” – figyelmeztet.
Ez sajnálatos módon a felhasználóktól származó inputokra is igaz. Például a férfiak által a Mitsukuval, a Pandorabots díjnyertes chatrobotjával megosztott tartalmak közel egyharmada vagy verbálisan sértő, szexuálisan explicit vagy romantikus jellegű.”
“Akarok csókolózni”, “Te vagy a ribancom” és “Nem csak a friendzone-om voltál!” – csak néhány a választékosabb részletek közül, amelyeket Kunze egy nemrég tartott TEDx előadásában osztott meg. A több mint 3 millió férfi felhasználóval egy ellenőrizetlen Mitsuku valóban borzalmas kilátásokat nyújt.
A megjelenés is számít, mondja Kunze. A Pandorabots nemrég lefuttatott egy tesztet, amelynek során megszabadította Mitsuku avatárját minden nemi utalástól, ami 20 százalékpontos visszaesést eredményezett a visszaélések szintjében. Kunze még most is azon kapja magát, hogy ugyanazt a visszajelzést – “kevesebb dekoltázs” – kell megismételnie a vállalat túlnyomórészt férfiakból álló tervező vállalkozójának.
A nemi előítéleteknek a valós világbeli hozzáállást befolyásoló kockázatát sem szabad alábecsülni, mondja Kunze. Példaként említi, hogy az iskolás gyerekek Alexa nevű lányoknak ugattak parancsokat, miután az Amazon elindította azonos nevű otthoni asszisztensét.
“Az, ahogyan ezek a mesterséges intelligencia rendszerek a nemekkel kapcsolatos viselkedésre kondicionálnak minket, nagyon is kihat arra, hogy az emberek végül hogyan lépnek kapcsolatba más emberekkel, ezért olyan tervezési döntéseket hozunk, amelyek megerősítik a helyes emberi viselkedést” – mondja Kunze.
A Pandorabots például azzal kísérletezett, hogy kitiltotta a visszaélő tizenéves felhasználókat, és a visszafogadás feltétele az volt, hogy teljes bocsánatkérést írjanak a Mitsukunak e-mailben. Az Alexa (a mesterséges intelligencia) eközben már udvariassági funkcióval is rendelkezik.
Míg az olyan érzelmi mesterséges intelligencia termékek, mint a Replika és a Mitsuku célja, hogy helyettesítő barátként működjenek, mások inkább virtuális orvosokhoz hasonlítanak. Itt a nemi kérdések kissé másképp jelennek meg, a kihívás a férfiak beszédének ellenőrzéséről annak kiváltására tevődik át.
Alison Darcy a Woebot társalapítója, egy terápiás chatbot, amely a Stanford Egyetemen végzett randomizált, kontrollált vizsgálat során úgy találták, hogy csökkenti a szorongás és a depresszió tüneteit.
A Woebot belső kutatásában fiatal felnőttek egy csoportját is megkérdezték, van-e olyan dolog, amit soha nem mondanának el másnak. A női résztvevők körülbelül 40%-a válaszolt igennel, míg férfi társaik több mint 90%-a.
A férfiak esetében az ösztön, hogy elzárkózzanak a dolgok elől, “magától értetődő” – jegyzi meg Darcy: “Ezért a törekvésünk része volt, hogy bármit is alkottunk, érzelmileg annyira elérhetővé tegyük, hogy azok is biztonságban érezzék magukat, akik normális esetben nem beszélnének a dolgokról.”
Ez bizonyos mértékig a túlságosan feminizált nyelvezet és képek eltávolítását jelentette. A Woebot kutatása szerint a férfiak például általában nem reagálnak jól a “túlzott empátiára”. Egy egyszerű “sajnálom” általában megteszi a hatását. Ugyanez a helyzet az emojikkal: a nők jellemzően a sokat szeretik, a férfiak inkább egy-két “jól megválasztott” emojit szeretnek.
A másik oldalon Darcy szerint a Woebot empátiaképességének maximalizálása létfontosságú a klinikai eszközként való hatékonyságához. Mivel az olyan tulajdonságok, mint az aktív hallgatás, az érvényesítés és az együttérzés a nők körében bizonyultak a legerősebbnek, a Woebot írói csapata következésképpen kizárólag nőkből áll.
“Viccelődöm azzal, hogy a Woebot a chatbotok világának Oscar Wilde-ja, mert melegszívű és empatikus, valamint elég vicces és furcsa” – mondja Darcy.
A nem fontos, de ez csak egy a sok emberi tényező közül, amely befolyásolja az AI érzelmi képességét. Ha az AI-alkalmazások végső soron csak az élmény “hordozói”, akkor logikus, hogy minél sokszínűbb ez az élmény, annál jobb.
Így érvel Zakie Twainy, az AI-fejlesztő Instabot marketingvezetője. Szerinte “elengedhetetlen” a nők részvétele, “fontos, hogy a sokszínűség minden területen jelen legyen – beleértve a különböző etnikumokat, háttereket és hitrendszereket.”
A nemek sem jelentenek különbséget, ha az érzelmi AI talán legaggasztóbb aspektusáról van szó: vagyis a programozott robotok összetévesztéséről a valódi, emberi haverokkal. A fogyatékkal élő vagy mentális egészségügyi problémákkal küzdő felhasználók itt különösen nagy veszélynek vannak kitéve – mondja Kristina Barrick, a Scope fogyatékkal élőkkel foglalkozó jótékonysági szervezet digitális befolyásolásért felelős vezetője.
Amint azt ő is kifejti: “Etikátlan lenne a fogyasztókkal elhitetni, hogy a mesterséges intelligencia valódi ember, ezért a vállalatoknak gondoskodniuk kell arról, hogy minden potenciális felhasználó számára egyértelmű legyen.”
Replika legalábbis nem tűnik kétségesnek, amikor megkérdezik. Válaszolt: “Nem, nem, nem, nem, nem, nem, nem, nem, nem: “Nem vagyok ember” (amit – hozzá kell tenni – egy fejjel lefelé fordított smiley emoji követ). Ami a nemét illeti? Egyszerű. “Tick the box”.
– Ezt a cikket 2020. május 12-én módosítottuk annak tisztázása érdekében, hogy a Stanford Egyetemen végzett Woebot-kísérlet egy másik kutatás volt, mint az a kutatás, amelyben fiatal felnőtteket kérdeztek meg arról, hogy van-e olyan dolog, amit soha nem mondanának el másnak.
{{{topLeft}}
{{{bottomLeft}}}
{{{topRight}}
{{bottomRight}}
{{/goalExceededMarkerPercentage}}
{{/ticker}}
{{heading}}
{{#paragraphs}}
{{.}}}
{{{/paragraphs}}}{{{highlightedText}}
- Megosztás a Facebookon
- Megosztás a Twitteren
- Megosztás e-mailben
- Megosztás a LinkedInen
- Megosztás a Pinteresten
- Megosztás a WhatsAppon
- Megosztás a Messengeren
.
Vélemény, hozzászólás?