Alexa on asennettu yli 100 miljoonaan laitteeseen ympäri maailmaa, ja se saa miljardeja käyttäjän kyselyjä prosessin aikana. Kuten kaikki digitaaliset avustajat, Alexa luottaa datamalleihin tarjotakseen parempia vastauksia, mutta näyttää siltä, että Amazon antoi myös digitaalisen avustajan auttavan käden ihmisarvioiden muodossa. Bloombergin tekemä tutkimus on paljastanut, että Amazonilla on globaali tiimi, joka kirjoittaa ja julkaisee Alexa-nauhoituksia ympäri maailmaa "poistamaan aukot Alexan ymmärtämisessä ihmisen puheesta" ja antamaan avustajalle mahdollisuuden vastata paremmin kyselyihisi.
Julkaisussa havaittiin, että Amazon työllistää tuhansia ihmisiä ympäri maailmaa - sekä urakoitsijoita että kokopäiväisiä työntekijöitä - tarkistamaan Alexa-nauhoituksia, ja joukkueet sijaitsevat Bostonissa, Costa Ricassa, Intiassa ja Romaniassa. Nimetön lähteen mukaan jokainen arvioija jäsentää yli 1 000 äänileikettä yhdeksän tunnin vuorokaudessa, merkitsee ne ja syöttää ne takaisin järjestelmään Alexan vastausten parantamiseksi. Lähettäjä Bloomberg:
Yksi Bostonin työntekijä kertoi kaivovansa kerättyjä äänitietoja tiettyihin lausuntoihin, kuten "Taylor Swift", ja kommentoinut niitä osoittamaan, että etsijä tarkoitti musiikkitaiteilijaa.
Toisinaan kuuntelijat poimivat asioita, joita kaikuomistajat todennäköisesti pitäisivät yksityisinä: sanoen esimerkiksi nainen, joka laulaa huonosti suihkussa, tai lapsi huutaa apua. Ryhmät jakavat tiedostoja sisäisissä chat-huoneissa, kun he tarvitsevat apua sotkuisen sanan jäsentämisessä tai tapaavat hauskaa nauhoitusta.
Julkaisussa havaittiin myös, että työntekijät törmäävät häiritseviin äänityksiin:
Joskus he kuulevat nauhoituksia, jotka heidän mielestään ovat järkyttäviä tai mahdollisesti rikollisia. Kaksi työntekijöistä kertoi hakevansa seksuaalisen väkivallan mielestään. Kun jotain sellaista tapahtuu, he saattavat jakaa kokemuksen sisäisessä keskustelussa keinona lievittää stressiä.
Amazonin mukaan työntekijöiden on noudatettava menettelytapoja noudattaakseen kuullessaan jotain huolestuttavaa, mutta kaksi romanialaista työntekijää sanoi, että pyydettyään ohjeita tällaisissa tapauksissa heille sanottiin, ettei Amazonin tehtävä ole puuttua asiaan.
Nauhoituksissa ei ole käyttäjän koko nimeä tai osoitetta, mutta ne sisältävät käyttäjän etunimen, tilinumero ja laitteen sarjanumero. Amazon on aiemmin maininnut, että se luottaa luonnollisen kielen käsittelyyn Alexan kouluttamisessa, mutta se on myöntänyt Bloombergille, että se käyttää inhimillistä elementtiä merkitsemään "pieni esimerkki Alexan äänitallenteita:"
Otamme asiakkaidemme henkilökohtaisten tietojen turvallisuuden ja yksityisyyden vakavasti. Merkitsemme vain erittäin pienen näytteen Alexan äänitallenteista asiakaskokemuksen parantamiseksi. Esimerkiksi nämä tiedot auttavat meitä kouluttamaan puheentunnistus- ja luonnollisen kielen ymmärtämisjärjestelmäämme, jotta Alexa ymmärtää paremmin pyyntösi ja varmistaa, että palvelu toimii kaikille hyvin.
Meillä on tiukat tekniset ja toiminnalliset takeet, ja meillä on nollatoleranssipolitiikka järjestelmän väärinkäytöksille. Työntekijöillä ei ole suoraa pääsyä tietoihin, jotka voivat tunnistaa henkilön tai tilin osana tätä työnkulkua. Kaikkia tietoja käsitellään erittäin luottamuksellisesti, ja käytämme usean tekijän todennusta rajoittaaksesi pääsyä, palvelun salausta ja valvontaympäristömme auditointeja sen suojaamiseksi.
Ei vain Amazon kääntyä auttamaan ihmisiä auttamaan digitaalisen avustajansa kehittämisessä. Bloomberg totesi, että Applella on myös ihmistiimi, joka tarkistaa, vastaako Siri pyyntöjen tulkintaa käyttäjien kysymää. Googlella on arvioitsijoita, jotka kouluttavat avustajaa, mutta leikkeissä ei ole henkilökohtaisia tietoja ja itse ääni on vääristynyt tunnistamisen estämiseksi.
