Viime viikolla Ava Kofman kirjoitti mielenkiintoisen mutta kauhistuttavan teoksen The Intercept -teoksessa Voice RT: stä. Et ole luultavasti koskaan kuullut Voice RT: stä, koska se on ollut yksi niistä asioista, joita Yhdysvaltain hallitus tekee salaa; tässä tapauksessa se oli kehittämässä tekniikkaa, joka pystyy tunnistamaan jonkun positiivisesti äänen äänen perusteella. Muista lukea se. Se on tärkeää tietoa, joka kaikkien on tiedettävä.
Äänemme on täydellinen biometrinen tunniste; se on vakaa ja ainutlaatuinen.
Nyt ajatus tunnistaa joku äänen perusteella on helppo ymmärtää. Teemme sen joka päivä, kun puhumme läheisten ihmisten kanssa. Henkilön ääni on melko ainutlaatuinen, ja se ei vie paljon prosessointitehoa - joko päämme orgaanista tyyppiä tai gadgeteissa olevaa piityyppiä - tietääksemme kenelle puhut vain heidän kuullessasi. Mutta NSA pystyi viemään asiat äärimmäisyyteen. Heillä on kyky kuunnella kaikkea, kaikkialla. Jos käytät maksullista puhelinta keskellä mitään, he eivät voi kuunnella. Heillä saattaa olla jopa valtuudet tehdä se, ja se tarkoittaa, että meillä voi olla iso ongelma istua yöpöydällämme tai sohvapöydillä, nimeltään Google Home ja Amazon Echo.
Stanfordin Internet- ja yhteiskuntakeskuksen tietosuojajohtaja Albert Gidari puhui The Vergen kanssa sanomalla, että nämä tuotteet "ovat alttiita hallituksen vaatimuksille pääsystä ja paljastamisesta. Uskon, että hallitus voisi saada teknisen avun tilauksen skannauksen helpottamiseksi, ja FISA: n puitteissa, ehkä myös työkalun rakentamiseksi. " Olen varma, että Gidarilla on oikeus, koska hallitus voi jo kehottaa meitä puhelimiin, tietokoneisiin ja jopa televisioihimme tutkinnan helpottamiseksi. Senaattorit Wyden (D., Oregon) ja Paul (R., Kentucky) ajattelevat, että myös FISA: ta voidaan väärinkäyttää tällä tavoin.
Eikä kyse ole siitä, että valtion virasto vakoilee sitä, mitä sanomme tai teemme, kun puhumme Alexan tai Google Kotiin. He eivät tarvitse sitä tietoa; he haluavat vain äänitteidemme nauhoittamisen.
Sekä Echo että Google Home tallentavat nauhoituksia asioista, jotka sanomme heidän kanssaan puhuttaessa. Molemmat lähettävät myös äänidataa pilvipalvelimelle myös prosessointia varten. Onneksi kukin tallentaa vasta sen jälkeen, kun kuuma sana on havaittu ja kaikki laitteestasi lähtevät tiedot on salattu ja nimetty. Voivatko siepata ja salata tiedot, vaatia niitä tuomioistuinten kautta tai vetää ne suoraan laitteelta, kaikki mitä he kuulevat, ovat sinä ja minä, kuten sinä ja minä, käskemme avustajaa tai Alexaa vaihtamaan kanavaa tai antamaan sääennusteen - arkipäiväisiä tietoja, et yritä pitää salassa. Bentonvillen Arkansasin poliisi havaitsi juuri sen, että Amazonin kaiun alistaminen tapahtui vuoden 2016 murhatapauksessa. Mutta jälleen kerran, tämä ei ole mitä NSA keräsi Voice RT: n kanssa; he halusivat vain ääninäytteen dataa, jotta he voisivat sovittaa sen samalla, kun tekivät vakoilutoimintaa reaaliajassa.
Se ei ole mitä sanot. Se, että sanot, tekee siitä mielenkiintoisen NSA: lle.
Tutkiessaan Edward Snowdenin vuotaneita asiakirjoja, Kofman havaitsi, että NSA on kerännyt puheentunnistustietoja jo vuosia. Tätä tekniikkaa käytettiin Saddam Husseinin tunnistamiseen ja joidenkin vanhojen tallenteiden ottamiseen. Äänitulokset Osama Bin Ladenille ja muille korkean tason Al-Qaidan jäsenille luotiin, ja yksi muistio kertoo, kuinka Abu Musab al-Zarqawin todettiin olevan puhuja online-äänitiedostoissa, joista CIA oli erittäin kiinnostunut. Nämä luokitellut asiakirjat osoittavat, että välillä Vuosina 2004 ja 2012 NSA tarkensi ja käytti puhujien tunnistustekniikkaansa terrorismin torjuntaan ja kansainvälisiin huumeiden pidätyksiin.
Jos luulet, että maan johtava vakoojavirasto, joka kerää satunnaisia tallenteita siitä, mitä ihmiset sanovat auttavansa terrorismin tai huumekaupan torjunnassa, ei ole OK, niin monet eivät kiistä kanssasi. Google ja Facebook (ja todennäköisesti kaikki muut Internet-yritykset) skannaavat kerättyjä tietoja esimerkiksi lapsipornosta tai väärinkäytöksistä, tekijänoikeusrikkomuksista ja terroristisesta toiminnasta, koska joku katsoo sen olevan suuremman hyödyn hyväksi. En väitä. Mutta Snowden paljasti myös, että NSA aikoo ottaa käyttöön saman tekniikan estääkseen hänen kaltaisiaan ilmiantajia paljastamasta väärinkäytöksiään vuosia ennen hallituksen päätöksen 13587 allekirjoittamista.
NSA aikoo käyttää taktiikoita, jotka auttavat Bin Ladenin sieppaamisessa amerikkalaisten seuraamiseksi.
Se menee liian pitkälle, ja siinä on ihmisiä, kuten Valkoisen talon entinen neuvonantaja, kansallisen tiedustelupalvelun johtaja Timothy Edgar, huolissaan yksityisyydestämme ja hallitsevan hallintoviraston vaikutuksista, jos heidän mielestämme olemme sanoneet tai tehneet jotain mitä he eivät pidä. Olemme kaikki kuulleet tapauksia, joissa käytettiin ja ylitettiin erittäin ohut viiva ja kaikki ei ollut aivan laillista perustuslain hengen mukaan. Äänidemme suhteen kansalaisvapausasiantuntijat ajattelevat, että Googlen ja Amazonin on muutettava Kodin ja Kaiun toimintaa, jotta äänitietoja ei säilytetä.
Ääntämme ovat vakaat; jotain, mitä sanoin 10 vuotta sitten, voidaan äänipisteen avulla tunnistaa positiivisesti tänään tulevalta. Vaikka äänitallenteet ovat käsillä, vaikka tiedostot sanovat "OK Google, himmennä olohuoneen valot 50%: iin", on helppo käyttää niitä meitä vastaan mihin tahansa tutkimukseen tai operaatioon. Kuvittelen, että NSA: lla on runsaasti äänitietoja, jotka voivat tunnistaa henkilön, joka tarjoili juomia etsimälle terroristille hotellissa, tai edustajan lentokentän lippupisteessä. Kuvittelen myös, että nämä viattomat kuulusteltiin ja sitten heille annettiin poikamiesmääräys, vaikka he olivat syyttömiä kaikista rikoksista ja NSA, CIA ja FBI tiesivät olevansa viattomia.
Älä usko puhetta siitä, että FISA: n kaltaiset ohjelmat on suunniteltu ja käytetty yksinomaan suojelemaan meitä. Meillä on paljon todisteita päinvastaisesta.
Tämä on paljastettava ja siitä on keskusteltava julkisesti. Teknologia, jota voidaan käyttää toimittajien seuraamiseen tai heidän lähteidensä paljastamiseen, on vaarallinen, kun sitä ei käytetä oikein, eikä sitä pidä piilottaa hallituksen luokituksen muurin taakse. Vaikka sellaiset ryhmät kuin EAKF ja Lehdistönvapaussäätiö yrittävät saada aikaan tämän, Google ja Amazon painostavat lopettamaan äänitietojen tallentamisen ja analysoinnin nykyisen tapaan. Se asettaa melko pellin järjestelmään, joka on suunniteltu analysoimaan kaikkea ja tulemaan älykkäämmäksi. Koneoppiminen vaatii runsaasti tietoja analysoitavaksi uudestaan ja uudestaan "oppimiseksi". Googlen ja Amazonin on huolehdittava kaiken keräämisestä ja varastoinnista tavalla, joka pitää sen nimettömänä sen sijaan, että olisi huolehdittava siitä, kuinka heidän oppikoneensa voivat oppia ilman tarvitsemiaan tietoja.
Kone tarvitsee tietoja oppiakseen. Paljon dataa toistuu uudestaan ja uudestaan.
Sormen osoittaminen Alexalle ja assistentille ongelman juurena ei ole hyvä kenellekään, joka pitää niitä hyödyllisenä. Meidän on keskityttävä roomaamiseen hallituksessamme ja lopetettava amerikkalaisten perusteeton valvonta. Ja tämä ei ole vain USA: n asia; Interpol ja Ison-Britannian GCHQ ovat "tehneet tiivistä yhteistyötä NSA: n ja Voice RT: n kaltaisten luotto-ohjelmien kanssa" tärkeänä osana suhdettamme NSA: hon. " Kiinalla on sanottu olevan samantyyppisiä ohjelmia, ja se pystyy nyt tunnistamaan positiivisesti kymmeniä tai ehkä satoja tuhansia Kiinan kansalaisia äänensävynsä avulla.
En usko, että NSA: lla on salaa tekniikkaa, joka voi tunnistaa minkä tahansa meistä milloin tahansa eikä käyttää sitä väärin. Olen kansalaisvapauksien asiantuntijoiden kanssa samaa mieltä siitä, että tämä on vaarallinen tie ja että se olisi julkistettava. En ole samaa mieltä Googlen ja Amazonin painostamisesta lopettaa innovointi odotettaessa. Näemme tulevaisuuden näkyvän silmämme edessä ja kunnes "älykkäät" koneet, joita Google ja Amazon käyttävät sen luovuttamiseen meille, osoittavat, että heidän on valittava uudelleen, älkäämme pidättäkö tulevaisuutta.
