Googlen on säänneltävä, kuinka sen tietokoneet puhuvat ihmisille, tai hallitus aikoo

AI täällä ja AI siellä, täällä AI siellä AI kaikkialla AI, Old McGooglella on uusi maatila. Yksi, jota se on työskennellyt pitkään, ja se ei vieläkään ole valmis. Tietokoneiden tekeminen salaisissa palvelinhuoneissa opettaa heille käyttäytymään kuten ihmiset. Huomaa, että sanoin toimivan ja ajattelematta; AI ja koneoppiminen eivät ole oikeasti älykkäitä tai opiskelevat ajattelumme nähdessään näitä sanoja. Mutta nämä tietokoneet kykenevät ottamaan heille annetut tiedot ja löytämään muita tapoja, joilla sitä voidaan käyttää, ja se tekee niistä tuntevia. Pelottavia juttuja.

En ole valmis tappamaan kaikkia ihmisiä, mutta voiko se koskaan päästä sinne? Ihmisillä on kysymyksiä.

Nyt en sano, että tässä koneet alkavat ajatella ihmiskuntaa ja ottaa haltuunsa. Se on fiktio, joka on elokuvan ohjaajien ja kirjoittajien mielestä paras hauskaa. Älykkäämmät tietokoneet voivat kuitenkin tehdä esimerkiksi helpottamaan jonkun tyhjentämistä pankkitililtäsi tai huijata älykäs etuovi lukituksen avautumiseen. Nämä ovat asioita, jotka voidaan tehdä nyt, ja paremmat älykkäät tietokoneet helpottavat sitä, mikä tarkoittaa sitä, että useammat ihmiset voivat tehdä sen. Totta tässä on vähän huolestuttavaa. Siirry askeleen pidemmälle ja tavallinen ihminen, joka ei ole oikeastaan ​​hypi AI- ja koneoppimisessa, pelkää, että nämä tietokoneet voivat tehdä enemmän.

Lisää: AI: n uutta Google I / O 2018 -palvelussa

Ehkä heillä on oikeus. Sillä ei ole väliä, koska käsitys on todellisuus, kun kyse on asioista, joita yhteiskunta pelkää. Olet ehkä nähnyt Internetissä huolen Duplexista. Kaksipuolisuus on mitä Google on tehnyt saadakseen tietokoneen puhumaan ja käyttäytymään kuin oikea, elävä ihminen puhelun aikana. Demo, joka osoittaa sen tekevän hiusvaraamisen, hämmästytti ehdottomasti yleisöä ja monia meistä katsomassa YouTubessa. Ja oikeutetusti, koska tietokone, joka osaa sanoa "uh, wait" tai "umm yeah", on asia, jota emme ole koskaan nähneet. Google-koti, joka aloittaa puhelun, ei tee mitään "väärin", lukuun ottamatta sanomista: "Hei, olen tietokone. Onko se kunnossa?" verkossa olevalle henkilölle ja Google on käsitellyt nämä erityiset huolenaiheet. Mutta se on silti … outoa.

Nähdessään tietokoneen huijaavan ihmistä ajattelemaan, että hän puhuu toisen ihmisen kanssa, ei ole hyvä näyttää, ja se johtaa vain enemmän pelkoihin siitä, mitä kaikki nämä AI-asiat voivat tehdä. Ehkä ei sinulle, mutta jollekin. Se oli kammottavaa paremman sanan puutteesta. Creepy ei ole se, kuinka haluat paljastaa jotain ihmeellistä maailmalle. Kukaan ei halua saada kammottavaa puhelua tai tuntea olleensa epämukavana siitä, puhuvatko he henkilölle vai tietokoneelle.

Google Duplexin näkeminen oli mahtavaa. Ja kammottava.

Se on vain jäävuoren huippu. Näimme myös AI: n ottavan YouTube-videoleikkeen ja eristävän yhden äänen toisesta, vaikka kaksi puhujaa riitaisivat ja puhuivat toistensa yli. Se oli siistiä ja ei ollenkaan pelottavaa, mutta miten se toteutettiin, saattaa olla. Tämä tapahtui siksi, että WavNetin tutkijat huomasivat tietokoneen "oppineen" yhden äänen parempaan erottamiseen, kun sille annettiin useita ääniä samanaikaisesti. Sitä ei odotettu tai ohjelmoitu - tietokone teki sen itse käyttämällä tallentamiaan tietoja. Meidän on mietittävä, mitä muuta voi tapahtua vahingossa, ja jos jo on jo jotain, josta emme kuule.

Googlen on oltava hyvissä ajoin kaikkien näiden tietojen kanssa. Meidän on tiedettävä, mitä tehdään, miten se tehdään ja kaiken lopputulos. Ei vain jännittäviä palasia, jotka eivät koske. Ja jos mitään ei tapahdu, niin ei pitäisi olla, kerro myös meille. Tähän uuteen tekniikkaan liittyy jo vallitsevia yksityisyyden suojaa koskevia ongelmia, ja olemme ensimmäiset siitä nähneet. Meillä on enemmän huolenaiheita, mitä enemmän näemme.

Ihmisillä on taipumus huolehtia, vaikka heidän ei tarvitsekaan. Jos Google ei tee tätä oikein, joku astuu sisään ja pakottaa heidät tekemään sen toisin. Jos haluamme, että tulevaisuus on mielenkiintoista ja tietokoneet tekevät enemmän, haluamme, että tietoteknikot ja ammattitaitoiset kehittäjät tekevät sen, emme vanhuksia valkoisia keikariä kongressissa.