Starfsmaðurinn hefur brugðist við ritskoðuðu leitarvél Google fyrir Kína, útskýrði

Starfsmenn Google eru reiðir yfir því að fyrirtækið sé að búa til ritskoðaða leitarvél. Þeir geta lokað honum.

Googleplex gestamiðstöðin í Mountainview, Kaliforníu

Hugh Peterswald/LightRocket í gegnum Getty Images

Google er að upplifa siðferðilega og siðferðilega kreppu. Þetta er skoðun hundruð starfsmanna hjá tæknifyrirtækinu, sem mótmæla þróun ritskoðaðrar leitarvélar fyrir netnotendur í Kína.



Um 1.400 starfsmenn Google — af þeim meira en 88.000 — skrifaði undir bréf til stjórnenda fyrirtækja í vikunni þar sem leitað var frekari upplýsinga og gagnsæis um verkefnið og krafist inntaks starfsmanna við ákvarðanir um hvers konar vinnu Google tekur að sér. Þeir lýstu einnig áhyggjum af því að fyrirtækið brjóti eigin siðareglur.

Eins og er höfum við ekki þær upplýsingar sem þarf til að taka siðferðilega upplýstar ákvarðanir um starf okkar, verkefni okkar og ráðningu, skrifuðu þeir í bréf, sem hlerunin fékk og New York Times.

Tilvist ritskoðað leitartæki - kallaður Dragonfly - var opinberað fyrr í þessum mánuði við hlerunina , vakti mikla reiði innan raða fyrirtækisins og vakti harða gagnrýni frá mannréttindasamtökum um allan heim. Innri skjöl sem lekið var til blaðamanna lýstu því hvernig leitarvettvangurinn sem byggir á forritum gæti hindrað netnotendur í Kína frá því að sjá vefsíður sem fjalla um mannréttindi, friðsamleg mótmæli, lýðræði og önnur efni á svörtum lista kínverskra stjórnvalda.

af hverju er pósthúsið svona hægt

Að sögn er aðeins lítill hópur Google verkfræðinga að þróa vettvanginn fyrir Peking og upplýsingar um verkefnið hafa verið svo miklar verndaðar að aðeins nokkur hundruð starfsmenn Google vissu meira að segja af þeim. Google hefur neitað að tjá sig opinberlega um Dragonfly, en Forstjóri Google, Sundar Pichai, varði verkefnið fimmtudag á vikulegum starfsmannafundi og sagði að verkefnið fyrir Kína væri aðeins í rannsakandi stigi.

Innri bakslag starfsmanna táknar vaxandi áhyggjur af því hvort Google hafi glatað siðferðilega áttavita sínum í þeirri leit að fyrirtækinu að auðga hluthafa. En það bendir líka til þess að fólkið sem framleiðir tækni Google hafi meira vald í mótun fyrirtækjaákvarðana en jafnvel hluthafar. Í apríl mótmæltu þúsundir starfsmanna Google hersamningi fyrirtækisins við Pentagon - þekkt sem project Maven - sem þróaði tækni til að greina myndbandsupptökur frá dróna sem gætu hugsanlega borið kennsl á mannleg skotmörk.

Um tugur verkfræðinga endaði með því að segja af sér vegna þess sem þeir litu á sem siðlausa notkun gervigreindar, sem varð til þess að Google lét samninginn renna út í júní og leiddi til þess að stjórnendur lofuðu að þeir myndu aldrei nota gervigreindartækni til að skaða aðra.

Sú staðreynd að starfsmönnum Google tókst að þvinga eitt öflugasta fyrirtæki í heimi til að setja siðferði framar virði hluthafa er merkilegt afrek í fyrirtækja-Ameríku og gefur til kynna hvers vegna starfsmenn þurfa opinbera rödd í stefnumótandi ákvörðunum. Hvort Google hættir á endanum áætlun sinni um að aðstoða Kína við að ritskoða upplýsingar eða ekki mun vera prófsteinn á hversu langt það vald nær.

Að stunda viðskipti í Kína er gott fyrir hluthafa, slæmt fyrir mannkynið

Það er engin ráðgáta hvers vegna stjórnendur Google vilja eiga viðskipti við kínverska embættismenn: Það er arðbært. Með íbúafjölda 1,3 milljarða, hefur Kína flesta netnotendur í heiminum, svo að brjótast inn á kínverska markaðinn hefur lengi verið markmið fyrir tæknirisa í Silicon Valley í leit sinni að því að finna nýja notendur og auka hagnað.

En að vinna í Kína vekur óhjákvæmilega siðferðileg vandamál fyrir öll bandarísk fyrirtæki. Að stunda viðskipti á meginlandi Kína þýðir að gera samninga við einræðisstjórn sem hefur sögu um mannréttindabrot og stranga bælingu á málflutningi.

Þrátt fyrir þetta hafa Silicon Valley tæknifyrirtæki sýnt vilja til að leggja hugsjónahyggju sína til hliðar - eða hagræða ákvörðunum sínum fyrir dómstóla í Peking. LinkedIn, til dæmis, hefur viðveru í Kína vegna þess að það samþykkti að loka á tiltekið efni á netinu.

Facebook er enn bönnuð í Kína en framkvæmdastjóri Mark Zuckerberg hefur reynt að breyta því. Árið 2016, fréttir komu fram að Facebook væri að byggja ritskoðunarverkfæri svipað og Dragonfly verkefni Google: Það myndi leyfa þriðja aðila að loka á tilteknar Facebook-færslur í Kína í skiptum fyrir leyfi stjórnvalda til að reka samfélagsmiðlanetið þar. Bakslag svipað og Dragonfly-deilan kom í kjölfarið, sem vakti áhyggjur af því að embættismenn gætu notað vettvanginn til að njósna um andófsmenn og refsa þeim. Þessar áhyggjur leiddi nokkra starfsmenn Facebook sem vann að verkefninu að láta af störfum. Þetta verkefni var líka á frumstigi og engar vísbendingar eru um að Facebook hafi nokkru sinni kynnt tólið fyrir kínverskum embættismönnum.

En ákvörðun Google um að fara inn á kínverska markaðinn er óhugnanlegri af ýmsum ástæðum. Það er sláandi viðsnúningur á hina sterku afstöðu fyrirtækið tók til baka árið 2010, þegar það ákvað að yfirgefa Kína til að mótmæla innbroti kínverskra stjórnvalda og aðgerðum þeirra gegn tjáningarfrelsi. Ákvörðunin virðist einnig vera á skjön við einu sinni áberandi einkunnarorð Google Don't be evil og hún stangast á við þeim meginreglum sem fyrirtækið samþykkti í júní eftir deiluna um Pentagon samninginn, þar sem Pichai lofaði að fyrirtækið myndi ekki nota gervigreind til að þróa tækni sem stangast á við almennt viðurkenndar meginreglur alþjóðalaga og mannréttinda.

Starfsmenn Google segja að loforð af þessu tagi dugi ekki lengur, í ljósi frétta um ritskoðunartækið, og þeir krefjast formlegra hlutverka í ákvörðunum um siðferðileg áhrif vinnu þeirra.

Þrýstið á að gera starfsmenn að hagsmunaaðilum fyrirtækja

Undanfarna áratugi hafa fastráðnir starfsmenn engin raunveruleg áhrif haft á hvernig opinber fyrirtæki fjárfesta hagnað eða taka ákvarðanir um nýja tekjustreymi.

Nútíma amerískur kapítalismi hefur verið knúinn áfram af einstöku hlutverki: að koma verðmæti til fólks sem á hlutabréf fyrirtækisins. Matt Yglesias eftir Vox útskýrir hvernig þetta hugarfar leiðir til þess að stjórnendur sækjast eftir hagnaði umfram önnur verðmæt markmið.

Þess vegna væri fyrir stjórnendur að leggja til hliðar hagnað hluthafa í leit að einhverju öðru markmiði eins og umhverfisvernd, kynþáttaréttlæti, samfélagsstöðugleika eða einföldu almennu velsæmi eins konar þjófnaður. Ef að endurskipuleggja vöruna þína til að vera meira ávanabindandi eða minna holl eykur sölu, þá er það ekki aðeins leyfilegt heldur í raun krafist að gera svo. Ef að loka arðbærri verksmiðju og útvista vinnunni til láglaunalands gæti gert fyrirtækið þitt enn arðbærara, þá er það rétta málið.

Þó að það sé rétt að forstjórar séu skyldugir samkvæmt lögum að forgangsraða verðmætum til hluthafa, þá þýðir það ekki endilega að þeir þurfi að taka ákvarðanir sem miðast við það sem hámarkar hagnað. Hæstiréttur tók þetta skýrt fram í frv 2014 skoðun inn Burwell gegn Hobby Lobby.

Nútíma fyrirtækjalög krefjast þess ekki að fyrirtæki í hagnaðarskyni stundi hagnað á kostnað alls annars, og margir gera það ekki, dómararnir skrifaði í áliti sínu .

Skriðþungi er byrjaður að byggjast upp til að breyta þessari dýnamík, með því að veita starfsmönnum og neytendum meiri kraft í C-suite umræðum. Bara í þessari viku, Sen. Elizabeth Warren (D- Massachusetts) lagt fram frumvarp sem kveður á um að stór opinber fyrirtæki taki ákvarðanir ekki aðeins út frá því hvernig það myndi hafa áhrif á hluthafa heldur einnig hvernig það hefði áhrif á neytendur, starfsmenn og þau samfélög þar sem fyrirtækið starfar. Frumvarpið, sem ber heitið Lög um ábyrgan kapítalisma , myndi einnig krefjast þess að fyrirtæki leyfi starfsmönnum að kjósa 40 prósent af stjórn fyrirtækis.

Hugmyndin á bak við frumvarpið er að ganga úr skugga um að bandarísk fyrirtæki séu almennilegir borgarar. Það virðist vera sama hugmyndin og hvetur starfsmenn Google til að gera meiri kröfur frá vinnuveitanda sínum, sem er eitt öflugasta fyrirtæki í heimi.

Starfsmenn Google vilja fá hlutverk í að meta verkefni fyrirtækja

Viðbrögð starfsmanna Google við Dragonfly verkefni fyrirtækisins fyrir Kína gefa okkur innsýn í hvað gæti gerst ef starfsmenn hefðu formlegra hlutverk í ákvarðanatöku fyrirtækja.

Í bréfi sínu til stjórnenda gera starfsmenn Google fjórar sérstakar kröfur. Í fyrsta lagi vilja þeir að fyrirtækið búi til skipulag til að leyfa fastráðnum starfsmönnum að fara yfir siðferðileg atriði í verkefnum fyrirtækisins. Í öðru lagi vilja þeir að fyrirtækið skipi umboðsmann til að hafa umsjón með siðferðisskoðunarferlinu, með framlagi starfsmanna um hver gegni embættinu. Í þriðja lagi vilja þeir áætlun til að tryggja að Google sé gagnsætt við starfsmenn um tilgang tækninnar sem fyrirtækið er að þróa, svo starfsmenn geti tekið upplýstar ákvarðanir um siðferðileg áhrif vinnunnar sem þeir vinna. Í fjórða lagi vilja þeir að fyrirtækið gefi út siðferðilegt mat á verkefnum þeirra, eins og Dragonfly, og eigi reglulega samskipti við starfsmenn um áhyggjuefni.

Enn sem komið er hafa stjórnendur Google ekki sagt opinberlega hvort þeir muni fara með eða ekki. Byggt á skýrslur sem lýsa starfsmannafundi fimmtudagsins í höfuðstöðvum fyrirtækisins í Kaliforníu náði samtalið um Dragonfly ekki svo langt. En ef Pichai og aðrir stjórnendur ganga að kröfunum myndi það vissulega endurspegla mikla breytingu á forgangsröðun fyrirtækja. Og það myndi sýna hvers vegna starfsmenn hafa meira vald en hluthafar: Starfsmenn eru þeir sem skapa bókstaflega verðmæti fyrir hluthafa, svo þeir þurfa að vera með í því sem þeir eru að skapa.

Brandon Downey, fyrrverandi verkfræðingur hjá Google sem segist sjá eftir hlutverki sínu í að hjálpa til við að þróa fyrsta ritskoðunarverkfæri fyrirtækisins í Kína (áður en fyrirtækið hætti á kínverska markaðnum árið 2010), skrifaði áhrifamikla ritgerð um hvað er í húfi:

Google hagar sér eins og hefðbundið fyrirtæki; einn sem kreistir hverja krónu út úr markaðnum, án tillits til óefnislegra hluta eins og meginreglu, siðferðiskostnaðar og jafnvel í hættu á öryggi notenda sinna...Ef tækni er tæki, þá þýðir það fólkið að búa til það verkfæri bera ábyrgð á að stemma stigu við misnotkun tækisins með því að taka þátt í ákvörðunum um hvernig það verður notað. Og ef fólkið sem er leiðtogi fyrirtækisins trúir þessu ekki, ætti það að heyra það í skýrari og skýrari orðum: Þú verður nefnilega ekki eitt af stærstu fyrirtækjum í sögu kapítalismans án aðstoðar verkafólks sem gerir þau verkfæri.

hversu heitt það er núna