La cua del terror

Aquests moderadors ajuden a mantenir Google i YouTube lliures d’extremismes violents, i ara alguns d’ells tenen TEPT

Advertiment de contingut:Aquest article conté descripcions de contingut gràfic i inquietant relacionat amb el terrorisme i els crims contra nens.



Google i YouTube aborden la moderació del contingut de la mateixa manera que ho fan tots els altres gegants tecnològics: pagant un grapat d’altres empreses per fer la major part del treball. Una d’aquestes empreses, Accenture, opera el lloc de moderació de contingut més gran de Google als Estats Units: una oficina a Austin, Texas, on els moderadors de contingut treballen les 24 hores del dia netejant YouTube.



Peter és un dels centenars de moderadors del lloc d'Austin. YouTube classifica el treball per a ell i els seus col·legues en diverses cues, cosa que segons la companyia permet als moderadors construir experiència al voltant de les seves polítiques. Hi ha una cua de drets d'autor, una d'odi i assetjament i una cua per a adults per a pornografia.

CONCLUSIONS CLAU

  • El centre de moderació de contingut més gran de Google als Estats Units es troba a Austin, Texas. Centenars de moderadors que hi treballen són la força policial de YouTube.
  • Google va crear una cua dedicada per als vídeos que es creu que contenien extremisme violent i va comptar amb dotzenes d'immigrants mal pagats del Pròxim Orient. Els moderadors guanyen 18,50 dòlars per hora (uns 37.000 dòlars a l’any) i no han rebut cap augment en dos anys.
  • Els moderadors d’Austin estan obligats a veure cinc hores de vídeo horrible al dia. Això passa malgrat que la CEO de YouTube, Susan Wojcicki, va prometre reduir la seva càrrega a quatre hores diàries l'any passat.
  • Els treballadors del lloc descriuen sentir ansietat, depressió, terror nocturn i altres greus conseqüències per a la salut mental després de fer la feina durant només sis mesos.
  • Els administradors d’Accenture obliguen rutinàriament els empleats a treballar en el seu temps de descans i els deneguen el temps de vacances per adaptar-se a les cues desbordants.
  • Google ofereix un estàndard d’atenció mèdica als moderadors de contingut a temps complet i un altre per als contractistes. Els empleats a temps complet poden trigar mesos de baixa mèdica remunerada per abordar el trastorn d’estrès postraumàtic i altres problemes. Els contractistes gairebé no reben baixes mèdiques remunerades.
  • Sovint no s’informa als treballadors de Google sobre les possibles conseqüències sobre la salut mental de la moderació del contingut quan sol·liciten feina. Les fitxes i les entrevistes tendeixen a minimitzar la quantitat de contingut inquietant que els moderadors hauran de veure.
  • Google està realitzant experiments amb alguns moderadors per veure si les intervencions tecnològiques, com permetre als treballadors veure vídeos en escala de grisos, redueixen els danys emocionals.
  • Fins i tot amb una atenció mèdica de primer ordre i excel·lents beneficis, la moderació del contingut pot fer que els Googlers siguin diagnosticats de TEPT, ansietat crònica i altres problemes de salut mental a llarg termini.

Peter treballa el que es coneix internament com la cua VE, que significa extremisme violent. És una de les feines més grolleres que es fan a Alphabet. I, com totes les feines de moderació de contingut que impliquen exposició diària a la violència i els abusos, ha tingut conseqüències greus i duradores per a les persones que fan la feina.



L’any passat, Peter ha vist com un dels seus companys de treball es col·lapsava a la feina amb dificultats, tan carregat pels vídeos que havia vist que es va prendre dos mesos de permís no remunerat. Un altre company de feina, preocupat per l'ansietat i la depressió causades per la feina, va deixar de banda la seva dieta que va haver de ser hospitalitzat per una deficiència aguda de vitamina.

Peter, que fa gairebé dos anys que fa aquesta feina, es preocupa pel peatge que la feina li afecta la salut mental. La seva família l’ha instat reiteradament a deixar el càrrec. Però li preocupa que no pugui trobar una altra feina que pagui tan bé com aquesta: 18,50 dòlars per hora, o uns 37.000 dòlars a l’any.

Des que va començar a treballar a la cua d’extremisme violent, va assenyalar Peter, ha perdut cabell i ha guanyat pes. El seu tarannà és més curt. Quan condueix per l’edifici on treballa, fins i tot els dies de descans, li comença a palpitar una vena al pit.



Cada dia veus com algú decapita algú o algú disparant a la seva xicota, em diu Peter. Després d’això, us ve de gust, aquest món és realment boig. Això et fa sentir malalt. Sents que no hi ha res per a la qual vingui la pena viure. Per què ens fem això mútuament?

mapa de tubs

Com molts dels seus companys de feina que treballen a la cua de VE a Austin, Peter és immigrant. Accenture va reclutar dotzenes de parlants d’àrab com ell, molts dels quals van créixer al Pròxim Orient. L’empresa depèn de les seves habilitats lingüístiques (en parla set) per identificar amb precisió els discursos d’odi i la propaganda terrorista i eliminar-los de YouTube.

Diversos treballadors amb qui he parlat esperen convertir-se en ciutadans, una gesta que només s’ha fet més difícil sota l’administració de Trump. Els preocupa parlar amb un gerent, amb un periodista, per por que compliqui els seus esforços migratoris. (Per aquest motiu, vaig acceptar utilitzar pseudònims per a la majoria dels treballadors d'aquesta història.)

Però, més que això, Peter i altres moderadors d'Austin em van dir que volien viure com els empleats de Google a temps complet que de vegades visiten la seva oficina. Em van dir que un salari més alt, millors beneficis per a la salut i més gestors afectius alleugeririen les càrregues de la feina.

Veiem la gent que ve d’allà, com són, com actuen més lliures, em diu Peter.

Durant la major part d’aquest any, vaig pensar el mateix que va fer Peter. Porteu els moderadors a casa, pagueu-los com pagareu a un agent de policia o bomber, i potser podríeu reduir el pes de salut mental de l’exposició constant a la violència gràfica.

Després vaig conèixer una dona que havia treballat com a moderadora de contingut per a la mateixa Google. Va guanyar un bon sou, aproximadament a la xifra de sis xifres. Hi havia avantatges excel·lents per a la salut i altres avantatges. Però cap d’aquests privilegis, finalment, impediria que el contingut inquietant que veia cada dia li fes mal.

Després d’un any d’eliminar el terrorisme i l’abús infantil dels serveis de Google, va patir ansietat i atacs de pànic freqüents. Va tenir problemes per interactuar amb els nens sense plorar. Un psiquiatre li va diagnosticar un trastorn per estrès postraumàtic.

Ella encara lluita amb ella avui en dia.

Daisy Soderberg-Rivkin treballava com a legalista el 2015 quan va veure una llista en línia per a una posició oberta a Google. La feina era de moderació de contingut, tot i que, com molts treballs de moderació de contingut, es va descriure mitjançant un eufemisme opac: en aquest cas, les eliminacions legals s’associen.

Daisy havia crescut amb els serveis de Google i, quan va començar a pensar en treballar-hi, la seva ment es va dirigir als famosos avantatges de la companyia: els seus cafès i micro-cuines, massatges gratuïts i rentat en sec. La feina que finalment va sol·licitar es va basar a la seu de Google a Mountain View, Califòrnia (l’equip es traslladaria més tard a una oficina satèl·lit a la propera Sunnyvale) i era un lloc a temps complet amb avantatges. Pagava 75.000 dòlars a l’any, a més d’una subvenció d’accions de Google, que va aproximar el total a 90.000 dòlars.

De cap manera aconseguiré aquesta feina, va pensar en ella mateixa. Es va presentar de totes maneres.

Al llistat es deia que els associats processarien les sol·licituds legals per eliminar enllaços de la cerca de Google a causa de violacions dels drets d'autor, difamació i altres continguts inadequats. Va assenyalar que els associats també haurien de revisar alguns enllaços que contenien imatges d'abús infantil. Però recordo molt clarament entre parèntesis que deia: 'aquest tipus de contingut es limitaria a una a dues hores a la setmana', diu Daisy.

Per eliminar contingut molest dels serveis de Google, cal la col·laboració de diversos equips de l’empresa. En la seva major part, els vídeos reportats per contingut terrorista o explotació infantil són revisats per contractistes com els d’Austin. (Google es refereix als empleats contractats per empreses de tercers com a proveïdors, però vaig trobar que els empleats es descriuen universalment com a contractistes i faig servir aquesta paraula al llarg de tota aquesta història.) Però Google també contracta empleats a temps complet per processar les sol·licituds legals del govern entitats i, quan calgui, elimineu imatges, vídeos i enllaços de la cerca web.

Daisy es va sorprendre quan, pocs mesos després de presentar la seva sol·licitud, un reclutador la va trucar. Al llarg de vuit rondes d’entrevistes, Googlers la va vendre per l’impacte positiu que tindria el seu treball.Ajudareu a donar suport a la lliure expressió en línia, recorda que li deien.Fareu d’Internet un lloc més segur.

Tot el dia està mirant els cossos al terra d’un teatre.

Ella va dir que semblava que estaves posant una capa, treballant a Google, aconseguint la teva kombucha gratuïta, dormint a la migdiada. Però de tant en tant hauríeu de veure contingut inquietant. De debò, com de dolent podria ser?

Va trucar a la seva mare i va dir que estava assumint la feina. Tenia 23 anys.

Daisy, que no tenia antecedents de problemes de salut mental, no va considerar l’efecte potencial que la nova feina podria tenir en la seva psique. Sembla que tampoc Google. Durant la seva orientació, l’empresa no va oferir cap formació per al que ara els treballadors d’aquest camp anomenen resiliència: desenvolupar eines emocionals per fer front a un gran volum de text, imatges i vídeo gràfics i inquietants.

Daisy va rebre l’encàrrec de revisar les sol·licituds legals d’eliminació de contingut originades a França, on domina la llengua materna. Finalment, es convertiria en el programa líder de l’empresa en matèria de terrorisme al mercat francès. Cada dia obria la cua, ordenava els informes i determinava si Google estava obligat, per llei o per les condicions del servei de Google, a retirar un enllaç.

Per sorpresa seva, la cua va començar a desbordar-se de violència. El 13 de novembre de 2015, terroristes que havien promès la seva lleialtat a l’ISIS van matar 130 persones i van ferir 413 més a París i al seu suburbi de Saint-Denis, amb la majoria morint en un tiroteig massiu durant un concert al Bataclan.

Ella diu, que tot el dia està mirant els cossos al terra d’un teatre. Les vostres neurones simplement no funcionen com ho farien habitualment. Ho ralenteix tot.

El juliol de 2016, terroristes connectats amb l’ISIS van conduir un camió de càrrega contra una multitud de persones que celebraven el dia de la Bastilla a la ciutat francesa de Niça, matant 86 persones i ferint-ne 458 més. Els enllaços a fotos i vídeos gràfics van començar a acumular-se. Els directius van pressionar Daisy perquè processés un nombre cada vegada més elevat de sol·licituds, segons ella.Hem d’eliminar aquest retard, ells van dir. Si no ho feia, es preocuparia que rebés una mala crítica.

Daisy va intentar treballar més ràpidament, però va trobar que era una lluita.

Tot el que veieu són els números que pugen a la cua, diu ella.

Al febrer, vaig escriure sobrela vida dels moderadors de Facebook als Estats Units, centrat en un lloc de Phoenix, on els treballadors es queixaven de baixos salaris, de pèssimes condicions laborals i de problemes de salut mental de llarga durada per la vigilància de la xarxa social. Al juny, vaig escriure un informe de seguiment sobre un lloc de Facebook a Tampa, Florida, onun moderador havia mort després de patir un atac cardíac massiu al lloc de treball.

Per aleshores, havia rebut missatges d’empleats d’altres grans plataformes socials que explicaven que aquests problemes també afectaven les seves empreses. A partir d’aquest estiu, vaig buscar persones que havien treballat com a moderadors a Google o YouTube per comparar les seves experiències amb les que havia escrit anteriorment. Durant els darrers cinc mesos, vaig entrevistar 18 contractistes i contractistes actuals i antics de Google sobre les seves condicions laborals i els efectes de la feina sobre la seva salut mental.

Amb el gran nombre de serveis d'Internet, alguns dels quals han atret bases d'usuaris amb més de mil milions de persones, Google requereix un exèrcit de moderadors. Gran part del contingut enviat a revisió és benigne i fins i tot tediós: netejar el correu brossa de la plataforma publicitària de Google, per exemple, o eliminar llistes fraudulentes de Google Maps. Però es pot trobar contingut inquietant gairebé a tot arreu on Google permet als usuaris penjar-lo. A l'octubre, la companyia va informar que, l'any passat, havia retirat 160.000 peces de contingut per l'extremisme violent de Blogger, Google Photos i Google Drive, aproximadament 438 per dia.

Fins i tot a YouTube, gran part del contingut revisat pels moderadors és benigne. Quan no es registra cap vídeo a les cues, els moderadors solen estar inactius. Una moderadora en llengua finlandesa em va dir que havia passat dos mesos a la seva feina sense res a fer durant el dia. Com a màxim, se li pot demanar que revisi uns quants vídeos i comentaris durant un període de vuit hores. Va passar la major part de la seva jornada navegant per Internet, em va dir, abans de deixar el mes passat per avorriment.

Cada tret, cada mort, experimenta com si fos real

Les experiències d'altres moderadors van variar àmpliament en funció de la seva ubicació, les seves tasques i la relativa empatia dels seus administradors. Diversos d'ells em van dir que gaudien sobretot de la seva feina, ja sigui perquè consideren gratificant la tasca d'eliminar vídeos violents i pertorbadors de la cerca de Google i de YouTube o perquè les tasques assignades són senzilles i els permeten tenir temps durant el dia per veure vídeos o relaxar-se.

En general, els empleats consideren que es tracta d’una feina molt fàcil i que no es pot queixar, em va dir en un correu electrònic un moderador de YouTube a l’Índia, que guanya uns 850 dòlars al mes. Normalment passem el nostre benestar jugant a jocs com cadires musicals, farcides mudes, Pictionary, etc. Ens ho passem bé!

La diversió no era una paraula amb qui parlés per descriure el treball de moderació de contingut terrorista. En lloc d’això, van parlar de rampes musculars, menjar per estrès i, enmig de l’augment de les rendes a Austin, pobresa creixent. Van parlar de directius que els van negar el temps de descans, els van acomiadar amb pretextos febles i van canviar de torn sense previ avís.

Per als treballadors més afectats per la violència, van expressar una creixent ansietat pels efectes secundaris de presenciar desenes o més escenes d'assassinat al dia.

Si he dit que no m’afecta, és una mentida completa, diu Tariq, que ha treballat a la cua d’extremisme violent d’Austin des de fa més de 18 mesos. El que veus cada dia ... et dóna forma.

Quan deixa la feina a Austin, Peter intenta desconnectar. Amb el pas del temps, això s’ha tornat més difícil. Les pel·lícules d’acció que va gaudir ja no li semblen de ficció. Cada tret, cada mort, experimenta com si fos real.

Fins i tot si sé que ... això no és cert, diu Peter.

Alguns dels seus companys de feina s’enfronten consumint drogues, principalment males herbes. Des que Google va contractar Accenture per primera vegada per començar a fer créixer la cua de VE a Texas, els ha vist retirats a tots.

E3 2016 stream

Al principi, veuríeu que tothom deia: 'Hola, com estàs?', Recorda Peter. Tothom era amable. Anirien fent check-in. Ara ningú no vol ni parlar amb els altres.

Es va incorporar al projecte el 2017, any en què va començar. En aquell moment, YouTube havia estat sotmès a una pressió important per netejar la plataforma. Els periodistes i acadèmics que van investigar el servei havien trobat un gran volum de vídeos que contenien discursos d'odi, assetjament, desinformació sobre trets massius i altres tragèdies i contingut perjudicial per als nens. (Molts d'aquests vídeos s'havien trobat a YouTube Kids, una aplicació que la companyia havia desenvolupat en un esforç per dirigir els nens cap a material més segur.)

En resposta, la CEO de YouTube, Susan Wojcickiva anunciar que la companyia ampliaria la seva plantilla mundial de moderadors a 10.000, cosa que va fer. Una fracció d’aquests (Google no em diria quants) van ser contractats als Estats Units, amb la concentració més gran a Austin.

Demanàvem coses i deien: ‘Mira, simplement no tenim el pressupost’. Dirien molt la paraula ‘pressupost’.

Els moderadors de contingut contractual són econòmics, cosa que suposa una mica més del salari mínim als Estats Units. Per contra, els empleats a temps complet que treballen en la moderació del contingut per a la cerca de Google podrien guanyar 90.000 dòlars o més després de ser promocionats, sense incloure les bonificacions ni les subvencions per accions. Treballadors temporals, contractistes i venedors (els treballadors als quals els Googlers es refereixen internament com a TVC)ara representen el 54 per cent de la plantilla de l’empresa.

Kristie Canegallo, vicepresidenta de confiança i seguretat de Google, supervisa els seus milers de moderadors. Em va dir que confiar en empreses com Accenture ajuda Google a ajustar els nivells de personal de manera més eficient. Si l’empresa està desenvolupant una nova eina per ajudar a capturar vídeos dolents, és possible que necessiti més moderadors per ajudar a formar el sistema. Però després, aquests moderadors ja no són necessaris.

Contractar amb empreses venedores realment ens ajuda a tenir flexibilitat per adaptar-nos a les demandes canviants, diu Canegallo, que es va unir a Google el 2018 després d’haver estat subdirector de gabinet del president Barack Obama.

Igual que altres grans actors de la indústria, el lloc d’Accenture a Austin es basa en el model d’un centre de trucades. (A diferència de Facebook, Google es va negar a deixar-me visitar qualsevol dels seus llocs.) Els empleats treballen en un espai dedicat conegut com a planta de producció on treballen per torns per processar els informes. El treball és fonamental per permetre l'existència de YouTube: molts països han aprovat lleis que legalment obliguen l'empresa a retirar vídeos que contenen material terrorista, alguns d'ells tan sols 24 hores després de la recepció d'un informe.

Daisy va trobar el material terrorista inquietant, però encara estava més inquietada pel que Google anomena imatges d'abús sexual infantil (CSAI). La llista de treballs havia promès que només revisaria el contingut relacionat amb l’abús infantil durant una o dues hores a la setmana. Però, a la pràctica, era una part molt més gran de la feina.

És il·legal veure CSAI en la majoria dels casos, de manera que Google va configurar el que els moderadors anomenaven una sala de guerra on podien revisar les sol·licituds relacionades amb l’explotació infantil sense el risc que altres companys de feina vegessin el material sense voler-ho. Inicialment, la companyia va establir una rotació. Daisy podria treballar CSAI durant tres setmanes i després tenir sis setmanes del seu treball habitual. Però la manca de personal crònic, combinada amb una alta rotació entre els moderadors, va fer que hagués de revisar els casos d’explotació infantil la majoria de setmanes, diu.

Vam començar a adonar-nos que, essencialment, no érem una prioritat per a la companyia, diu Daisy sobre Google. Demanàvem coses i deien: ‘Mira, simplement no tenim el pressupost’. Dirien molt la paraula ‘pressupost’.

(Google va reportar ingressos de 110.000 milions de dòlars el 2018.)

Un any després de la feina, el llavors nuvi de Daisy li va assenyalar que la seva personalitat havia començat a canviar. Ets molt saltat, va dir. Parles dormint. De vegades estàs cridant. Els seus malsons empitjoraven. I sempre estava sempre cansada.

Una companya de pis va pujar al seu darrere una vegada i la va empènyer suaument, i instintivament es va girar i el va pegar. El meu reflex eraAquesta persona és aquí per fer-me mal, ella diu. Jo només ho relacionava tot amb coses que havia vist.

Vaig haver de seure un segon i vaig esclatar plorant

Un dia, Daisy passejava per San Francisco amb els seus amics quan va veure un grup de nens en edat preescolar. Un cuidador els havia demanat que s’aguantessin d’una corda perquè no s’allunyessin del grup.

Vaig parpellejar una vegada i, de sobte, vaig tenir un parpelleig d'algunes de les imatges que havia vist, diu Daisy. Els nens estaven lligats, els nens violats a aquesta edat: tres anys. Vaig veure la corda i vaig imaginar part del contingut que vaig veure amb nens i cordes. I, de sobte, em vaig aturar i vaig parpellejar molt, i el meu amic va haver d’assegurar-me que estava bé. Vaig haver de seure un segon i vaig esclatar plorant.

Va ser el primer atac de pànic que va tenir mai.

En les setmanes següents, Daisy es va retirar dels seus amics i companys de pis. No volia parlar massa amb ells sobre la seva feina per por de carregar-los amb el coneixement que ara tenia sobre el món. La seva feina era eliminar aquest contingut d’Internet. Compartir-ho amb els altres se sentia com una traïció a la seva missió.

Google va mantenir un assessor en plantilla, però es va posar a disposició de l’equip legal de mudances a intervals irregulars i el seu horari es va omplir ràpidament. Daisy va trobar que la consellera era càlida i simpàtica, però era difícil aconseguir temps amb ella. Us enviaven un missatge de correu electrònic que us deia: 'Arriba aquest dia' i us haureu de registrar molt ràpidament perquè s'ompliria gairebé immediatament. Perquè tothom sentia aquests efectes.

Quan va fer una cita amb èxit, la consellera va suggerir que Daisy comencés a veure un terapeuta privat.

Mentrestant, Daisy es va tornar més irritable. Va demanar a la gent de la seva vida que no la toqués. Quan un amic la va convidar a la festa d’aniversari de la seva nena de tres anys, Daisy se’n va anar però se’n va anar al cap de poc temps. Cada vegada que mirava els nens, s’imaginava que algú els feia mal.

A mesura que la seva salut mental va disminuir, Daisy va lluitar per mantenir-se al dia amb les exigències que se li van plantejar. Cada cop més, plorava a la feina, de vegades al bany, de vegades davant de l’edifici. Altres vegades, es va adormir al seu escriptori.

Cap al final d’aquest primer any, el seu gerent va demanar una conversa. Es van reunir a l'interior d'una sala de conferències i el gerent va expressar les seves preocupacions.No passareu la cua prou de pressa, Ell va dir.Necessitem que augmenteu el vostre joc de productivitat.

Estava cansada quan va dir això, perquè sempre estava cansada, i alguna cosa d’aquestes paraules, un joc de productivitat, la va enfurismar. Acabo de trencar, diu Daisy.

Com dimonis voleu que intensifiqui el meu joc de productivitat? va dir-li al seu gerent. Saps com és el meu cervell ara mateix? Enteneu què estem mirant? No som màquines. Estemels éssers humans. Tenim emocions, i aquestes emocions queden profundament cicatritzades en veure que els nens són violats tot el temps i com la gent es trenca el cap.

De vegades, quan pensava en la seva feina, s’imaginava caminar per un carreró fosc, envoltada del pitjor de tot el que veia. Era com si tota la violència i els abusos haguessin pres una forma física i l’haguessin agredit.

Ella diu que tot el mal de la humanitat només et plou. Això és el que se sentia, com si no hi hagués escapada. I després algú et va dir: ‘Bé, has de tornar-hi. Seguiu fent-ho '.

Uns dies després, Daisy va dir al seu gerent que tenia intenció de prendre una baixa mèdica remunerada per abordar el trauma psicològic de l'any passat, un dels diversos del seu equip que s'havia acomiadat com a conseqüència d'un trauma emocional sofert al treball. Va pensar que podria marxar unes setmanes, potser quatre.

No tornaria a Google durant sis mesos.

Els assassinats arribaven més ràpidament del que l’oficina d’Austin podia gestionar. Fins i tot amb centenars de moderadors que treballaven les 24 hores del dia per torns, Accenture va lluitar per mantenir-se al dia amb els vídeos de brutalitat entrants. La cua d’extremisme violent està dominada per vídeos d’origen de l’Orient Mitjà i la companyia ha reclutat desenes de parlants d’àrab des del 2017 per revisar-los.

Molts dels treballadors són immigrants recents que anteriorment havien estat treballant com a guàrdies de seguretat i conductors de repartiment i que havien sentit parlar d’un amic sobre la feina.

Quan vam migrar als Estats Units, no es van reconèixer les nostres titulacions universitàries, diu Michael, que va treballar al lloc durant gairebé dos anys. Així que vam començar a fer qualsevol cosa. Necessitàvem començar a treballar i guanyar diners.

Els treballadors amb qui vaig parlar van estar agraïts inicialment per l’oportunitat de treballar en una gran empresa de tecnologia com Google. (Tot i que els contractistes treballen tècnicament per a Accenture, Google desdibuixa els límits de diverses maneres. Entre altres coses, els contractistes reben adreces de correu electrònic de google.com).

Finalment treballava en una oficina, diu Peter. Vaig pensar en totes les oportunitats. Vaig pensar en una carrera.

Però fins a l’orientació, la naturalesa real del treball a la cua d’extremisme violent va romandre opaca. No tenia ni idea de què era, diu Peter, perquè no t’ho diran.

Accenture indica als moderadors que processin els seus 120 vídeos diaris en cinc hores, segons els treballadors amb qui he parlat, amb dues hores diàries de temps de benestar remunerat i un dinar d’una hora no remunerat. (Wojcicki es va comprometre a reduir la seva càrrega a quatre hores l'any passat, però mai va passar. Accenture nega establir quotes de productivitat per als treballadors.) Es reserva un temps de benestar perquè els treballadors es descompressin dels rigors de la feina, tot passejant fora. parlant amb un assessor o fent jocs amb companys de feina. Al principi, eren molt bons, diu Michael. Si veieu alguna cosa dolenta, feu una pausa. Tanqueu la pantalla i aneu.

La prohibició del mòbil ha creat un tipus particular de comèdia fosca a l'oficina d'Austin

Google ofereix als seus contractistes un temps d’aturada espectacularment més gran que Facebook, que demana als seus moderadors que es conformin amb dues pauses de 15 minuts, un dinar de 30 minuts i només nou minuts al dia de benestar. (Facebook diu que, amb formació i entrenament, els seus moderadors veuen contingut aproximadament sis hores al dia).

Revisem contínuament, comparem i invertim en els nostres programes de benestar per crear un entorn de treball propici, em va dir Accenture en un comunicat. Els nostres habitants d’Austin tenen accés il·limitat a l’assistència al benestar, que inclou assessorament proactiu i a la demanda que compta amb el suport d’un fort programa d’assistència als empleats, i se’ls anima a plantejar problemes de benestar a través d’aquests programes.

Però si dues hores de benestar al dia són ideals, a Austin, no és la norma. Quatre treballadors em van dir que se'ls negava rutinàriament el temps de descans quan la cua de VE estava especialment ocupada. Començant fa uns sis mesos, també van haver de començar a deixar el temps de descans per assolir la puntuació d’utilització, que és una mesura del temps dedicat a moderar els vídeos durant el dia. El programari de seguiment instal·lat als seus ordinadors registra cada minut de vídeo que miren, amb un objectiu de cinc hores. Però altres tasques de treball fonamentals, com ara revisar el correu electrònic o participar en reunions d’equip, no compten per a aquest objectiu, cosa que obliga els empleats a menjar regularment el seu temps de descans per compensar la pèrdua.

La falsa promesa d’un temps de descans ampliat a Austin és coherent amb la imatge general que els treballadors han pintat en llocs de moderació de contingut de tot el món. Quan es generen nous llocs, els administradors reuneixen nous empleats al voltant de la seva noble missió: fer que Internet sigui segur per a tothom. Inicialment, els contractistes reben llibertats que els empleats a temps complet de Google, Facebook i altres llocs donen per segurs: la llibertat d’anar al bany sense demanar permís, la llibertat de menjar menjar al seu escriptori, la llibertat de programar unes vacances .

Hi ha moltes maneres d’abusar de tu si no fas allò que els agrada

A mesura que passen els mesos, proveïdors com Accenture i Cognizant comencen a recuperar aquestes llibertats, sovint amb poques explicacions. A Austin, es va prohibir menjar al vostre escriptori. Alguns directius van començar a preguntar als empleats per què passaven tant de temps al bany. (Havien anat potser sis o set minuts). Als treballadors inicialment se'ls havia permès portar telèfons mòbils personals als seus escriptoris, però també van perdre aquesta llibertat, aparentment per qüestions de privadesa.

disposició perfecta de la volta del refugi

La prohibició del mòbil ha creat un tipus particular de comèdia fosca a l'oficina d'Austin. Alguns serveis d’Accenture requereixen que els empleats iniciïn la sessió mitjançant l’autenticació de dos factors, amb els codis caducs enviats als telèfons dels treballadors. Atès que Accenture va prohibir els telèfons a la planta de producció, els empleats ara han de córrer cap a les taquilles on es guarden els telèfons i, després, tornar als seus escriptoris per introduir el codi abans que caduqui. Accenture també va prohibir els bolígrafs i el paper als taulells dels empleats, de manera que els empleats que es preocupen d’oblidar el seu codi han de gargotejar-lo ràpidament a les mans abans de tornar a bloquejar els telèfons i tornar a córrer al seu escriptori. Ara es veu sovint als treballadors que corren per l’oficina amb una sèrie de dígits gargots desordenats a les mans.

Dos empleats del lloc d'Austin em van dir que se'ls havia denegat les sol·licituds de vacances segons el volum de vídeos de terrorisme a la cua. Altres es van transferir a diferents torns amb poca o cap explicació. I els moderadors de YouTube no han rebut pujades en dos anys, ni tan solsLes rendes d’Austin són de les més ràpides del país. (Accenture diu que la gran majoria dels seus treballadors reben pujades anuals.) Peter em va dir que gasta el 50 per cent dels seus ingressos mensuals en lloguer, i la majoria de la resta va a altres factures. Diu que la vida a Austin és cada vegada més cara, però els seus salaris no s’han mantingut al mateix ritme.

Ens tracten molt malament, diu Michael. Hi ha moltes maneres d’abusar de tu si no fas allò que els agrada.

Quan va marxar de Google, Daisy va començar a treballar amb un psiquiatre i un terapeuta. Li van diagnosticar trastorn d’estrès postraumàtic i ansietat crònica i va començar a prendre antidepressius.

En teràpia, Daisy va saber que la disminució de la productivitat que va frustrar els seus directius no va ser culpa seva. El seu terapeuta havia treballat amb altres antics moderadors de contingut i va explicar que les persones responen de manera diferent a l'exposició repetida a imatges inquietants. Alguns mengen en excés i augmenten de pes. Alguns fan exercici compulsivament. Alguns, com Daisy, experimenten esgotament i fatiga.

Em sembla que això no és unvostèproblema, això és unellsrecorda, va dir-li el terapeuta de Daisy, un problema. Ells s’encarreguen d’això. Van crear aquesta feina. Haurien de ser capaços de ... posar recursos per fer aquest treball, que mai serà fàcil, però almenys minimitzar aquests efectes tant com sigui possible.

El terapeuta va suggerir que Daisy aconseguís un gos. Va adoptar una barreja de border collie / pastor australià de l'SPCA i la va batejar com a Stella després de trobar-se amb el gosa Brando-és que Bellow. Van prendre un curs junts en què Stella es va entrenar per convertir-se en un animal de suport emocional, alerta als signes dels atacs de pànic de Daisy i hàbils a posar-la a gust.

Daisy va començar a portar Stella a l’hospital infantil Benioff de l’UCSF per visitar nens malalts. Amb el pas del temps, va comprovar que va tornar a interactuar amb els nens sense provocar un atac de pànic. Segons ella, veure que un nen acariciava el meu gos va tenir una profunda influència en com avançava amb la meva relació amb els nens.

Està agraïda que, a diferència d’un contractista, pugui trigar temps a obtenir ajuda mentre se li paga. Vaig tenir aquests mesos per pensar en les meves opcions i per pensar en les sortides, sense haver de fer front a l’atur ni haver de fer front a com pagaré el lloguer, diu ella.

Mig any després de deixar Google, Daisy va tornar a la seva feina. Per a la seva consternació, va trobar que poca cosa sobre l’enfocament dels seus directius havia canviat.

Em van revisar, diu ella. Van dir: ‘Com van les coses? Com et sents? Us començarem a poc a poc. ”Però el joc final seguia sent el mateix, que consistia a tornar a aconseguir la vostra productivitat [objectiu].

Una setmana després de tornar, va decidir sol·licitar estudis de postgrau. Va ser acceptada a la Facultat de Dret i Diplomàcia Fletcher de la Universitat Tufts i, a principis d’aquest any, va obtenir un màster. Avui és becària de polítiques al R Street Institute, un grup de reflexió no partidari. Se centra en els nens i la tecnologia, aprofitant el seu temps a Google per informar els legisladors sobre la privadesa dels nens, l'explotació infantil i la moderació del contingut.

Vaig a utilitzar tot això per alimentar el meu desig de fer un canvi, diu Daisy.

A Austin, mentre Accenture va establir diverses restriccions en el lloc de treball, alguns van començar a fer broma entre ells que estaven experimentant. Només ets una rata, diu Peter. Proven coses noves.

Per a un petit grup de contractistes, això és cert literalment. A principis d’aquest any, Google va presentar un document a la Conferència sobre computació humana i aprovisionament col·lectiu. El paper,Prova d’intervencions estilístiques per reduir l’impacte emocional dels treballadors de moderació de contingut, va descriure dos experiments que la companyia havia realitzat amb els seus moderadors de contingut. En un, l’empresa va configurar tots els vídeos per mostrar-los en escala de grisos, cosa que molesta el contingut en blanc i negre en lloc de color. A l’altra, difuminava el contingut per defecte.

Els investigadors estaven interessats en saber si transformar vídeos i imatges pot disminuir l’impacte emocional que tenen en els moderadors.

Canegallo em va dir que part de la nostra responsabilitat i del nostre compromís amb tots els membres del nostre equip que estan mirant aquest contingut per obtenir-los el millor suport possible per estar fent la seva feina. Tot el que aprengui Google sobre la millora de les condicions dels seus treballadors, ho compartirà amb la indústria, va dir.

L'eina en escala de grisos es va posar a disposició de 76 moderadors, que havien optat per l'estudi. Els moderadors van passar dues setmanes mirant la cua regular i acolorida i després van respondre aqüestionarisobre el seu estat d’ànim. Van passar les dues setmanes següents mirant una cua en escala de grisos i després van tornar a agafar el qüestionari.

L’estudi va trobar que la presentació de vídeos en escala de grisos va portar els revisors a informar d’estats d’ànim millorats significativament, almenys durant aquesta setmana.

Investigadors de Google han suggerit futurs estudis que examinen l’impacte emocional dels moderadors en canviar el color de la sang a verd

És igualment notable el que l'empresa no prova: limitar la quantitat de contingut pertorbador al qual poden estar exposats els moderadors individuals al llarg de la vida; baixes mèdiques remunerades per als contractistes que desenvolupin TEPT; i oferir suport als antics empleats que segueixen lluitant amb problemes de salut mental a llarg termini després de deixar la feina.

En canvi, Google fa el que solen fer les empreses tecnològiques: intentar aplicar solucions tecnològiques al problema. L’empresa està construint sistemes d’aprenentatge automàtic que els executius esperen que algun dia gestionaran la major part del treball. Mentrestant, investigadors de Google han suggerit futurs estudis que examinen l’impacte emocional dels moderadors en canviar el color de la sang a verd, en altres transformacions artístiques de contingut i en un desenfocament més selectiu, per exemple, de cares. (Facebook ja ha implementat opcions d’escala de grisos i desenfocament de cara per als seus moderadors, juntament amb una opció per silenciar el so dels vídeos per defecte).

Però les empreses saben des de fa anys que els empleats busquen baixa mèdica per fer front a traumes relacionats amb la feina. És sorprenent que una empresa amb recursos tan vasts com Google comenci ara a dedicar-se a aquestes intervencions menors basades en tecnologia, anys després que els empleats comencessin a informar els seus gestors sobre els diagnòstics de TEPT.

Ara portem dos anys en una gran expansió de la indústria de la moderació de contingut. A mesura que els governs de tot el món exigeixen a les empreses tecnològiques més demandes per vigilar els seus serveis, desenes de milers de persones s’han inscrit a la feina. La necessitat de moderadors sembla que s’està expandint tot i que alguns proveïdors estan avaluant la seva capacitat per fer la feina. A l'octubre, Cognizant va anunciar que abandonaria el negoci durant l'any següent.

Al mateix temps, encara ens falta una comprensió bàsica de com els aspectes més difícils d’aquest treball –eliminació de contingut gràfic i inquietant– afecten les persones que ho fan. Sabem que un subconjunt de persones que treballen a la cua d’extremisme violent de YouTube i funcions similars a tot el món desenvoluparan TEPT i condicions relacionades al lloc de treball. No sabem quin pot ser un nivell d’exposició segur.

Els executius d’empreses tècniques solen descriure’m aquest problema com un problema de contractació. Segons la seva opinió, hi ha treballadors que són resistents davant la violència i els abusos interminables, i els que no ho són.

Però en les meves converses d’aquest any amb més de 100 moderadors en empreses de totes les mides, sembla clar que la seguretat dels moderadors de contingut no és un problema binari. Alguns treballadors desenvolupen primers símptomes de TEPT durant les primeres setmanes de feina. Altres els desenvolupen després de fer la feina durant anys.

Mai no saps quan veuràs el que no pots veure fins que no ho vegis.

En última instància, no puc dir-ho amb més claredat que els propis investigadors de Google: hi ha ... una consciència i un reconeixement creixents que més enllà del simple desagradable, la visualització a llarg termini o extensa d’aquest contingut tan inquietant pot incórrer en conseqüències significatives per a la salut dels que participen en aquestes tasques.

COM VAM INFORMAR EL CONTE

Al juny,The Vergeva sol·licitar històries de persones que treballen o han treballat com a moderadors de contingut per a Google i YouTube. Durant els cinc mesos següents, Casey Newton va escoltar de 18 persones que havien fet la feina, inclòs un gran clúster que treballava en un lloc de moderació de YouTube a Austin, Texas. Aquesta tardor, va viatjar dues vegades a Austin per reunir-se amb actuals i antics empleats del lloc. També va viatjar dues vegades a Washington, DC per reunir-se amb Daisy Soderberg-Rivkin i capturar la seva història. Google va rebutjar la nostra sol·licitud de visitar el lloc d'Austin, però va proporcionar dos executius per a entrevistes registrades. Accenture va respondre a preguntes escrites.

Per a informes més recents sobre la vida dels moderadors de contingut, us recomanemaixòWashington Postla investigació es va centrar a Filipines a partir del juliol, El llibre de Sarah Roberts Darrere de la pantalla , iLa història de David Gilbert sobre un grup d’exmoderadors de Facebook que demanden l’empresaVici .

I, tanmateix, a Google, igual que a Facebook, els treballadors es desanimen ni tan sols discutir aquestes conseqüències. Els gestors que els adverteixen que es poden substituir fàcilment, juntament amb els acords de no divulgació que es veuen obligats a signar en assumir el lloc de treball, continuen ocultant la seva feina.

I, com que una part d’ells s’enfonsa en l’ansietat i la depressió, rebran una atenció molt diferent en funció de si treballen com a empleats de ple dret o com a contractistes. Uns pocs familiars, com Daisy, podran prendre mesos de baixa mèdica remunerada. Altres, com una persona amb qui vaig parlar a Austin, continuaran treballant fins que no siguin hospitalitzats.

Tot i això, el fet continua sent: per molt que se’ls pagui o pels beneficis que tinguin, ser moderador de contingut pot canviar-se per sempre.

Recentment, un empleat d’una de les grans empreses tecnològiques em va explicar el concepte dedanys tòxics- lleis que permeten demandar a empresaris i constructors d’habitatges si exposen el demandant a nivells poc saludables d’un producte químic perillós. Aquestes lleis són possibles perquè tenim una comprensió científica de com determinats productes químics afecten el cos. Sabem que l’exposició a pintura a base de plom, per exemple, pot causar danys cerebrals, sobretot en nens. Sabem que l’exposició a l’amiant pot causar càncer de pulmó. Per tant, establim un nivell d’exposició segur i intentem mantenir els empresaris i els constructors d’habitatges a aquests nivells.

Potser mai no podrem determinar un nivell segur d’exposició a contingut inquietant amb el mateix grau de precisió. Però sembla notable que cap dels gegants de la tecnologia, que donen feina a desenes de milers de persones per fer aquesta feina, ni tan sols ho intenta.

Si això canvia, serà per alguna combinació d’acció col·lectiva dels treballadors,demandes col·lectives, i la pressió pública. Els empleats de Google ho sónliderant la indústria en la defensa dels drets dels seus col·legues contractistes, i espero que la feina continuï.

A dos anys de la seva estada a Google, Daisy encara s’enfronta als efectes posteriors del treball que hi va fer. Encara té atacs de pànic ocasionals i pren antidepressius per estabilitzar el seu estat d’ànim.

Al mateix temps, em va dir que agraïa el fet que pogués rebre una baixa mèdica remunerada per començar a abordar els efectes de la feina. Es considera a si mateixa com una de les afortunades.

Necessitem tanta gent com puguem per fer aquest treball, diu Daisy. Però també hem de canviar el sistema general i l'estructura general de com s'està fent aquest treball. Com donem suport a aquesta gent. Com els donem eines i recursos per fer front a aquestes coses. O bé, aquests problemes només empitjoraran.