In applicazione della prima legge sulla robotica: Analisi dei rischi professionali associati ad un algoritmo/intelligenza artificiale che dirige il lavoro
10.6092/issn.2421-2695/10237
È sempre più frequente l’impiego da parte delle imprese di meccanismi di intelligenza artificiale, più o meni avanzati per gestire il lavoro (organizzare i turni di lavoro, i tempi di produzione, disegnare le mansioni, assumere, valutare il lavoratore ed il suo licenziamento).La tecnologia raccoglie le informazioni, le elabora e trova le migliori decisioni per l’ottimizzazione dell’impresa. E così, si sostituisce a figure come gli esperti delle relazioni umane assumendo la direzione del personale attraverso processi automatizzati o forme di più avanzate come l’intelligenza artificiale.In questo lavoro si espongono i pericoli per la salute del lavoratore. Il controllo costante attraverso i sensori, l’intensificazione del lavoro derivante da decisioni prese da una macchina priva di empatia e di riconoscimento dei limiti umani, la riduzione di autonomia del lavoratore sottomesso a decisioni prese dall’intelligenza artificiale, le discriminazioni scaturenti da un apparente neutralità algoritmica così come gli errori di funzionamento possono provocare seri problemi alla salute psico-fisica del lavoratore.Si tratta di rischi che possono ridursi attraverso una attenta politica di prevenzione. Partendo dall’assimilazione con i soggetti preposti alla supervisione dei lavoratori ed al relativo obbligo di formazione specifica, l’algoritmo deve essere programmato per evitare l’insorgenza di rischi professionali. In particolare, deve essere trasparente, adattato alle capacità reali dei lavoratori e rispettare la privacy del lavoratore.
application/pdf
2421-2695
10237
2
es
Adrìan Todolì Signes
Labour & Law Issues
In applicazione della prima legge sulla robotica: Analisi dei rischi professionali associati ad un algoritmo/intelligenza artificiale che dirige il lavoro
Text.Serial.Journal
https://labourlaw.unibo.it/
5
Comparative & International Overview
2019-12-20
2019-12-20
2019-12-20
2020-07-02
C. 1-38
LLI
Adrìan Todolì Signes
2019/12/20
10.6092/issn.2421-2695/10237
C. 1
Universidad de Vlència
2421-2695
2
es
38
Young, S., Braddy, p.w., Y Fleenor, J.w., The impact of New technology on the Leadership Development Industry, Training Industry Magazine, 2017, en https://trainingindustry.com/magazine/nov-dec-2016/the-impact-of-newtechnology-on-the-leadership-development-industry/.
En cumplimiento de la primera Ley de la robótica: Análisis de los riesgos laborales asociados a un algoritmo/inteligencia artificial dirigiendo el trabajo
https://labourlaw.unibo.it/article/download/10237/10122
5
En cumplimiento de la primera Ley de la robótica:
        Análisis de los riesgos laborales
 asociados a un algoritmo/inteligencia artificial
              dirigiendo el trabajo




              ADRIÁN TODOLÍ SIGNES
               Universidad de Valencia




                 vol. 5, no. 2, 2019
                   ISSN: 2421-2695
  En cumplimiento de la primera Ley de la robótica:
    Análisis de los riesgos laborales asociados a un
 algoritmo/inteligencia artificial dirigiendo el trabajo



                                                    ADRIÁN TODOLÍ SIGNES
                                  Profesor Ay. Doctor de Derecho del Trabajo
                                                      y de la Seguridad Social
                                                     Universidad de Valencia
                                                       www.adriantodoli.com


                                 ABSTRACT

        The use of Artificial Intelligence mechanisms, more or less advanced,
to manage the work is more and more frequent: to establish work shifts,
production times, designate and design tasks for workers, hire, evaluate the
performance and fire. Companies trust that technology collects all available
information, processes it and makes the best management decisions -
productive optimization - for the benefit of it. With this, the supervisors and
middle managers are replaced, as well as the human resources experts, leaving
the direction of the workers in the hands of automated processes managed by
algorithms - or in their most advanced state, in Artificial Intelligence.
        In this work, the health hazards that new form of technological
management can cause are exposed. Indeed, the constant monitoring through
sensors, the intensification of work derived from the decisions taken by a
machine without empathy or knowledge about human limits, the reduction of
autonomy of the worker subjected to the decisions made by Artificial
Intelligence, discriminations, under a blanket of algorithmic neutrality of these
decisions, as well as possible operational errors, they can end up causing
serious physical and psychological health problems for workers.
        A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



        These risks can be reduced if they are taken into account in
programming. In this work, the need for a correct programming of the
algorithm to assess the exposed occupational risks is defended. That is to say,
in the same way that a supervisor must have training in risk prevention to be
able to carry out his work, the algorithm must be programmed to weigh the
occupational hazards at work - and in case of not having this programming, its
use to direct workers should be banned. Specifically, the algorithm must be
transparent, adapted to the real capabilities of the worker, must leave some
margin of autonomy for the worker and respect their privacy. In short, the
algorithm must assess any element that poses a risk to the safety and health of
workers. To do this, it is argued that the mandatory risk assessment, carried
out by the technicians, should be done focused on programming the algorithm
so that it respects it in decision making in the work direction.


Keywords: Occupational risk prevention; Artificial Intelligence to manage
workers; automated decision making; people analytics; Big Data; algorithms to
manage the work.




     LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                          C. 3
         A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo




        En cumplimiento de la primera Ley de la robótica:
       Análisis de los riesgos laborales asociados a un
    algoritmo/inteligencia artificial dirigiendo el trabajo

ÌNDICE: 1. La utilización de algoritmos para ejercer el poder de dirección en la empresa. –
      1.1 Maneras de automatizar la dirección del trabajo. – 1.2 Previsiones sobre el uso
      de algoritmos para dirigir a los trabajadores en la empresa. – 2. La toma de
      decisiones automatizadas y los factores de riesgos laboral. – 2.1 Monitorización
      constante. – 2.2 La intensificación del trabajo. – 2.3. Falta de autonomía. – 2.4
      Sesgos y discriminaciones causadas por el algoritmo. – 2.5 Complejidad y falta de
      trasparencia. – 2.6 Mal funcionamiento y sabotajes. – 3. Perjuicios para la salud de
      los trabajadores. – 4. Fórmulas para reducir el perjuicio para la salud de los
      trabajadores derivado de la gestión algorítmica del trabajo. – 4.1 Evaluación de los
      riesgos concretos. – 4.2. “Decisiones inteligentes” o cómo crear algoritmos que no
      dañen. – 4.3 La existencia de un ser humano al mando –“Human in command”. – 5.
      La mejora de la gestión de la prevención de riesgos mediante algoritmos. – 6.
      Conclusión.



1. La utilización de algoritmos para ejercer el poder de dirección en la
   empresa paragrago

    1.1 Maneras de automatizar la dirección del trabajo.

       El uso de métodos digitalizados de gestión de los recursos humanos
está incrementándose rápidamente. Actualmente se utilizan multitud de
sensores (wearables) para comprobar la productividad, el estado de ánimo y
emocional e incluso predecir la personalidad de los asalariados como forma de
complementar la gestión de la mano de obra. La información recogida permite
la creación de perfiles de los trabajadores y la utilización del people analytics (la
ciencia consistente en aplicar el Big data a la gestión de recursos humanos)
para optimizar los procesos en las empresas.
       No obstante, la cantidad de información acumulada gracias a los
nuevos dispositivos y sensores hace poco viable que posteriormente esos datos
sean procesados por un responsable de recursos humanos con objeto de
tomar decisiones de gestión de la empresa. Por ello, las empresas confían ese
procesamiento y posterior uso de la información para tomar decisiones
respecto de los trabajadores a los algoritmos –o inteligencia artificial-. Así



      LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                          C. 4
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



pues, estos algoritmos se usan para distribuir las tareas entre los trabajadores,
para evaluar el trabajo o incluso para contratar o despedir (1).
        La tecnología utilizada para gestionar el trabajo en estas empresas
descansa en un potente procesamiento de los datos recogidos sobre el
trabajador –métricas de desempeño- y otros elementos –preferencias de los
consumidores, tráfico, elementos meteorológicos, demanda de los clientes-
que permiten la optimización en la toma de decisiones en favor de la empresa.
Este procesamiento de datos y posterior toma de decisiones basadas en ellos
se hace a través de los algoritmos diseñados por y para la empresa
        En este sentido, la gestión automatizada del trabajo es el último paso en
la obtención de la máxima eficiencia en la dirección y control de los
trabajadores y consiste, precisamente, en la desaparición de toda intervención
humana. De esta forma, la inteligencia artificial se convierte en sustituto del
responsable de recursos humanos, y de los mandos intermedios, incluso en la
adopción de decisiones. Existen varios niveles, uno simplificado y otro más
complejo (o machine learinig).
        El simplificado consiste básicamente en automatizar el proceso del que
se trate (ascensos, percepción de bonus o despidos) mediante el
establecimiento de una orden en un proceso informático (si pasa X reacciona
con Y). De esta forma, se podría automatizar que, por ejemplo, si la actividad
del trabajador (medida en pulsaciones a través de un “reloj inteligente”)
disminuye más de tres horas, automáticamente se envíe un email con una carta
de despido. O, por ejemplo, si la media en la reputación digital del trabajador
(evaluaciones recibidas por parte de los clientes) disminuye por debajo de 4,6
sobre 5, el trabajador es desconectado “automáticamente” de la plataforma (o
se le impide entrar en el centro de trabajo desactivando automáticamente sus
credenciales).
        Es decir, la empresa establece una condición y una consecuencia para el
trabajador, cuando se da esa condición, el algoritmo automáticamente activa la
consecuencia. Además, estas consecuencias no tienen por qué ser siempre el
despido. De acuerdo con el acta de la Inspección de Trabajo de Valencia, en la
empresa Deliveroo, si un repartidor se encuentra parado (detectado mediante
GPS) recibe automáticamente un mensaje de advertencia sobre el hecho,


         (1) EU-OSHA, Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, disponible en https://osha.europa.eu/en/tools-and-
publications/publications/foresight-new-and-emerging-occupational-safety-and-health-
risks/view, 2018, 55 y Moore, The quantified self in precarity. Work, technology and what counts, New
York, Routledge, 2018.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                 C. 5
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



dictándole instrucciones de que se ponga en movimiento (Acta Inspección nº
460016685/17/sms de fecha 5/12/2017).
        Con el control de tiempos del trabajo se puede realizar igualmente. En
los centros de logística de Amazon se controla mediante un wereable los
tiempos que tarda un mozo de almacén en trasportar paquetes de un sitio a
otro y en caso de que tarde más de los estipulado por la empresa se le envía
una notificación advirtiéndole (2). Hoteles y empresas de limpieza han utilizado
estos dispositivos para medir el tiempo que tarda cada trabajador en limpiar un
retrete (3). Esto es lo que la doctrina ha venido llamando “el látigo digital” (4).
En efecto, estos mensajes implican un “recordatorio” al trabajador de que
siempre está siendo observado y presionan a este para que cada vez trabaje
más rápido y cumpla con lo deseado por la empresa.
        Un sistema de gestión digital del trabajo de tipo más complejo
implicaría dejar “libertad” a una inteligencia artificial para tomar este tipo de
decisiones y para establecer el sistema de gestión de los trabajadores que
considere más eficiente. Esa “libertad” vendría condicionada por la
programación decidida en la propia empresa. No obstante, una verdadera
inteligencia artificial podría tener muchos más factores en cuenta al mismo
tiempo a la hora de tomar la decisión de ascender, despedir, etc. a un
trabajador de la empresa y de gestionar los tiempos de trabajo. Cabe tener en
cuenta que estos sistemas “aprenden” (machine learning) por lo que podrían
adaptarse a cada uno de los trabajadores exigiéndoles lo máximo que cada uno
de ellos puede dar de sí mismo. Es decir, tradicionalmente con los sistemas de
productividad ha existido una norma igual para todos los trabajadores, sin
embargo, la inteligencia artificial sin requerir de más recursos podría
“descubrir” – mediante ensaño y error- el máximo alcanzable por cada
trabajador (5), dependiendo de sus propias características personales, y
exigírselo mediante este tipo de técnicas (látigo digital).
        Sin duda, también los usos de este tipo de técnicas pueden reducir los
riesgos laborales, así, por ejemplo, en la lucha contra la fatiga se han creado
dispositivos para detectar “cabezadas” de los conductores de camión y de los


         (2) M. Jorge, Los empleados de almacén en Amazon Reino Unido tienen tanto miedo de ir al
baño que orinan en botellas, Gizmodo, Disponible en https://es.gizmodo.com/los-empleados-
de-almacen-en-amazon-reino-unido-tienen-t-1825291024, 2018.
         (3) Moore, The quantified self in precarity. Work, technology and what counts, cit., 142.
         (4) Moore, Humans and machines at work: monitoring, surveillance and automation in
contemporary capitalism, London. Palgrave Macmillan, 2018, 23.
         (5) Moore, The quantified self in precarity. Work, technology and what counts, cit., 3.



      LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                               C. 6
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



operadores de maquinaria pesada (6). También existen wereables que son
capaces de medir el estrés y otras biométricas de los trabajadores pudiendo
usarse para reducir los riesgos asociados (7).
        Uno de los mayores usos actualmente de este tipo de algoritmos para la
gestión de recursos humanos es en la selección y contratación de trabajadores.
La cantidad de información que existe en internet sobre un candidato es difícil
de analizar por una persona, sin embargo, los algoritmos pueden rastrear dicha
información y construir un perfil digital para posteriormente compararlo con
el del resto de candidatos y las necesidades de la empresa. Ello puede dar pie a
la reducción –por rechazo de la candidatura- de candidatos a una pequeña lista
para finalmente ser seleccionado por el responsable de recursos humanos o
directamente por el algoritmo (8).
        Adicionalmente, los algoritmos se utilizan para coordinar el trabajo y
establecer los horarios de los trabajadores, asignar tareas entre los distintos
trabajadores disponibles, controlar y supervisar la calidad del trabajo realizado,
ordenar mejoras en el trabajo, entre otras (9).
        En fin, actualmente, los algoritmos parecen estar sustituyendo a los
mandos intermedios y supervisores, a través de una gestión digital del trabajo,
lo que implica que el trabajador no obtiene un feedback de su trabajo por parte
de otro ser humano sino una respuesta automatizada conforme unos
parámetros predefinidos. Algo que puede ser muy frustrante para el trabajador.
Sumado a ello, decisiones clave para la carrera del trabajador como son su
contratación, sus ascensos, su derecho a un bonus pactado o su despido,
pueden depender de la decisión tomada por un algoritmo haciendo muy difícil
para el trabajador su impugnación o apelación y más en un contexto de
precariedad y desprotección frente al despido (10). No existe empatía posible
con una Inteligencia artificial ni tampoco el algoritmo tomará en consideración


          (6) Financial Times, Wearable devices aim to reduce workplace accidents, Financial Times,
disponible en https://www.ft.com/content/d0bfea5c-f820-11e5-96db-fc683b5e52db, 2016
          (7) Financial Times, IoT-linked wearables will help workers stay safe, Financial Times,
disponible en https://www.ft.com/content/944e6efe-96cb-11e7-8c5c-c8d8fa6961bb, 2017
          (8) Sobre los problemas jurídicos que ello plantea ver, A. Todolí Signes, La gobernanza
colectiva de la protección de datos en las relaciones laborales: big data, creación de perfiles, decisiones
empresariales automatizadas y los derechos colectivos, RDS, 2018.
          (9) Pega - Marketforce, The Future of Work: A Report from Marketforce and Pegasystems.
Disponible en https://www.pega.com/system/files/resources/2018-12/Future-of-Work-
Report.pdf, 2017, 11.
          (10) J.J. Fernández Domínguez, La incidencia de los factores “extralaborales” en la salud
mental de los trabajadores, en J.J. Fernández Domínguez y S. Rodríguez Escanciano, (dir.),
Tiempos de cambio y salud mental de los trabajadores, Bomarzo, 2017, 196.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                       C. 7
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



factores personales –fallecimiento de un familiar, proceso de divorcio, etc…-
cuestiones que sí podría tener en cuenta un responsable humano.
        Todo ello debe combinarse con el rechazo que existe –al menos
actualmente- por parte de los trabajadores de la idea de ser dirigidos por una
inteligencia artificial. En efecto, en una encuesta realizada por Pega and
Marketforce (11) se establece que mientras el 88% de los trabajadores
encuestados se encontraban a gusto trabajando con robots, el 80% no se
sentían cómodos con una inteligencia artificial como supervisor o manager.


1.2 Previsiones sobre el uso de algoritmos para dirigir a los trabajadores
en la empresa
         Además del uso actual de los algoritmos para la gestión del trabajo, los
expertos esperan que dicho uso se incremente próximamente confiando, las
empresas, gran parte de la gestión de los recursos humanos en la inteligencia
artificial (12). Así Pega and Marketforce (13) establece que el 71% de los
expertos en recursos humanos cree que el uso de la inteligencia artificial se
convertirá en una práctica común en la evaluación de currículos para la
contratación en los próximos 5 años. Por su parte, el 74% considera que en 10
años se convertirá en una práctica común el uso de algoritmos e inteligencia
artificial para evaluar el desempeño de los trabajadores, así como asignar una
recompensa apropiada por dicho desempeño. Se sostiene que, gracias a los
algoritmos, las evaluaciones del desempeño de los trabajadores no se realizarán
una vez al año, sino que se realizarán de forma continua.
         De hecho, los expertos predicen que en los próximos 5 o 10 años los
algoritmos permitirán a las empresas conocer el verdadero valor añadido de
cada trabajador distinguiendo unos de otros (14) lo que implicará una mayor
competencia entre los trabajadores y la posibilidad de la diferenciación en el
salario dependiendo de lo que el algoritmo asigne.



         (11) Pega and Marketforce, The Future of Work: A Report from Marketforce and
Pegasystems, cit.,11.
         (12) EU-OSHA, Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, en osha.europa.eu/en/tools-and-publications/publications/
foresight-new-and-emerging-occupational-safety-and-health-risks/view, 2018, 55.
         (13) Pega and Marketforce, The Future of Work: A Report from Marketforce and
Pegasystems, cit., 13.
         (14) Pega and Marketforce, The Future of Work: A Report from Marketforce and
Pegasystems, cit., 14.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                C. 8
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



       En fin, todo parece conducir a un aumento de la gestión y dirección
algorítmica de los trabajadores (15).


2. La toma de decisiones automatizadas y los factores de riesgos laboral
2.1 Monitorización constante
        La posibilidad de procesar automáticamente los datos de forma muy
eficiente incentiva a las empresas para la recopilación de todos los datos
posibles sobre el trabajador y el trabajo realizado. A esto se añade el hecho de
que las nuevas tecnologías (wereables e internet of things) están permitiendo
ponerle un sensor que mida y contabilice “todo” (16). Así existen sensores
basados en:
        •      Audio: capaces de conocer el estado de ánimo de los
trabajadores (animado, deprimido, ansioso, contento, aburrido…) e incluso
trascribir las conversaciones o simplemente monitorizar el número y la
frecuencia de las llamadas realizadas. También por el tono de voz se puede
conocer los niveles de energía de cada trabajador y la influencia interpersonal
en el trabajo en equipo (liderazgo, sumisión etc…) (17)
        •      Señales biológicas: pasos, actividad cardiaca (descansando o
activo), funcionamiento del cerebro distinguiendo por partes (creativo, atento,
etc...)
        •      Cámaras: incluyendo reconocimiento facial y de expresiones
faciales
        •      GPS: movimiento, actividad, etc…
        •      Basados en Interacción: movimiento del ratón, teclado, páginas
web visitadas consiguiendo con ello incluso medir los niveles de felicidad o
hacer predicciones sobre el tipo de personalidad de cada trabajador (18)



         (15) Moore, Humans and machines at work: monitoring, surveillance and automation in
contemporary capitalism, cit., 22
         (16) EU-OSHA, Monitoring technology: the 21st century's pursuit of well-being?, en
https://osha.europa.eu/en/tools-and-publications/publications/monitoring-technology-
workplace/view, 2017, 1.
         (17) Al respecto ver, Lindsay, G., We spent two weeks wearing employee Trackers: Here´s
what we learned, Fact Coexist, 2015, https://www.fastcompany.com/3051324/we-spent-two-
weeks-wearing-employee-trackers-heres-what-we-learned, Accesed 16/09/20192015
         (18) S. Young, P.W. Braddy, J.W. Fleenor, The impact of New technology on the Leadership
Development Industry, Training Industry Magazine https://trainingindustry.com/magazine/nov-
dec-2016/the-impact-of-new-technology-on-the-leadership-development-industry.



      LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                              C. 9
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



       No es de extrañar que, en una encuesta realizada por Price Waterhouse
Cooper, el 82% de los trabajadores estuvieran preocupados por la cantidad de
datos personales que las empresas recogían sobre ellos (19). Sin duda, la
sensación de estar siendo observado en todo momento (big brother as stressor) es
un factor de riesgo en sí mismo (20). En efecto, el control tecnológico invasivo
y la falta de privacidad pueden repercutir en diversos riesgos psicosociales
(tecnostress, tecnoansiedad, tecnofatiga o burnout).
       Por otro lado, la observación constante y permanente del trabajador
puede provocar que el trabajador tenga que comportarse de formas que no
son naturales para un ser humano (estar siempre sonriente o siempre activo),
tenga que alcanzar objetivos con gran esfuerzo físico o psicológico, no pueda
interactuar socialmente con compañeros o tener descansos. Así pues, la
monitorización constante puede provocar estrés y ansiedad particularmente si
viene combinado con falta de control en la gestión de su propio tiempo (21) o
en conjunto con recordatorios constantes de dicha observación para forzar la
modificación del comportamiento del trabajador. Concretamente, esa
monitorización puede ser especialmente dañina si viene combinada con la
amenaza de despido –o, en general, con inseguridad en el puesto de trabajo-.
En efecto, como se ha visto, en las plataformas digitales, la monitorización
viene unida al uso de dicha información para tomar decisiones sobre la
“desactivación” del trabajador de la plataforma.
       Concretamente, en un estudio realizado en Australia sobre los
repartidores de plataformas se identificó que los trabajadores sentían la presión
de seguir trabajando en extremas condiciones climáticas derivado de la
vigilancia a la que se encuentran sometidos (22).




          (19) A. Spicer et al, What Companies Should Ask Before Embracing Wearables, Harvard
Business Review, https://hbr.org/2015/05/what-companies-should-ask-before-embracing-
wearables, 2015.
          (20) J.A. Fernández Avilés, NTIC y riesgos psicosociales en el trabajo: estado de situación y
propuestas de mejora, DSL, 2, 2017, 83 y S. Rodríguez Escanciano, Los riesgos psicosociales ante una
vigilancia empresarial tecnológicamente avanzada: garantías preventivas y posibilidades de resarcimiento, en
J.J. Fernández Domínguez y S. Rodríguez Escanciano, (dir.), Tiempos de cambio y salud mental de
los trabajadores, cit., 211 ss.
          (21) HSE, Tackling work-related stress using the Management, Health and Safety Executive,
2017.
          (22) UTS, Heat Stress and On-Demand work: The experience of food delivery and courier cyclists.
Climate Justice Centre en opus.lib.uts.edu.au/bitstream/10453/134736 /1/On%20Demand
%20cyclists%20UTS%20final.pdf , 2019, 3, Consultado el 29/08/2019.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                      C. 10
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



        A su vez, esta observación constante puede incrementar la exigencia de
realizar “trabajo emocional” del trabajador. Existe abundante literatura (23) que
analiza las dificultades existentes para un trabajador que debe mostrarse
siempre sonriente y feliz con independencia de sus verdaderos sentimientos.
Con el incremento de la monitorización del trabajador, estas exigencias poco
saludables se verán indudablemente aumentadas. La observación constante
puede implicar la necesidad del trabajador de suprimir constantemente –valga
la redundancia- su propia personalidad, preferencias y sentimientos.
        La falta de contexto – y empatía – en la recogida de datos y la toma de
decisiones puede provocar discriminación o injusticias contra los trabajadores
los cuales, conocedores de esta posibilidad, pueden ver incrementada su
ansiedad (24). De la misma forma, la imposibilidad de contestación a la
decisión tomada por el algoritmo puede provocar ansiedad y frustración.
        Con los algoritmos hay un verdadero riesgo de que los trabajadores
sean tratados como meros activos fungibles al servicio de las máquinas (o
evaluados como un coste más) y no como seres humanos (25). Confiar
únicamente en los datos y las métricas dando potestad al algoritmo para
decidir el destino del trabajador puede, potencialmente, deshumanizar a los
trabajadores reduciéndolos a comportarse como una máquina más dentro del
proceso productivo (26). No obstante, desde una perspectiva más positiva, los
algoritmos pueden ayudar también a mejorar la salud de los trabajadores a
través de “recordatorios” para descansar la vista, para levantarse de la silla,
para comprobar que la posición ergonómica adoptada por el trabajador es la
correcta y avisar cuando no, etc. (27).


2.2 La intensificación del trabajo
       La intensificación del trabajo alude a un incremento en la intensidad del
esfuerzo y, por tanto, del desgaste en el trabajo, relacionado con el “tempo”

         (23) Van Jaarsveld y Poster, Emotional Labour over the pone en Grandey et al (eds)
Emotional Labour in the 21st Century: Diverse Perspectives on Emotion regulation at work, NY,
Routledge, 2013, 153-174.
         (24) EU-OSHA, Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, disponible en https://osha.europa.eu/en/tools-and-
publications/publications/foresight-new-and-emerging-occupational-safety-and-health-
risks/view, 2018, 16.
         (25) M. Bodie et al., The Law and policy of People Analytics, Sant Louis U. Legal studies
Research Paper, 2016, 6, 1037.
         (26) Moore, The quantified self in precarity. Work, technology and what counts, cit., 149.
         (27) Calvard, Big data: Lessons for employers and employees', Employee Relations, 2019.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                               C. 11
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



del trabajo, con independencia de su duración (28). En los últimos años se ha
vivido un incremento en la intensidad del trabajo (29) que se encontraría en
sintonía con un notorio aumento del estrés laboral (30). De hecho, en la última
encuesta realizada por la Agencia Europea para la Seguridad y Salud en el
Trabajo se señala que la principal fuente de estrés identificada por los
trabajadores son las horas y la carga de trabajo (31). En este sentido, algunos
autores sugieren que la intensidad del trabajo se habría convertido actualmente
en el riesgo más relevante (junto a los problemas ergonómicos) para la salud
de los trabajadores(32) .
        En efecto, los trabajadores sometidos a una gestión automatizada o
algorítmica de su trabajo pueden ver incrementada la intensificación de su
trabajo. Desde el momento en el que el algoritmo reparte las tareas y fija los
plazos de ejecución, el trabajador puede verse sometido a la necesidad de
incrementar su velocidad de trabajo conforme a los establecido por el
algoritmo. Téngase en cuenta que el algoritmo puede incluso hacer
“desaparecer” la tarea de la pantalla de trabajo para pasar a la siguiente en el
momento determinado sin que haya posibilidades para el trabajador para
poder volver más tarde para terminar la tarea u organizarse su propio tiempo
de trabajo. Esta presión puede implicar estrés y ansiedad, incluso desánimo y
depresión, si no se pueden alcanzar los plazos marcados por la máquina y en
su estadio más extremo el síndrome burnout. También es posible que se deriven
otro tipo de riesgos debido a que el trabajador puede asumir riesgos físicos
innecesarios con objeto de cumplir los plazos marcados –saltarse semáforos,
etc…-.
        En otro orden de cosas, cabe apreciar la posibilidad de adaptación de lo
exigido a cada trabajador. En efecto, en el trabajo dirigido por una máquina no
existe un único objetivo igual para todos, sino que el algoritmo puede

          (28) Pérez Zapata O. et al, Digitalización, intensificación del trabajo y salud de los trabajadores
españoles, versión electrónica en www.ccoo.es/24c0e370fa4b4d1f3682b1780854af9c000001, 5.
          (29) Pinilla-García y López Peláez, La intensificación del trabajo en España (2007-2011):
Trabajo en equipo y flexibilidad, Reis: Revista Española De investigaciones Sociológicas , 2017, 160, 79-
94.
          (30) Felstead & Green, Working longer and harder? A critical assessment of work effort in
Britain in comparison to Europe, Making work more equal: a new labour market segmentation approach,
2017, 188-207.
          (31) EU-OSHA, Second European Survey of Enterprises on New and Emerging Risks
(ESENER-2). Overview Report: Managing Safety and Health at Work. en
osha.europa.eu/en/tools-and-publications/publications/second-european-survey-
enterprises-new-and-emerging-risks-esener, 2013.
          (32) Pérez-Zapata, O., Trabajo sin límites, salud insostenible: La intensificación del trabajo del
conocimiento, e-prints, Universidad Complutense de Madrid, 2015.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                       C. 12
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



establecer requisitos individuales para cada trabajador e incluso ir
modificándolos conforme el trabajador cumple con los plazos –incluso sin que
el trabajador se percate del cambio en las exigencias o en el nivel de exigencia-.
Piense, por ejemplo, en el cálculo de tiempo necesario para trasladar un pedido
en bicicleta de un lado a otro de la ciudad. El algoritmo podría ir estableciendo
márgenes de tiempo más ajustados sin que el propio trabajador fuera
consciente de que el algoritmo le está exigiendo cada vez mayor velocidad de
movimiento. Esta adaptación individualizada, que en principio debería ser
positiva para la salud de los trabajadores –exigiendo a cada cual lo que es capaz
de dar- puede dar pie a un agotamiento físico y psicológico total derivado de la
posibilidad de exigir el máximo que son capaces de dar a cada uno.
        Una vez más, la despersonalización y la falta de empatía inherente a las
maquinas puede implicar una mayor exigencia a los trabajadores, así como
frustración y desánimo de estos al no ver posibilidades de explicarse o
justificarse, ni tampoco con posibilidades de negociar o acordar objetivos
razonables.
        En fin, el uso de los algoritmos como supervisores puede provocar un
desajuste entre las capacidades físicas o cognitivas de los trabajadores y la
exigencia establecida por el algoritmo (33). Sumado a los problemas
psicológicos, cabe destacar que la intensificación puede provocar el
agravamiento de otros riesgos comunes como puede ser los accidentes de
tráfico para llegar en el tiempo marcado (34), entre otros.


2.3 Falta de autonomía
       El control y supervisión por parte de un organismo omnipresente y casi
omnipotente implicará que existen pocas posibilidades para el trabajador de
tomar decisiones de forma autónoma. El algoritmo, por propia definición de
sus funciones, decidirá cuál, según sus datos y configuraciones, es la mejor
forma –la más productiva para la empresa- de realizar una tarea y de organizar
un trabajo y esta “mejor forma” será la exigida al trabajador. En efecto,
precisamente lo que se espera de los algoritmos es que sean capaces de
optimizar la gestión del trabajo maximizando con ello la productividad del

          (33) EU-OSHA, Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, en https://osha.europa.eu/en/tools-and-publications/
publications/foresight-new-and-emerging-occupational-safety-and-health-risks/view, 2018,
56.
          (34) López Rodríguez, La prevención de riesgos laborales en el trabajo a demanda vía
aplicaciones digitales, Lan Harremanak, 2019, 41, 8.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                C. 13
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



trabajo. Así pues, una vez optimizada la mejor forma de trabajar, esta será
impuesta al trabajador. Ello vendrá a implicar una reducción de las
posibilidades del asalariado de organizar su propio trabajo con autonomía y
decidir cómo realizar su propia tarea. En fin, la implantación de la gestión
algorítmica provocará grandes oportunidades para la microgestión del trabajo
con su correspondiente reducción en la satisfacción del trabajo, mayor estrés,
reducción de la confianza mutua de las partes y un empeoramiento del
ambiente laboral35.
        También se debe resaltar que no siempre la imposición de la forma de
trabajar decidida por el algoritmo vendrá a través de mecanismos coercitivos.
La casi omnipotencia de la inteligencia artificial puede ser capaz de establecer
un discurso convincente para que el trabajador “voluntariamente” cumpla con
lo determinado por el algoritmo –sobre todo si el algoritmo se presenta como
un sistema neutro y objetivo-. En efecto, la creciente sofisticación de los
mecanismos “blandos” de control actúan sobre la identidad del trabajador y
contribuyen a su motivación a través de refuerzos materiales y simbólicos,
conscientes e inconscientes, internos y externos.
        En su vertiente más simple, Uber establece diferentes retribuciones
para el conductor dependiendo de zonas de trabajo y de horarios. Así pues, si
el trabajador realiza trabajo en las zonas y horarios determinados
algorítmicamente este percibirá mayor retribución que si no cumple. O, por
ejemplo, en el trabajo digital cuando el trabajador desea terminar su jornada
suele aparecer un mensaje invitando al trabajador a extender su jornada y
seguir trabajando. La intensidad del contenido del mensaje puede variar
dependiendo de las necesidades de la empresa de personal en ese concreto
momento: desde un “todavía hay emocionantes tareas asignadas para ti, ¿estás
seguro que deseas abandonar?”, a otros más agresivos como “abandonar el
trabajo en horas de máxima demanda perjudica a la empresa y será tenido en
cuenta en tu perfil ¿estás seguro que quieres abandonarnos?” (36).
        Sin embargo, como se ha sostenido por la doctrina, las motivaciones
externas – o mecanismos “blandos” de control- para continuar trabajando
pueden confundir la mente, pero no parece capaz de logarlo con el cuerpo (37)

         (35) Schumacher, S., What employees should know about electronic performance monitoring,
ESSAI 8, 2011, 28, 138-144.
         (36) Traducción propia, ejemplos similares en Rosemblat, Uberland, How Algorithms
Are Rewriting the Rules of Work, University of California Press, 2019.
         (37) Michael, Researching bodies: Embodied fieldwork for knowledge work, which turnos out to be
embodied, The SAGE Handbook of qualitative business and Management Research Methods: History and
Traditions, 2017.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                  C. 14
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



que acabaría expresando su malestar con problemas de salud. En cualquier
caso, no cabe duda que estos mecanismos “blandos”, a pesar de ser igualmente
formas de control del trabajo, pueden ser menos agresivas para el estado físico
y psicológico del trabajador.
        En fin, la gestión algorítmica del trabajo puede provocar una fuerte
alienación del trabajo. De la misma forma que con la medición de los tiempos
y los movimientos del taylorismo, los trabajadores pueden convertirse en
piezas de una cadena de producción cuyo objetivo sea que reproduzcan los
movimientos determinados por el algoritmo. Sin embargo, la mayor capacidad
del algoritmo frente a los supervisores tradicionales puede incrementar los
riesgos clásicos de alienación y excesiva especialización. Con ello nos
enfrentamos a la posibilidad real de que el algoritmo acabe capturando el
cuerpo, el alma y la mente de los trabajadores con objeto de incrementar la
productividad (38).
        En general, la pérdida de autonomía en el trabajo, la falta de
participación y de la autogestión puede dañar la salud de los trabajadores
provocando falta de motivación, desánimo, baja autoestima y depresión (39).


2.4 Sesgos y discriminaciones causadas por el algoritmo
        La gestión de la mano de obra realizada por algoritmos tiene por
objetivo buscar patrones recurrentes y correlaciones con objeto de poder
realizar predicciones respecto a cuál es la mejor manera de gestionar dichos
recursos humanos. En efecto, el objetivo es la construcción de perfiles de
trabajadores para poder clasificarlos por parámetros introducidos en el propio
algoritmo –para luego decidir la contratación, el despido, los turnos, el tipo de
tareas, el puesto de trabajo, etc…-. En este sentido, uno de los principales
problemas consiste en la posibilidad de que esos algoritmos tomen esas
decisiones basadas en categorías discriminatorias o que directamente tomen
decisiones discriminatorias (40). Un riesgo que de acuerdo con los expertos es
sumamente elevado por las siguientes razones (41).
        1)     Los algoritmos parecen capaces de inferir ciertas características
personales basadas en otros datos. Es decir, aunque se prohíba recabar datos

        (38) Moore, The quantified self in precarity. Work, technology and what counts, cit., 65
        (39) Karasek y Theorell, Healthy work, Basic Books New York, 1990.
        (40) Bodie M., et al., The Law and policy of People Analytics, cit., y Ajunwa, Limitless
Worker Surveillance, 105 Calif. L. Rev. 735, 2017, 106.
        (41)    Hardt     M.,       How         big    data      is     unfair,    Medium,       2014,
https://medium.com/@mrtz/how-big-data-is-unfair-9aa544d739de.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                 C. 15
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



en materia de afiliación sindical, religión, sexo, orientación sexual o
discapacidad, estos son capaces de obtener esta información a través de otros
datos (42). Por ejemplo, la religión o la raza puede estar estadísticamente muy
relacionadas con el código postal o el barrio dónde la persona vive en algunas
ciudades. Así pues, tomar decisiones de despido o promoción basadas en la
ubicación de la vivienda resultará en el fondo una decisión basada en la raza(43)
o, incluso, conforme al tiempo dedicado a leer unas noticias en Facebook o
Google -y no otras- se puede predecir la afiliación política o sindical. De
hecho, en muchos casos, se desconocen las capacidades de un algoritmo a la
hora de hacer inferencias estadísticas, lo que supone la “imposibilidad” de
conocer si el propio algoritmo está tomando decisiones fundamentadas en
información discriminatoria o no (44).
        2)     La propia construcción del algoritmo requiere de datos que
están sesgados por parámetros discriminatorios. En efecto, el algoritmo toma
la realidad como factor de aprendizaje a la hora de procesar datos, lo que
implica que los resultados obtenidos de esos datos vendrán a perpetuar sesgos
existentes en nuestra sociedad. Por ejemplo, dado que actualmente 9 de cada
10 consejeros en empresas del IBEX 35 son hombres (el periódico, 2016), un
algoritmo entenderá que es “más probable” que un hombre encaje mejor
como consejero en una de estas empresas –porque así lo “confirma”
estadísticamente los datos que posee-.
        3)     Cuando un algoritmo está al mando, en general, las minorías
siempre estarán en desventaja. La propia ciencia de la estadística otorga más
valor a las decisiones tomadas con mayor información disponible. Eso
conlleva que en las minorías –raza, religión, orientación sexual, etc.- habrá
menos datos disponibles lo que implicará que el algoritmo entienda que tomar
una decisión favorable a un colectivo minoritario sea más arriesgado que
tomarla a favor de un colectivo mayoritario. Es decir, para seleccionar un
candidato de un colectivo minoritario el algoritmo exigirá más cualidades,
aptitudes, conocimientos… (por defecto) que para hacerlo con el de un
colectivo mayoritario, simplemente por el hecho que es más fácil predecir –
estadísticamente- el comportamiento de alguien perteneciente a este y no a
aquel.


           (42) K. Crawford y J. Schultz, Big data and due process: Towards a framework to redress
predictive privacy harms, Boston College Law Review, 2014, 55, 1.
           (43) Mittelstandt et al., The Ethics of Algorithms: Mapping the Debate”, Big data & Society,
2017, 3 (2), section 7.
           (44) M. Hardt, How big data is unfair, cit.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                  C. 16
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



        En definitiva, el procesamiento automatizado de datos incrementa
exponencialmente las posibilidades de vulneración de los derechos de los
trabajadores y sufrir discriminación (45). Con independencia de que finalmente
sea el responsable de recursos humanos el que tome una determinada decisión,
el hecho de que lo haga basado en un procesamiento automatizado de datos
(ej. creación de perfiles de los trabajadores o establecimiento de evaluaciones
por parte del algoritmo) provocará un incremento en las probabilidades de que
la decisión tomada sea discriminatoria.
        Este trato recibido injustamente puede provocar ansiedad y frustración
e incluso desánimo y depresión y más si se presenta el algoritmo como un
elemento neutro que sigue patrones de “pura meritocracia”. En efecto, en la
encuesta de Pega and Marketforce (46) el 66% de los expertos en recursos
humanos consultados cree que el uso de algoritmos dará pie a una mayor
meritocracia en el trabajo. Así pues, si ese discurso de objetividad y neutralidad
de los algoritmos sigue expandiéndose la sensación de injusticia y de
frustración de los colectivos históricamente discriminados puede aumentar.


2.5 Complejidad y falta de trasparencia
         El desconocimiento de los parámetros utilizados para tomar la decisión
y la falta de trasparencia también puede provocar ansiedad y frustración en los
trabajadores. En efecto, la cantidad de datos recogidos y procesados por los
algoritmos hace extremadamente complejo conocer la última ratio de la decisión
tomada. E incluso en aquellos casos en los que se puede llegar a conocer la
razón de la decisión, el algoritmo, solamente la expondrá si está programado
para ello –algo que actualmente no parece pasar-. Así, cuando lo trabajadores
son desactivados de las plataformas digitales no reciben, en la mayoría de los
casos, razón alguna, sino que simplemente se les impide acceder a la web o a la
aplicación que es necesaria para poder realizar sus tareas Rosemblat (47).
         Concretamente, preguntados por esto, el 78% de los trabajadores
encuestados considera que estarían más a gusto siendo dirigidos por una



         (45) Perez Luño, La tercera generación de derechos humanos, 2006, Thomson Aranzadi,
Navarra 2006, 93 y A. Garriga Domínguez, La elaboración de perfiles y su impacto en los DDFF.
Una primera aproximación a su regulación en el RGUE, Derechos y Libertades, 2018, 109
         (46) Pega and Marketforce, The Future of Work: A Report from Marketforce and
Pegasystems, cit., 14.
         (47) Rosemblat, Uberland, How Algorithms Are Rewriting the Rules of Work, cit.



      LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                           C. 17
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



inteligencia artificial si existiera completa trasparencia y posibilidades de
auditabilidad sobre cómo alcanza sus decisiones (48).
        Así pues, este desconocimiento y falta de trasparencia, en las razones
por las que los datos de los trabajadores son recogidas, en la forma en que son
procesados los datos, y los parámetros detrás de las decisiones del algoritmo,
causa estrés y ansiedad en los trabajadores (49).


2.6 Mal funcionamiento y sabotajes
        Una de las características de los algoritmos es que poseen una curva de
aprendizaje a través del ensayo error. Ello implica que necesitan mucha
información y muchas interacciones para poder mejorar su propio
funcionamiento. Por esta razón, es de esperar que, en las primeras etapas de
aplicación –dónde ahora nos encontramos-, existan muchos algoritmos que, a
pesar de su prometedora funcionalidad, no alcancen los resultados esperados
desde el inicio. En la investigación de Rosemblat (50) se documentan muchas
quejas de conductores de Uber por un mal funcionamiento del mismo.
Concretamente, Uber utiliza un sistema de respuesta automática frente a
incidencias de los trabajadores. Es decir, cuando un trabajador tiene un
problema o una situación imprevista o una queja (ej. no le han pagado lo que
le deben) este es dirigido a un sistema de respuestas automáticas. Ello significa
que el trabajo, que suele hacer un mando intermedio o un responsable de
recursos humanos, es sustituido por un algoritmo.
        Esta autora documenta cómo los conductores de Uber sienten mucha
frustración ante el deficiente funcionamiento del algoritmo que responde a sus
cuestiones. En algunos casos, las respuestas no tienen lógica, otro no da
réplica alguna a lo planteado por el trabajador y, en otros casos, da
contestaciones totalmente incomprensibles. Así pues, en la realización de su
trabajo los conductores no solo es que no pueden contar con una respuesta
humana, sino que la contestación recibida del algoritmo es claramente
deficiente e insuficiente. Sin embargo, la empresa no establece otra forma de
comunicación con la empresa, por lo que en muchos casos los trabajadores se

         (48) Pega and Marketforce, The Future of Work: A Report from Marketforce and
Pegasystems, cit., 11
         (49) EU-OSHA, Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, en https://osha.europa.eu/en/tools-and-publications/
publications/foresight-new-and-emerging-occupational-safety-and-health-risks/view, 2018,
56.
         (50) Rosemblat, Uberland, How Algorithms Are Rewriting the Rules of Work, cit.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                               C. 18
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



quedan sin solución alguna: lo que provoca episodios de frustración y
desesperación.
       Se debe también apreciar la posibilidad de que exista sabotaje externo
de la tecnología que provoque riesgos para la salud de los trabajadores. Los
hackers pueden modificar los datos y la estructura del algoritmo poniendo en
peligro a los trabajadores que son gestionados por este. Un ejemplo sería la
reciente denuncia de una ONG en EEUU respecto a vulnerabilidades en los
coches con sistemas de conducción autónoma que permitía a los hackers
tomar control remoto del vehículo (51). En un sentido similar, en 2017 la
Administración de EEUU ordenó retirar casi medio millón de marcapasos del
mercado dado que podían ser manipulados remotamente por hackers
incrementando su actividad o reduciendo la vida de la batería poniendo en
peligro la salud de los pacientes (52).
       Así pues, el riesgo de un ciberataque es otro de los que deben tenerse
en cuenta desde el momento en que la tecnología interactúa con los
trabajadores y más si lo hace de forma intensa y relevante.


3. Perjuicios para la salud de los trabajadores
        Como se ha visto en el epígrafe anterior, la gestión algorítmica del
trabajo puede tener como resultado que los trabajadores pierdan el control
sobre el contenido del trabajo, sobre las posibilidades de establecer pautas y
organizarse su propio trabajo e incluso perder autonomía en la forma en que
realizan su trabajo (53).
        A su vez, este nivel de exigencia puede abocar a los trabajadores a
realizar conductas arriesgadas para su propia salud. Los trabajadores podrían
percibir que no tienen tiempo para tomar descansos y el algoritmo considerar
improductivo los tiempos para la socialización interpersonal o ir al baño lo que
provocaría, en su caso, perjuicios para la salud de los trabajadores (54).

         (51) CBS, Hackers Could Remotely Gain Control of Cars in Mass Cyberattack, Researchers
Find, CBS en https://losangeles.cbslocal.com/2019/07/31/hackers-could-remotely-gain-
control-of-cars-in-mass-cyberattack-researchers-find/.
         (52) Hamlyn-Harris, J. H., Three reasons why pacemakers are vulnerable to hacking, The
Conversation.com, 2017.
         (53) Moore, Humans and machines at work: monitoring, surveillance and automation in
contemporary capitalism, cit.
         (54) OIT, Seguridad y salud en el centro del futuro del trabajo, Ginebra en
www.ilo.org/wcmsp5/groups/public/---dgreports/---dcomm/documents/publication/
wcms_686762.pdf, 2019, 31 y S. Rodríguez Escanciano, Los riesgos psicosociales ante una vigilancia
empresarial tecnológicamente avanzada: garantías preventivas y posibilidades de resarcimiento, en J.J.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                 C. 19
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



        Así mismo, cuando los trabajadores son informados de su desempeño
en comparación a otros esto puede provocar mayor presión, estrés, ansiedad y
baja autoestima (55) especialmente si dicha información se presenta como
objetiva y neutra a pesar de no serlo (56).
        En resumen, las consecuencias pueden ser las siguientes
        •      Puede incrementar el estrés
        •      Puede incrementar la ansiedad y la frustración
        •      Puede recudir la moral, la autoestima y llegar a inducir a la
depresión
        •      Puede reducir el contacto humano con supervisores
        •      Puede empeorar el clima laboral convirtiendo el lugar de trabajo
en “taller de explotación laboral electrónico”
        •      Puede ser discriminatorio e invadir la privacidad
        •      Puede provocar cambios en la personalidad y afectos del
trabajador
        •      Puede provocar la deshumanización del trabajador
        No es la primera vez que se detectan estas consecuencias derivadas de
los riesgos relacionados con la tecnología. En este sentido, el incremento del
estrés laboral provocado por la implantación de nuevas tecnologías está bien
estudiado (57). En efecto, el tecnoestrés constituye un estado psicológico
negativo relacionado con el uso de la tecnología de la información y la
comunicación que puede provocar, según su intensidad, fatiga crónica,
abatimiento, tensión muscular y otras dolencias físicas, falta de concentración,
cambios de humor y burnout (58). Estos síntomas son similares a los
provocados por el estrés laboral siendo la diferencia fundamental la causa que
provoca el estrés (59). Así pues, el hecho de tener un algoritmo como

Fernández Domínguez y S. Rodríguez Escanciano, (dir.), Tiempos de cambio y salud mental de los
trabajadores, cit., 219.
           (55) EU-OSHA, Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, en https://osha.europa.eu/en/tools-and-publications/
publications/foresight-new-and-emerging-occupational-safety-and-health-risks/view, 2018,
55.
           (56) Pérez Zapata et al, (2019), Digitalización, intensificación del trabajo y salud de los
trabajadores españoles, cit., 9
           (57) W.S. Hung, et al., Managing the risk of overusing mobile phones in the working
environment: a study of ubiquitous techno-stress, PACIS 2011 Preceedings Paper, 81, 2011.
           (58) Derks and Bakker, Smartphone use, work-home interference and burnout: a diary study on
the role of recovery, Applied Psychology, 2014, 63, 3.
           (59) J. Popma, The janus face of the “New ways of work”, Rise, risks and regulation of nomadic
work, Working paper ETUI, Brussels, 2013, 11.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                   C. 20
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



supervisor podrá causar esta serie de dolencias especialmente derivadas del
rechazo que existe a ser gestionado por una máquina, por la pérdida de control
de la autonomía en la gestión del tiempo y en la forma de trabajar, entre otros
que ahora se pasan a analizar.
        El estudio del concepto de tecnoestrés ha llevado a dividirlo en cinco
elementos subyacentes: tecno-ansiedad, tecno-fatiga, tecno-adicción,
sobrecarga tecnológica (techno-overload) e invasión tecnológica (techno-
invasion) (60). A continuación, se verá que al menos cuatro de estos elementos
pueden darse cuando existe un algoritmo gestionando los recursos humanos.
        En primer lugar, la tecno-ansiedad puede provenir de la falta de
trasparencia respecto la información recogida sobre el trabajador a través de
los wereables –y qué se va a hacer con ella- y derivado del desconocimiento por
parte del trabajador de los criterios utilizados por el algoritmo para tomar
decisiones. La falta de comprensión de las razones detrás de una decisión
puede hacer difícil cumplir con dichos encargos y más si se mantiene un halo
de misticismo y superioridad alrededor de la máquina como gestora de la
productividad de la empresa. La posibilidad de ser discriminado, bajo una
cobertura de neutralidad, objetividad y pura meritocracia del algoritmo,
también puede tener como resultado frustración, ansiedad para el trabajador y
rechazo a la propia tecnología.
        En fin, tal y como ha sido definido por Salanova (61), la tecno-ansiedad
se produce cuando la persona experimenta altos niveles de activación
fisiológica no placentera y siente tensión y malestar por el uso presente o
futuro de algún tipo de tecnología.
        En segundo lugar, la tecno-fatiga entendida como el cansancio mental y
cognitivo incrementado por la desconfianza hacia la utilización de las nuevas
tecnologías (62). Poca duda cabe que el incremento de la intensidad del trabajo
puede provocar fatiga, cansancio crónico, reducción de nivel de aguante,
cambios de humor, incremento del riesgo de sufrir enfermedades cardiacas,
efectos neurológicos, depresión o burnout (63). El cansancio, a la vez,




           (60) J. Popma, The janus face of the “New ways of work”, cit., 11
           (61) Salanova et al., Tecnostres: concepto, medida e intervención psicosocial, Instituto Nacional
de Seguridad e Higiene en el trabajo, Nota técnica, 2007, 730.
           (62) Rodríguez-Rico Roldan, Los retos para la prevención de riesgos laborales ante la
tecnoficación del trabajo, en Cerejeria Namora et al, Health at work, ageing and enviromental effects on
future social security and labour law Systems, Cambridge Scholars Publishing, 2018, 80.
           (63) J. Popma,, The janus face of the “New ways of work”, cit., 15.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                      C. 21
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



incrementaría el riesgo para la seguridad en el trabajo aumentando la
posibilidad de accidentes (64).
        Sin embargo, no se está simplemente ante un crecimiento de la
intensidad del trabajo, sino que dicha intensidad viene marcada por un ente
que no es humano y con el que difícilmente se puede razonar. Así pues, es
posible que en el trabajador desarrolle un especial “odio” o frustración hacia la
tecnología que dirige su trabajo y le impide auto-organizarse.
        En tercer lugar, la tecno-adicción está conceptualizada como la
necesidad incontrolable de usar constantemente y de manera obsesiva las
nuevas tecnologías. En efecto, especialmente en el caso de los algoritmos
como decisores, es posible que el trabajador, con el tiempo, se vea incapaz de
tomar sus propias decisiones de gestión y autoorganización por la falta de
práctica. De la misma forma que las nuevas generaciones no recuerdan
números de móvil puesto que todos quedan guardados en la memoria artificial
de los teléfonos, es posible que en el futuro los trabajadores pierdan la
habilidad -o no sientan la necesidad- de tomar sus propias decisiones,
autorganizarse, establecer prioridades o manejar su propio tiempo.
        Al menos dos factores de riesgo de que esto ocurra se plantean aquí.
Por un lado, la comodidad. Efectivamente, tomar decisiones no siempre es un
trabajo sencillo, así pues, es posible pensar que la comodidad de tener una
máquina que las tome por uno mismo, nos haga adictos a su uso, perdiendo
con el tiempo nuestra propia habilidad para hacerlo correctamente. Por otro
lado, si socialmente se da un valor superior a las decisiones tomadas por los
algoritmos, al establecer que son económicamente más eficientes, esto puede
dar pie a algún tipo de adoración a los algoritmos como “dioses” a los que
seguir sin cuestionar sus mandatos (65).
        De hecho, se predice que, con el incremento de la inteligencia artificial
y de los algoritmos, el número de mandos intermedios en la mayoría de las
empresas se reducirá drásticamente (66). Esto es, con la utilización de los
algoritmos como gestores de la mano de obra, la figura del mando intermedio
será cada vez menos necesaria, sustituyendo trabajadores que toman
decisiones por trabajadores que cumplen lo decidido por el algoritmo.



           (64) A.E. Dembe et al, The impact of overtime and long work hours on occupational injuries and
illnesses: new evidence from the United States, Occupational and Environmental Medicine, 2005, 62 (9),
588-597.
           (65) Noah Harari, Homo Deus: Breve historia del mañana, Debate, Barcelona, 2016.
           (66) Pega and Marketforce, The Future of Work: A Report from…, cit., 12



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                   C. 22
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



        Este fenómeno ya ha sido analizado con anterioridad. Sin llegar a
sustituir a los supervisores o mandos intermedios ya existen muchos sistemas
automáticos que ayudan a la toma de decisiones (ej. alarmas de emergencia en
los sistemas de pilotaje de aviones). En la interactuación de estos sistemas se
ha comprobado que los humanos acaban tomando por buena la respuesta
dada por el sistema automático sin realizar un análisis propio de la situación.
Tres factores son los que llevan a esta situación.
        En primer lugar, la tendencia humana a elegir el camino que exige
menos esfuerzo cognitivo (67). En efecto, es más sencillo aceptar como válida
la decisión tomada por el sistema automatizado que realizar un análisis
comprensivo propio con toda la información disponible.
        El segundo factor que promueve la identidad de la decisión
automatizada con la decisión humana aun cuando el ser humano tiene la
última palabra es la confianza depositada en estos sistemas automáticos como
poderosos agentes que tiene capacidades superiores (68). En un experimento
realizado por Dzindolet (69) los participantes, sin tener conocimiento extenso
sobre el sistema automatizado, invariablemente apostaban que existiría un
mayor número de aciertos del sistema automatizado comparado con la de otro
humano. Esto es, los participantes en el experimento confiaban en la máquina
más que en otro humano sin poseer suficiente información sobre las
capacidades de cada uno.
        Por último, debido a que cuando se elige seguir la decisión
automatizada, la responsabilidad del ser humano se diluye. Así que, de la
misma forma que cuando la responsabilidad se fija en dos o más humanos hay
una reducción del esfuerzo (70), lo mismo ocurre con los sistemas automáticos
(71).
        En fin, no puede descartarse que los algoritmos acaben reduciendo las
capacidades de los seres humanos para tomar sus propias decisiones incluso en


          (67) C. Wicken y K. Hollands, Engineering psychology and human performance, NY, Prentice
Hall, 2000.
          (68) Lee y See, rust in Automation: Designing for Appropriate Reliance. Human
Factors The Journal of the Human Factors and Ergonomics Society 2004, 46(1):50-80.
          (69) Dzindolet et al., The perceived utility of human and automated aids in visual detection task,
Human Factors, 2002, 44, 79-94.
          (70) Karau y Williams, Social-loafing: A meta-analytic review and theoretical integration, Journal
of personality and social psychology, 1993, 65, 681-706.
          (71) Domeinski et al., Human redundancy in automation monitoring: Effects of social loafing
and social compensation, en Proceeding of human factors and ergonomics Society 51st Annual meeting,
2007, 587-591.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                      C. 23
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



aquellos casos que el sistema automatizado no sea el decisor final, sino un
sistema de alerta o ayuda a los humanos.
        En cuarto lugar, la invasión tecnológica hace referencia a la posibilidad,
que permite la tecnología, de estar siempre disponible en el trabajo, lo que
provoca muchas veces la expectativa –dada la posibilidad- de que
efectivamente el trabajador se encuentre dispuesto a trabajar en todo
momento que se le requiera (72). Sin duda, este es un riesgo común en el
teletrabajo dónde a través del ordenador de casa o del propio smartphone el
trabajador es contactado para ponerse a trabajar.
        Concretamente, en el caso de que el algoritmo sea el que establezca los
horarios del trabajador este riesgo puede verse incrementado por la
imposibilidad de empatía respecto a los horarios de descanso de la persona.
En efecto, un ordenador no necesita descansar y, salvo que se le programe
para pensar en la necesidad de los humanos de tener ciertas horas de
inactividad, el algoritmo asumirá la disponibilidad total del trabajador –mucho
más que cualquier supervisor humano-. De la misma forma, la imposibilidad
de razonar con un algoritmo –o de negociar- hará difícil que el trabajador
pueda tener una adecuada conciliación de la vida personal y laboral.
        De hecho, incluso en los casos en lo que el algoritmo permita que el
trabajador rechace ciertos trabajos es posible que el trabajador decida no
rechazar las tareas por diversas razones. La primera por las necesidades
económicas, puesto que por mucha posibilidad teórica que exista de rechazar
tareas, si el trabajador es pagado por tarea, y necesita el dinero, no podrá
realmente rechazar esta tarea. La segunda porque la falta de trasparencia sobre
el funcionamiento del algoritmo hará al trabajador incapaz de saber si existen
penalizaciones o no al rechazo de tareas en horario de descanso. La mera
sospecha de que existan penalizaciones puede desincentivar cualquier
posibilidad real de rechazo.
        Por último, el tecnoestrés incluye la sobre carga tecnológica (techno-
overload). Este elemento viene relacionado por la excesiva carga de
información recibida por el trabajador y la incapacidad de procesarla
adecuadamente. Con las nuevas tecnologías los trabajadores están siempre
inundados por información lo que dificulta, sino impide, que los trabajadores



           (72) S. Rodríguez Escanciano, Los riesgos psicosociales ante una vigilancia empresarial
tecnológicamente avanzada: garantías preventivas y posibilidades de resarcimiento, en Fernández
Domínguez, J.J y Rodríguez Escanciano S., (Dir.), Tiempos de cambio y salud mental de los
trabajadores, cit., 214.



      LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                              C. 24
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



sean capaces de diferenciar la información útil del resto. Himma (73)
argumenta que tener demasiada información puede resultar en una especie de
indecisión permanente y de inseguridad para el trabajador sobre si las
decisiones tomadas son las correctas o no. Como puede comprobarse, esta no
parece que sea una posibilidad en el caso de los trabajadores gestionados por
un algoritmo. En efecto, es el algoritmo el que recibirá toda la información, la
procesará y tomará la decisión. Así pues, se puede descartar la sobre carga
tecnológica –en el sentido de exceso de información recibida por el trabajador-
como riesgo en el caso de la dirección algorítmica de la mano de obra.
        Sin embargo, el efecto que parece darse con bastante probabilidad es el
contrario: la infra información tecnológica. Esto es, la privación o sustracción
de información relevante para el trabajador. En efecto, los trabajadores de
plataformas cuya secuencia de trabajo y asignación de tareas es manejada por
un algoritmo se quejan de insuficiencia de información (74). El algoritmo es
quién recibe toda la información relevante, la procesa y entrega al trabajador
solamente la decisión final, impidiendo a este valorar o comprobar si esta
decisión le beneficia, le perjudica o incluso si es correcta o mejorable.
        De hecho, esta cuestión no solamente implica posible ansiedad por la
falta de trasparencia, sino que también existen cuestiones éticas a valorar (75).
El informe de EU-OSHA (76) plantea importantes cuestiones éticas
relacionados con los algoritmos tomando decisiones, por ejemplo, ¿debería un
algoritmo poner en peligro a un trabajador para mantener le seguridad de todo
un centro de trabajo? Sin duda, la falta de trasparencia y la posible
desconfianza hacia la capacidad de un algoritmo de tomar decisiones éticas
también incrementará las suspicacias de los trabajadores afectando a sus
niveles de estrés y ansiedad.
        En fin, el algoritmo puede acabar tratando al trabajador como una
máquina más sin sentimientos ni personalidad propias provocando su
deshumanización. Por esta razón, parte de la doctrina entiende que la
conjunción de la acumulación de datos sobre el trabajador y la toma de
decisiones por parte un algoritmo puede conducir hacia un incremento de la

         (73) Himma, The concept of information overload: a preliminary step in understanding the nature
of harmful information-related conditions, Ethics and information Technology, 9 (4), 2007, 259-272.
         (74) Rosemblat, Uberland, How Algorithms Are Rewriting the Rules of Work, cit.
         (75) Moore, The quantified self in precarity. Work, technology and what counts, cit., 29.
         (76) EU-OSHA Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, en https://osha.europa.eu/en/tools-and-publications/
publications/foresight-new-and-emerging-occupational-safety-and-health-risks/view, 2018,
57.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                  C. 25
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



ansiedad, malestar psicológico e incluso este trato al trabajador podría
calificarse de violencia (77).
        En cualquier caso, cabe decir que la novedad detrás del manejo de las
personas/trabajadores por una inteligencia artificial/algoritmo es tan grande
que es imposible predecir o avistar todas las consecuencias posibles para la
seguridad y salud de los trabajadores (78) lo que hace necesario introducir
dichas novedades con cautela y estableciendo siempre salvaguardas.


4. Fórmulas para reducir el perjuicio para la salud de los trabajadores
derivado de la gestión algorítmica del trabajo
4.1 Evaluación de los riesgos concretos
        Como establece Fernández Avilés (79), los factores de riesgo
psicosociales asociados a las nuevas tecnologías suelen considerarse
“invisibles”, sin embargo, ello no implica que no puedan evaluarse, como
cualquier otro riesgo laboral, con objeto de neutralizaros o controlarlos para
de esta forma garantizar que no supongan un riesgo para la salud de los
trabajadores.
        Así pues, debería realizarse una evaluación específica de los riesgos de
aquellos trabajadores que se encuentren sometidos a las decisiones y poder
organizativo de un algoritmo o inteligencia artificial. Por supuesto, dada la
novedad de esta forma de trabajar parece necesario crear procedimientos
técnicos estandarizados con solvencia científica suficiente.
        En cualquier caso, estos procedimientos deberán ser aplicados en las
empresas para evaluar los riesgos y luego, en concordancia a los riesgos
detectados, incorporar medidas preventivas e integrarlas en la planificación
preventiva de la empresa (80) contando con la opinión de los representantes de
los trabajadores. Sin duda, las actividades de formación y sensibilización en la
empresa serán la primera barrera para luchar contra estos riesgos (81). A su vez,


          (77) Akhtar y Moore, The Psycho-Social Impactos of Technological change in contemporary
workplaces and trade union responses, International Journal of Labor Research, 2016, 8 (1-2), 102-131.
          (78) En el mismo sentido, ver Whittaker, X., There is only one thing in life worse than being
watched, and that is not being watched: Digital data analytics and the reorganization of newspaper
production, in Moore et al (coord), Humans and Machines at work, Palgrave Macmillan, 2017, 81.
          (79) J.A. Fernández Avilés, NTIC y riesgos psicosociales en el trabajo: estado de situación y
propuestas de mejora, cit., 85.
          (80) J.A. Fernández Avilés, NTIC y riesgos psicosociales...cit., 91.
          (81) European Commission, Guide for assessing the quality of risk assessments and risk
management measures with regard to prevention of psychosocial risks, European Commission, 2018, 11,



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                 C. 26
            A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



será necesario establecer controles para detectar los primeros síntomas, para
esto es probable que la propia tecnología pueda ayudar como se verá más
adelante.


4.2 “Decisiones inteligentes” o cómo crear algoritmos que no dañen
        Los algoritmos, al menos por ahora, tomarán decisiones siempre en
base a la programación y a los datos que se le proporcione. Así pues, será
imprescindible que dicha programación incluya los factores de riesgo como un
elemento a tener en cuenta –uno de los más importantes- a la hora de tomar
decisiones que afecten a los trabajadores. Por ello, todo algoritmo que
interactúe con trabajadores debería pasar una evaluación previa que asegure
que las decisiones que tome tendrán en cuenta la seguridad y salud de los
trabajadores. Esta evaluación previa sería el equivalente a comprobar que un
supervisor o un mando intermedio tiene conocimientos suficientes en materia
de prevención de riesgos laborales para ejercer sus funciones en el centro de
trabajo y en su puesto de trabajo.
        El algoritmo debería ser programado teniendo en cuenta los siguientes
factores:
            a) Trasparencia:
        Como se ha visto en este trabajo, uno de los factores que más
incrementa la ansiedad y frustración de los trabajadores es el desconocimiento
de qué datos se están recogiendo, cómo se están procesando y qué criterios se
han seguido por el algoritmo para alcanzar la concreta la decisión. Así pues, el
aumento de la trasparencia en estos extremos permitirá reducir la ansiedad de
los trabajadores, a la vez, que les permitirá tener mayor información para
evaluar la correcta o incorrecta actuación del algoritmo. En cualquier caso,
además de por los beneficios para la salud de los trabajadores que esta
trasparencia pueda aportar, el Reglamento Europeo de Protección de Datos
(art. 22) establece la obligación de informar al afectado de las razones que han
llevado a tomar esa decisión cuando esta ha sido automatizada(82). Es decir, la
empresa, cuando tome decisiones automatizadas, deberá indicarlo e informar
de qué parámetros (y qué ponderación ha asignado a cada uno de ellos) ha
utilizado para alcanzar dicha resolución. Esta interpretación es concordante

en www.ispettorato.gov.it/it-it/Attivita/Documents/Attivita-internazionale/Guide-psychosocial -risks-
EN-Final-Version.pdf.
          (82) A. Todolí Signes, La gobernanza colectiva de la protección de datos en las relaciones
laborales: big data, creación de perfiles, decisiones empresariales automatizadas y los derechos colectivos, cit.



        LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                          C. 27
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



con la exigencia del art. 5 RGPD que obliga a que todo procesamiento de
datos sea legal, justo y trasparente y, también, con los artículos 13.2 f) y 14.2 g)
RGPD que exigen que cuando el sujeto es objeto de decisiones automatizadas,
incluyendo la elaboración de perfiles, el responsable de datos deberá entregar
al sujeto información significativa sobre la lógica aplicada, así como la importancia y las
consecuencias previstas de dicho tratamiento para el interesado.
        En efecto, parece que la doctrina, de manera unánime, interpreta que el
interesado tiene derecho a recibir información sobre el procesamiento
automatizado de sus datos en tres aspectos: i) informar de que el sujeto está
envuelto en un proceso automatizado de toma de decisiones, es decir,
informar al trabajador de que el proceso de decisión será total o parcialmente
automatizado; ii) proveer información significativa sobre la lógica del
algoritmo, esto es, entre otras cuestiones, indicar los parámetros evaluados por
el algoritmo que toma la decisión y la ponderación de dichos parámetros; iii)
informar de las consecuencias del proceso, es decir, qué consecuencias, para el
trabajador, tendrá la decisión, en un sentido u otro, tomada de forma
automática(83) .
                 b)       Adaptación a las capacidades de los trabajadores y reducir
        intensidad.
        De la misma forma que un algoritmo es capaz de explorar y descubrir
el máximo potencial de un trabajador con independencia de su salud a medio y
largo plazo, la maquina puede ser programada para que establezca la carga de
trabajo optima que respete estos derechos de seguridad y salud en el trabajo.
La “automatización adaptativa” ha sido definida como la capacidad de un
programa informático de adaptarse a la velocidad de procesamiento de cada
ser humano y que es apto para prevenir la intensidad del trabajo y la sobre
carga(84). Esto implica pues que el trabajador mantendría el control de la carga
de trabajo.
        Téngase en cuenta que, conforme a la encuesta europea sobre
seguridad y salud en el trabajo(85), la reorganización del trabajo y la reducción


        (83) Por todos, Wacher, B., Mittelstadt Y Floridi, Why a Right to Explanation of
Automated Decision-Making Does Not Exist in the General Data Proteccion Regulation, Internationa
Data Privacy Law, 2017, 7, 79–90.
        (84) Steijn, W., et al, Emergent risk to workplace safety as a result of the use of robots in the
work place”, TNO Report R11488, TNO, Netherlands Organisation for Applied Scientific
Research, 2016, en https://repository.tudelft.nl/view/tno/uuid:94d6e198-4249-40b8-80c0-
2d73f7b2e92a/
        (85) EU-OSHA, Second European Survey of Enterprises on New and Emerging Risks
(ESENER-2). Overview Report: Managing Safety and Health at Work. Disponible en



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                   C. 28
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



de la presión del trabajo es considerada la mejor medida para prevenir los
riesgos psicosociales.
                c)     Margen para la autonomía del trabajador
        A pesar de las bondades en materia de eficiencia y productividad que
un algoritmo tomando todas las decisiones concernientes al trabajo pueda
implicar, por el bien de la salud mental de los trabajadores, parece necesario
mantener un mínimo de margen de discrecionalidad y autonomía para los
trabajadores(86). Así pues, la programación del algoritmo debe incluir un
margen de elección para el trabajador. En algunos casos, el algoritmo, en vez
de decisiones cerradas, podría otorgar al trabajador diferentes “paquetes”
organizativos para que este elija entre ellos. La sensación de libertad y de
autonomía beneficiará la salud de los trabajadores. A su vez, esto impedirá que
los trabajadores pierdan habilidades y capacidades en materia de toma de
decisiones, de auto-orgaización y de priorizar conforme sus propios gustos y
preferencias.
                d)     Respeto a la privacidad y a la no discriminación
        Las nuevas tecnologías permiten una invasión casi absoluta en la
intimidad del trabajador. Así, actualmente, la tecnología permite “leer” la
mente de los trabajadores para discernir si están contentos, tristes, activos,
relajados, creativos, cuál es su personalidad, etc., no obstante, que la tecnología
permita este tipo de análisis no significa que sean conformes al derecho a la
privacidad del trabajador. De esta forma, con objeto de proteger la salud
mental de los trabajadores (y sus derechos de protección de datos y privacidad)
los wereables, y la información recogida sobre el trabajador, deberán pasar el
filtro de proporcionalidad establecido por el Tribunal Constitucional. Como
ha declarado el Tribunal Constitucional, en su sentencia 186/2000, “el
empresario no queda apoderado para llevar a cabo, so pretexto de las
facultades de vigilancia y control que le confiere el art. 20.3 LET,
intromisiones ilegítimas en la intimidad de sus empleados en los centros de
trabajo”.
        En efecto, la constitucionalidad de cualquier medida restrictiva de
derechos fundamentales viene determinada por la estricta observancia del
principio de proporcionalidad. Para comprobar si una medida restrictiva de un


https://osha.europa.eu/en/tools-and-publications/publications/second-european-survey-
enterprises-new-and-emerging-risks-esener, 2013, 52.
          (86) Sobre los beneficios de esta autonomía para el trabajador se puede ver, J.A.
Fernández Avilés, NTIC y riesgos psicosociales en el trabajo: estado de situación y propuestas de mejora,
cit., 80.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                   C. 29
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



derecho fundamental supera el juicio de proporcionalidad, es necesario
constatar si cumple los tres requisitos o condiciones siguientes: si tal medida es
susceptible de conseguir el objetivo propuesto (juicio de idoneidad); si,
además, es necesaria, en el sentido de que no exista otra medida más moderada
para la consecución de tal propósito con igual eficacia (juicio de necesidad); y,
finalmente, si la misma es ponderada o equilibrada, por derivarse de ella más
beneficios o ventajas para el interés general que perjuicios sobre otros bienes o
valores en conflicto (juicio de proporcionalidad en sentido estricto).
        Sumado a ello, cabe decir que existen estudios que demuestran que la
reducción de la observación constante del trabajador puede implicar mejoras
en la productividad: es lo que ha sido llamado la paradoja de la trasparencia
(87). En este sentido, se defiende que los trabajadores recompensan la
confianza depositadas en ellos con mayor productividad, a la vez, que cuando
se sienten observados suelen buscar maneras de “engañar” al sistema.
        En cualquier caso, cabe señalar que los wereables y la gestión algorítmica
del trabajo también puede servir, en sí misma, para reducir los riesgos
laborales. Así, por ejemplo, evitar que un trabajador caiga dormido mientras
conduce o establecer sistemas de parada automática de la maquinaria cuando
se detectan riesgos para la salud puede reducir los riesgos. La velocidad de
reacción de un algoritmo siempre será mayor que la de un ser humano por lo
que puede servir de complemento necesario cuando es correctamente
utilizado.
               e)     El algoritmo deberá valorar cualquier elemento que
        suponga un riesgo para la seguridad y salud de los trabajadores.
        En general, el algoritmo que maneje la gestión de la mano de obra
deberá ser programado de tal forma que recoja y procese toda la información
disponible respecto a los posibles riesgos de los trabajadores. Una vez más, de
la misma forma que un supervisor debe ser conocedor de los riesgos de los
puestos de trabajo de los trabajadores a su cargo, un algoritmo debe estar
programado teniendo en cuenta estos riesgos. Dichos concretos riesgos
deberán ser los establecidos por la, preceptiva, evaluación de riesgos laborales
y luego volcados en el algoritmo para que este los tenga presentes. Así pues, el
algoritmo deberá ser programado considerando los riesgos existentes en cada
profesión, o puesto de trabajo, concreta.
        Por poner un ejemplo, un estudio sobre el calor sufrido por los riders –
repartidores en bicicleta- concluye que estos siempre que pueden toman en

         (87) E. Bernstein, The transparency paradox: A role for privacy in Organizational Learning and
operational Control, Administrative Science Quarterly, 2012, 57, 2, 181-216.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                  C. 30
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



consideración las zonas con mayor sombra(88). Sin embargo, un algoritmo a la
hora de establecer la ruta a seguir por el rider probablemente no tendrá en
cuenta la opción de sombra sino solamente la más rápida. Así pues, además del
anteriormente mencionado margen de maniobra del trabajador para poder
elegir la ruta con menores riesgos para su salud –deshidratación, golpe de
calor-, el propio algoritmo debería tener en cuenta esta circunstancia,
especialmente en ciudades propensas a las temperaturas altas y en trabajos que
exigen esfuerzo físico. Como este ejemplo habrá muchas consideraciones más
a tener en cuenta en la configuración del algoritmo para que este sea
considerado respetuoso con la seguridad y salud de los trabajadores.
        Por ello, parece necesario, tanto la realización de la evaluación de
riesgos, como la consulta con los representantes de los trabajadores para
establecer los criterios que el algoritmo deberá seguir para gestionar el trabajo.


4.3 La existencia de un ser humano al mando –“Human in command”-.
        El informe de expertos del Comité Económico y Social Europeo en
inteligencia artificial dirigido por Muller(89) estableció el principio de “human
in command”, esto es, siempre debería haber un ser humano tomando las
decisiones finales. En el mismo sentido, el informe de expertos de la OIT(90)
sobre el futuro del trabajo, establece como recomendación que “se adopte un
enfoque de la inteligencia artificial «bajo control humano» que garantice que las
decisiones definitivas que afectan al trabajo sean tomadas por personas”.
        En efecto, que los algoritmos permitan optimizar el procesamiento de
los datos no debería provocar un abandono de las funciones propias de los
humanos. Los trabajadores mayoritariamente rechazan ser gestionados por
una máquina, sin embargo, probablemente serían más proclives a su
aceptación sabiendo que existe ser humano al mando.
        Por ejemplo, en el caso de los conductores de Uber, cuyo sistema de
incidencias y supervisión está automatizado, deberían tener derecho a ponerse
en contacto con un supervisor humano cuando la máquina no está dando
solución satisfactoria a sus demandas.



        (88) UTS, Heat Stress and On-Demand work: The experience of food delivery and courier cyclists.
Climate Justice Centre, cit., 4.
        (89) Comité Económico y Social Europeo en inteligencia artificial 2017
        (90) OIT, Trabajar para un futuro más prometedor. comisión mundial sobre el futuro del trabajo,
2019, Ginebra.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                  C. 31
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



       De la misma forma, si un trabajador es “desactivado” o penalizado
debería tener derecho a poder justificar y explicar su actuación ante un
supervisor humano. Cerrar las puertas a los trabajadores a tener contacto
humano, o a recibir respuesta de un superior humano, parece provocar la
mayoría de problemas de ansiedad y frustración existentes en este tipo de
gestión algorítmica de la mano de obra. A su vez, que exista un ser humano
responsable puede también reducir los problemas éticos que envuelven esta
forma de trabajar.
       En fin, se debe evitar la deshumanización del trabajo empezando por el
derecho al contacto humano. La gestión algorítmica, si no se maneja con
cuidado, puede implicar tratar a los trabajadores como mercancías sin que sean
atendidos con empatía y el respeto que todo ser humano merece.


5. La mejora de la gestión de la prevención de riesgos mediante
algoritmos.
        Los algoritmos no solamente pueden hacer más eficiente la gestión
productiva de la empresa, sino también la prevención de riesgos laborales. Así
pues, la recolección de gran cantidad de datos y su procesamiento a través de
la Inteligencia artificial puede mejorar la prevención de los riesgos laborales,
permitir mejores evaluaciones, mejores métodos de prevención y mejores
fórmulas de evaluación de los riesgos restantes incluso previendo problemas
antes de que ocurran(91).
        No se está hablando solamente de proteger a los trabajadores que
trabajan bajo las ordenes de un algoritmo, sino de utilizar los algoritmos para
mejorar la protección de todos los trabajadores(92). Los sensores visuales,
auditivos, los detectores de elementos peligrosos pueden autónomamente
detectar riesgos y alertar a los trabajadores(93).
        A su vez, los algoritmos también pueden ayudar a la Inspección de
trabajo en su labor de control del cumplimiento de la normativa de prevención
de riesgos laborales de todas las empresas. En efecto, gracias a la recopilación

          (91) EU-OSHA, Foresight on new and emerging occupational safety and health risks associated
with digitalisation by 2025, en https://osha.europa.eu/en/tools-and-publications/publications
/foresight-new-and-emerging-occupational-safety-and-health-risks/view, 2018, 54.
          (92) Horton, Horton J., et al., Workplace Safety Futures: The impact of emerging technologies
and platforms on work health and safety and workers´ compensation over the next 20 years, CSIRO, 2018,
Canberra, 13.
          (93) Flaig, Predictive tools and big data “to help tackle 2.3m yearly worker deaths”, Institute of
mechanical engineers, 2017.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                      C. 32
          A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



de datos y al potencial predictivo de los algoritmos, las empresas seleccionadas
para ser inspeccionadas podrían depender de un análisis del riesgo de
incumplimiento, una fórmula considerada más efectiva que otras formas de
selección de las empresas objeto de investigación como son la selección
aleatoria o la inspección sistemática de todas las empresas(94).
        De hecho, la OCDE(95) establece que, como principio, para seleccionar
las empresas objeto de inspección se debería realizar una evaluación de la
probabilidad y consecuencia de los riesgos de accidentes de exposiciones
dañinas y en general de incumplimientos de la normativa de la prevención de
riesgos. En efecto, para asegurar un uso eficiente de los recursos de la
inspección se considera oportuno concentrar sus recursos selectivamente en
los problemas más serios y priorizar las empresas y los problemas que se han
identificado más graves a través de un sistemático análisis de toda la
información disponibles sobre seguridad y salud.
        Para alcanzar este objetivo, en la actualidad, la aproximación más
común consiste en una selección de las empresas basada en la experiencia de
los inspectores locales. No obstante, es posible que con la ayuda de los
algoritmos la capacidad de procesamiento y de priorización de áreas que
investigar mejore los resultados. Una vez más, no se considera oportuno que
los algoritmos sustituyan la capacidad del inspector de seleccionar las empresas
a investigar, pero sí podría ser una vía que merezca la pena explorar para
ayudar a la Inspección a tomar mejores decisiones.
        En Europa ya se han puesto en marcha varios proyectos al respecto
con buenos resultados(96). Entre ellos cabe destacar el desarrollado por la
Autoridad Noruega de la Inspección de Trabajo en la cual se desarrolló una
herramienta para ayudar a los inspectores a seleccionar las empresas conforme
al riesgo de incumplimiento(97). Este algoritmo diferenciaba empresas en
cuatro grupos basado en la probabilidad de riesgo de incumplimiento (bajo,
medio, alto y muy alto). Esta clasificación era visible para los inspectores en su
interfaz interna. De esta forma, los inspectores eran informados sobre la
predicción de incumplimiento de una determinada empresa.

          (94) Blanc, Inspection reforms: why, how, and with what results, OECD, Paris, 2013
          (95) OCDE, Best practice principles for regulatory policy: Regulatory enforcement
and inspections. The Organisation for Economic Co-operation and Development.
          (96) Suecia (Ridemar A., Decision support for SWEA inspection, KTH Royal Institute of
Technology, Stockholm, 2018) y Holanda (Jacobusse, G., Veenman, C., (2016), On selection
bias with imbalanced classes. International Conference on Discovery Science, Bari, 2016, 325-340.
          (97) Dahl, Risikobasert tilsyn I de nordiske arbeidstilsynene, Nordic Council of Ministers,
Copenhagen, 2018.



       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                C. 33
        A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



       El algoritmo fue construido conforme a la información existente hasta
el momento recogida por la autoridad de la Inspección –inspecciones
anteriores- pero, además, se nutría de los datos que los inspectores iban
recogiendo conforme usaban el propio algoritmo. De esta forma, el algoritmo
se ajustaba a sí mismo conforme al feedback (correctas o incorrectas
predicciones) dado por los Inspectores.
       De esta forma, se puede concluir que la Inteligencia artificial puede
aportar mucho beneficio cuando se usa correctamente y se enfoca al objetivo
de reducir los riesgos laborales.


6. Conclusión
       Cada vez se da con mayor frecuencia la utilización por parte de la
empresa de mecanismos, más o menos avanzados, de inteligencia artificial para
gestionar el trabajo: establecer turnos de trabajo, tiempos en la producción,
designar y diseñar tareas para los trabajadores, contratar, evaluar el desempeño
y despedir. Las empresas confían en que la tecnología recoja toda la
información disponible, la procese y tome las mejores decisiones de gestión –
optimización productiva- en beneficio de la misma. Con ello, se sustituye a los
supervisores y mandos intermedios humanos, así como, a los expertos de
recursos humanos dejando la dirección de los trabajadores en manos de
procesos automatizados manejados por algoritmos –o en su estado más
avanzado en la inteligencia artificial-.
       En este trabajo, se expone los peligros para la salud que nueva forma de
gestión tecnológica puede provocar. En efecto, la monitorización constante a
través de sensores, la intensificación del trabajo derivada de las decisiones
tomadas por una máquina sin empatía ni conocimiento sobre los límites
humanos, la reducción de autonomía del trabajador sometido a las decisiones
tomadas por la inteligencia artificial, las discriminaciones bajo un manto de
neutralidad algorítmica de esas decisiones así como los posibles errores de
funcionamiento, pueden acabar provocando serios problemas de salud física y
psicológica para los trabajadores.
       No obstante, estos riesgos pueden reducirse si se tiene en cuenta en la
programación. En este trabajo, se defiende la necesidad de una correcta
programación del algoritmo para que tenga en cuenta los riesgos laborales
expuesto. Es decir, de la misma forma que un supervisor debe tener formación
en prevención de riesgos para poder realizar su trabajo, el algoritmo deberá ser
programado para que tenga en cuenta los riesgos laborales en el trabajo –y en



     LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                          C. 34
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



caso de no contar con esta programación deberá impedirse su utilización para
dirigir trabajadores-.
         Concretamente, el algoritmo deberá ser trasparente, adaptado a las
capacidades reales del trabajador, deberá dejar algún margen de autonomía al
trabajador y respetar su privacidad. En definitiva, el algoritmo deberá valorar
cualquier elemento que suponga un riesgo para la seguridad y salud de los
trabajadores. Para ello, parece necesario que la preceptiva evaluación de
riesgos, realizada por los técnicos, sea volcada en la programación del
algoritmo para que este la tenga en cuenta en la toma de decisiones en la
dirección del trabajo.
         A su vez, parece necesario, conforme establece el Comité Económico y
Social Europeo y la OIT, que en cualquier caso la Inteligencia artificial siempre
se encuentre bajo control humano, permitiendo, como mínimo, que el
trabajador pueda justificar sus actuaciones o expresar sus preocupaciones ante
un responsable humano.
         En fin, no se puede permitir que las personas se conviertan en simples
bienes de equipo manejados de forma deshumanizada por una máquina
omnipresente y omnipotente sin que se establezcan los preceptivos controles
para evitar perjuicios.


Bibliografía
Ajunwa I. et al., Limitless worker surveillance, California Law Review, 2017, 105, 3.
Akhtar y Moore, The Psycho-Social Impactos of Technological change in contemporary workplaces and
         trade union responses, en IJLR, 2016, 8, 1-2, 102-131.
Ajunwa, Limitless Worker Surveillance, 105 Calif. L. Rev. 735, 2017, 105 y ss.
Blanc, Inspection reforms: why, how, and with what results, 2013, OECD, Paris.
Bernstein, E., The transparency paradox: A role for privacy in Organizational Learning and operational
         Control, en Administrative Science Quarterly, 2012, 57, 2, 181-216.
Bodie M., et al., The Law and policy of People Analytics, Sant Louis U. Legal studies Research Paper,
         2016, 6.
Calvard, Big data: Lessons for employers and employees', Employee Relations, 2019.
CBS, Hackers Could Remotely Gain Control of Cars in Mass Cyberattack, Researchers Find, CBS,
         2019, disponible en losangeles.cbslocal.com/2019/07/31/hackers-could-remotely-
         gain-control-of-cars-in-mass-cyberattack-researchers-find/.
Crawford k y Schultz J., Big data and due process: Towards a framework to redress predictive privacy
         harms, en Boston College Law Review, 2014, 55, 1.
Dahl, Risikobasert tilsyn I de nordiske arbeidstilsynene, 2018, Nordic Council of Ministers,
         Copenhagen.
Dembe A.E. et al., The impact of overtime and long work hours on occupational injuries and illnesses: new
         evidence from the United States, en Occupational and Environmental Medicine, 2005, 62, 9,
         588-597.




       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                   C. 35
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



Derks and Bakker, Smartphone use, work-home interference and burnout: a diary study on the role of
         recovery, en Applied Psychology, 2014, 63, 3.
Domeinski et al., Human redundancy in automation monitoring: Effects of social loafing and social
         compensation, en Proceeding of human factors and ergonomics Society 51st Annual meeting, 2007,
         587-591.
Dzindolet et al., The perceived utility of human and automated aids in visual detection task, en Human
         Factors, 2002, 44, 79-94.
El periódico, España, país de consejeros (hombres), 2016, disponible en
         www.elperiodico.com/es/economia/20170204/espana-mujeres-consejos-
         administracion-ibex-35-2016-5784962
EU-OSHA, Second European Survey of Enterprises on New and Emerging Risks (ESENER-2).
         Overview Report: Managing Safety and Health at Work, 2013, en
         https://osha.europa.eu/en/tools-and-publications/publications/second-european-
         survey-enterprises-new-and-emerging-risks-esener.
EU-OSHA, Monitoring technology: the 21st century's pursuit of well-being?, en
         https://osha.europa.eu/en/tools-and-publications/publications/monitoring-
         technology-workplace/view, 2017.
EU-OSHA, Foresight on new and emerging occupational safety and health risks associated with
         digitalisation       by       2025,        2018,       en       osha.europa.eu/en/tools-and-
         publications/publications/foresight-new-and-emerging-occupational-safety-and-
         health-risks/view.
European Commission, Guide for assessing the quality of risk assessments and risk
         management measures with regard to prevention of psychosocial risks, European
         Commission, 2018, en www.ispettorato.gov.it/it-it/Attivita/Documents/Attivita-
         internazionale/Guide-psychosocial-risks-EN-Final-Version.pdf.
Felstead & Green, Working longer and harder? A critical assessment of work effort in Britain in
         comparison to Europe, Making work more equal: a new labour market segmentation approach,
         2017, 188-207.
Fernández Avilés J.A., NTIC y riesgos psicosociales en el trabajo: estado de situación y propuestas de
         mejora, en DSL, 2017, 2.
Fernández Domínguez, J.J., La incidencia de los factores “extralaborales” en la salud mental de los
         trabajadores, en Fernández Domínguez, J.J. y Rodríguez Escanciano S., (Dir.), Tiempos
         de cambio y salud mental de los trabajadores, 2017, Bomarzo.
Financial Times, Wearable devices aim to reduce workplace accidents, Financial Times, 2016, en
         https://www.ft.com/content/d0bfea5c-f820-11e5-96db-fc683b5e52db.
Financial Times, IoT-linked wearables will help workers stay safe, Financial Times, 2017, en
         https://www.ft.com/content/944e6efe-96cb-11e7-8c5c-c8d8fa6961bb.
Flaig, Predictive tools and big data “to help tackle 2.3m yearly worker deaths”, Institute of mechanical
         engineers, 2017.
Garriga Domínguez A., La elaboración de perfiles y su impacto en los DDFF. Una primera
         aproximación a su regulación en el RGUE, Derechos y Libertades, 2018, 38.
Hamlyn-Harris, J. H., Three reasons why pacemakers are vulnerable to hacking, The Conversation,
         2017, en http://theconversation.com/three-reasons-why-pacemakers-arevulnerable-
         to-hacking-83362.
Hardt M., How big data is unfair, Medium, 2014, https://medium.com/@mrtz/how-big-data-
         is-unfair-9aa544d739de.
Himma, The concept of information overload: a preliminary step in understanding the nature of harmful
         information-related conditions, Ethics and information Technology, 2007, 9 (4), 259-272.
Horton J., et al., Workplace Safety Futures: The impact of emerging technologies and platforms on work
         health and safety and workers´ compensation over the next 20 years, 2018, CSIRO, Canberra.
HSE, Tackling work-related stress using the Management, Health and Safety Executive, 2017.




       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                  C. 36
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



Hung W.S., et al., Managing the risk of overusing mobile phones in the working environment: a study of
         ubiquitous techno-stress, PACIS 2011 Preceedings Paper 81, 2011.
Jacobusse, G., Veenman, C., On selection bias with imbalanced classes. International Conference on
         Discovery Science, 2016, Bari, 325-340.
Karasek y Theorell, Healthy work, Basic Books New York, 1990.
Karau y Williams, Social-loafing: A meta-analytic review and theoretical integration, Journal of personality
         and social psychology, 1993, 65, 681-706.
Lee J., y See J., Trust in automation and technology: Designing for appropriate reliance, Human Factor,
         2004, 46, 50-80.
Lindsay, G., We spent two weeks wearing employee Trackers: Here´s what we learned, Fact Coexist,
         2015,        www.fastcompany.com/3051324/we-spent-two-weeks-wearing-employee-
         trackers-heres-what-we-learned.
López Rodríguez, La prevención de riesgos laborales en el trabajo a demanda vía aplicaciones digitales,
         Lan Harremanak, 2019, 41.
Michael, Researching bodies: Embodied fieldwork for knowledge work, which turnos out to be embodied,
         The SAGE Handbook of qualitative business and Management Research Methods: History and
         Traditions, 2017.
Miguel Jorge, Los empleados de almacén en Amazon Reino Unido tienen tanto miedo de ir al baño que
         orinan en botellas, 2018, Gizmodo, Disponible en https://es.gizmodo.com/los-
         empleados-de-almacen-en-amazon-reino-unido-tienen-t-1825291024 , Consultado el
         29/08/2019.
Mittelstandt et al., The Ethics of Algorithms: Mapping the Debate”, Big data & Society, 2017, 3 (2),
         section 7.
Moore, The quantified self in precarity. Work, technology and what counts, New York, Routledge
         2018.
Moore, Humans and machines at work: monitoring, surveillance and automation in contemporary
         capitalism, London, Palgrave Macmillan, 2018.
Muller, European Economic and Social Committee’s Opinion on Artificial Intelligence, 2017, INT/806.
Noah Harari, Homo Deus: Breve historia del mañana, Debate, Barcelona, 2016.
OECD, Best practices principles for regulatory policy: Regulatory enforcement and inspections. The
         organization for economic Cooperation and development, 2014, Paris.
OIT, Seguridad y salud en el centro del futuro del trabajo, Ginebra, 2019 en
         www.ilo.org/wcmsp5/groups/public/---dgreports/---
         dcomm/documents/publication/ wcms 686762.pdf.
OIT, Trabajar para un futuro más prometedor. comisión mundial sobre el futuro del trabajo, Ginebra,
         2019.
Pega and Marketforce, The Future of Work: A Report from Marketforce and Pegasystems,
         2017,        en       www.pega.com/system/files/resources/2018-12/Future-of-Work-
         Report.pdf.
Perez Luño, La tercera generación de derechos humanos, 2006, Thomson Aranzadi, Navarra.
Pérez Zapata O. et al, Digitalización, intensificación del trabajo y salud de los trabajadores
         españoles,                 2019               (versión                electrónica              en
         www.ccoo.es/24c0e370fa4b4d1f3682b1780854af9c000001.pdf
Pérez-Zapata, O., Trabajo sin límites, salud insostenible: La intensificación del trabajo del conocimiento,
         e-prints, Universidad Complutense de Madrid, 2015.
Pinilla-García y López Peláez, La intensificación del trabajo en España (2007-2011): Trabajo en
         equipo y flexibilidad, Reis: Revista Española De investigaciones Sociológicas 2017, 160, 79-94.
Popma, J., The janus face of the “New ways of work, Rise, risks and regulation of nomadic work,
         Working paper ETUI, 2013, Brusels.
Ridemar, A., Decision support for SWEA inspection. KTH Royal Institute of Technology, 2018,
         Stockholm.




       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                      C. 37
           A. TODOLÍ SIGNES, Análisis de los riesgos laborales asociados a un algoritmo



Rodríguez-Rico Roldan, Los retos para la prevención de riesgos laborales ante la tecnoficación del trabajo,
         en Cerejeria Namora et al, Health at work, ageing and enviromental effects on future social
         security and labour law Systems, 2018, Cambridege Scholars Publishing.
Rodríguez Escanciano S., Los riesgos psicosociales ante una vigilancia empresarial tecnológicamente
         avanzada: garantías preventivas y posibilidades de resarcimiento, en Fernández Domínguez,
         J.J y Rodríguez Escanciano S., (Dir.), Tiempos de cambio y salud mental de los trabajadores,
         2017, Bomarzo.
Rosemblat, Uberland, How Algorithms Are Rewriting the Rules of Work, 2019, University of
         California Press.
Salanova et al., Tecnostres: concepto, medida e intervención psicosocial, Instituto Nacional de
         Seguridad e Higiene en el trabajo, Nota técnica, 2007, 730.
Spicer A., et al., What Companies Should Ask Before Embracing Wearables, Harvard Business Review,
         2015, en https://hbr.org/2015/05/what-companies-should-ask-before-embracing-
         wearables.
Schumacher, S., What employees should know about electronic performance monitoring, ESSAI, 2011, 8,
         28, 138-144.
Steijn, W., et al., Emergent risk to workplace safety as a result of the use of robots in the work place,
         TNO Report R11488, TNO (Netherlands Organisation for Applied Scientific
         Research), 2016, Disponible en repository.tudelft.nl/view/tno/uuid:94d6e198-4249-
         40b8-80c0-2d73f7b2e92a/
Todolí Signes, A., La gobernanza colectiva de la protección de datos en las relaciones laborales: big data,
         creación de perfiles, decisiones empresariales automatizadas y los derechos colectivos, RDS, 2018,
         84.
UTS, Heat Stress and On-Demand work: The experience of food delivery and courier cyclists. Climate
         Justice                           Centre,                         2019,                        en
         opus.lib.uts.edu.au/bitstream/10453/134736/1/On%20Demand%20cyclists%20U
         TS%20final.pdf.
Van Jaarsveld y Poster, Emotional Labour over the pone en Grandey et al (eds) Emotional Labour
         in the 21st Century: Diverse Perspectives on Emotion regulation at work. 2013, NY, Routledge,
         153-174.
Wacher, B., Mittelstadt Y Floridi, Why a Right to Explanation of Automated Decision-Making Does
         Not Exist in the General Data Proteccion Regulation, International Data Privacy Law, 2017, 7,
         79–90.
Whittaker, X., There is only one thing in life worse than being watched, and that is not being watched:
         Digital data analytics and the reorganization of newspaper production, in Moore et al (coord),
         Humans and Machines at work, Palgrave Macmillan.
Wicken C., y Hollands, K., Engineering psychology and human performance, 2000, NY, Prentice
         Hall.
Young, S., Braddy, p.w., Y Fleenor, J.w., The impact of New technology on the Leadership
         Development          Industry,       Training       Industry       Magazine,         2017,      en
         https://trainingindustry.com/magazine/nov-dec-2016/the-impact-of-new-
         technology-on-the-leadership-development-industry/.




       LLI, Vol. 5, No. 2, 2019, ISSN 2421-2695                                                     C. 38
