Automatización

La automatización puede mejorar el output al mismo tiempo que reduce el tiempo y trabajo requeridos, incrementando así la productividad de los trabajadores y la demanda de otros tipos de trabajo. Por ejemplo, ella puede optimizar la revisión de documentos, recortando el tiempo que los abogados necesitan para revisar los documentos o los académicos las fuentes, etc. En Azerbaiyán, el gobierno se asoció con el sector privado en el uso de un sistema automatizado para reducir el número pendiente de casos judiciales relativamente simples, como las demandas de cuentas impagas. Cuando la automatización incrementa la calidad de los servicios o bienes y/o reduce su costo, resulta posible cubrir una demanda más significativa de bienes o de servicios.

La automatización puede mejorar la velocidad, eficiencia, calidad, consistencia y cobertura del suministro de un servicio y reducir los errores humanos, el tiempo invertido y los costos. Puede por ende hacer posible que las actividades crezcan en escala. Por ejemplo, el PNUD y el gobierno de las Maldivas la usaron para crear mapas en 3-D de las islas y graficar su topografía. Tener esta información registrada acelerará los esfuerzos de socorro y rescate en caso de desastres. El uso de drones también redujo el tiempo y el dinero requeridos para llevar a cabo esta labor: el mapeo de 11 islas usualmente tomaba casi un año, pero el uso de un dron redujo esto a un día. Véanse ejemplos adicionales en el recurso sobre Robots y drones.

Optimizar una tarea automatizada por lo general requiere de trade-offs entre el costo, la precisión, el margen de error permisible y la escala. A veces podría necesitar que toleremos más errores a fin de reducir así los costos o alcanzar una escala más grande. Para mayor información véase la sección “Knowing when automation offers a suitable solution to the challenge at hand (Saber cuándo la automatización ofrece una solución idónea para el problema a mano)” en Automation of government processes (Automatización de los procesos gubernamentales).

En el caso de los procesos democráticos, la automatización puede ayudar facilitando el acceso a los votantes que no pueden viajar a los centros de votación vía el voto electrónico remoto, o usando sistemas accesibles en dichos centros. Es más, el uso de la automatización en el conteo de los votos puede ayudar a disminuir los errores en algunos casos e incrementar la confianza en el proceso democrático.

La automatización puede incrementar la transparencia haciendo que los datos y la información estén fácilmente a disposición del público, construyendo así su confianza y ayudando a la rendición de cuentas. En la India, el Departamento Estatal de Transporte de Karnataka cuenta con centros de exámenes de conducir automatizados esperando así eliminar los sobornos en la emisión de las licencias de conductor. Una serie de cámaras de alta definición y sensores, colocados a lo largo de la pista de prueba, captan el movimiento del vehículo, en tanto que un sistema computarizado decide si el conductor ha aprobado la prueba o si ha sido reprobado. Véase también “Are emerging technologies helping win the fight against corruption in developing countries? (¿Las tecnologías emergentes están ayudando a combatir la corrupción en los países en vías de desarrollo?)”.

Cuando la automatización se usa para reemplazar trabajadores humanos, la pérdida resultante de puestos de trabajo provoca un desempleo estructural al que se conoce como “desempleo tecnológico”. El desempleo estructural afecta de modo desproporcionado a las mujeres, los pobres y otros miembros vulnerables de la sociedad, salvo que sean vueltos a capacitar y se les brinde la protección adecuada La automatización además requiere de mano de obra calificada que pueda operar, supervisar o mantener sistemas automatizados, y eventualmente crea puestos para una parte más pequeño de la población. Pero el impacto inmediato de esta transformación laboral puede ser perjudicial para la gente y las comunidades que no tienen redes de seguridad social u oportunidades para encontrar otro trabajo.

Además se han establecido vínculos entre la creciente automatización y el alza en la preferencia por los políticos populistas, a medida que la pérdida de empleos comienza a afectar en particular a los trabajadores de bajos ingresos. Un estudio publicado en Proceedings of the National Academy of Sciences (PNAS) halló una correlación entre el impacto de la globalización y la automatización de un lado, y la creciente participación electoral de los partidos políticos populistas de derecha en varios países europeos del otro. Si bien la automatización puede tener un impacto positivo en la utilidad total, los trabajadores no educados y con bajos salarios podrían sentirse particularmente golpeados al mantenerse su salario bajo y sus labores ser reemplazadas con sistemas automatizados.

Los sistemas automatizados equipados con inteligencia artificial (IA) pueden producir resultados que discriminan a algunos grupos marginados y minoritarios, cuando el sistema ha aprendido a partir de patrones de aprendizaje, conjuntos de datos o de una toma de decisiones humana sesgados. Los outputs de sistemas automatizados equipados con IA podrían reflejar sesgos sociales, prejuicios y un trato discriminatorio dado a ciertos grupos en la vida real. Los sesgos podrían también darse debido a la implementación humana de sistemas automatizados, por ejemplo cuando no funcionan en el mundo real como sí lo hicieron en un laboratorio o entorno teórico, o cuando los humanos que trabajan con las máquinas malinterpretan o usan incorrectamente la tecnología automatizada.

Hay numerosos ejemplos de discriminación, racial y de otro tipo, que fueron ya replicadas, ya magnificadas por la automatización. Para dar un ejemplo tomado del campo de la vigilancia policial predictiva, luego de efectuar una investigación en 2016 ProPublica reportó que COMPAS, una herramienta de IA basada en datos que buscaba asistir a los jueces de los EE.UU., estaba sesgada contra la población negra cuando establecía si un delincuente condenado cometería más delitos en el futuro. Para mayor información sobre la vigilancia policial predictiva véase “How to Fight Bias with Predictive Policing” (Cómo combatir el sesgo con la vigilancia policial predictiva”) y “A Popular Algorithm Is No Better at Predicting Crimes Than Random People (“Un algoritmo popular no predice mejor los delitos que personas aleatorias”).

Estos riesgos también existen en otros ámbitos. El informe titulado “Bots at the gate: A human rights analysis of automated decision-making in Canada’s immigration and refugee system” (“Bots en la puerta: un análisis de derechos humanos de la toma de decisiones automatizada en el sistema de inmigración y refugiados de Canadá”), publicado por la Universidad de Toronto y Citizen Lab, señala que “[m]uchos [de los que buscan asilo y de los migrantes] provienen de países asolados por la guerra y que buscan protección de la violencia y la persecución. La naturaleza matizada y compleja de muchos pedidos de refugio e inmigración se pierde en estas tecnologías, lo que genera serias violaciones de derechos humanos protegidos internacional y nacionalmente bajo la forma de sesgos, discriminación, violaciones de la privacidad, el debido proceso y de cuestiones de justicia procesal, entre otros Estos sistemas tendrán ramificaciones de vida o muerte para la gente común, muchos de los cuales están huyendo para salvar su vida”.

Las leyes y regulaciones existentes podrían no ser aplicables a los sistemas de automatización, y allí donde sí lo son, la aplicación podría no estar bien definida. No todos los países cuentan con leyes que protegen a las personas de estos peligros. Según el RGPD (el Reglamento General de Protección de Datos europeo), las personas tienen el derecho a no quedar sujetas a una decisión basada únicamente en un procesamiento automatizado, lo que incluye el perfilamiento. En otras palabras, son humanos los que deben supervisar las decisiones importantes que afectan a las personas. Pero no todos los países tienen estas normas o las respetan, y ni siquiera el RGPD es hecho valer en todas las situaciones. Mientras tanto, las personas tienen que reclamar activamente sus derechos y cuestionar estas decisiones, usualmente buscando asistencia legal, lo que cae más allá de las posibilidades de muchos de ellos. Los grupos perjudicados por esta discriminación tienden a tener menos recursos y un acceso limitado a la protección de los derechos humanos, lo que les permitiría cuestionar tales decisiones.

La gente tiende a tener fe en la automatización y a creer que la tecnología es precisa, neutral y que no discrimina. Podemos describir esto como el “sesgo de la automatización”: cuando los humanos que trabajan con o supervisan los sistemas automatizados tienen a ceder la responsabilidad a la máquina, y confían en su capacidad para tomar decisiones de modo acrítico. Se ha mostrado que el sesgo de la automatización tiene impactos perjudiciales en los sectores automatizados, lo que incluye la generación de errores en el cuidado de la salud. Este sesgo también tiene un papel en la discriminación descrita líneas arriba.

El uso cada vez más grande de la automatización genera interrogantes y preocupaciones éticas que podrían no haber sido consideradas antes del advenimiento de la tecnología misma. Por ejemplo, ¿quién es responsable si un vehículo autónomo participa en un accidente? ¿Cuánta información personal debiera darse a los proveedores del servicio de salud para facilitar su monitoreo automatizado? En muchos casos será necesario contar con más investigaciones antes de siquiera poder comenzar a abordar estos dilemas.

Cuando los sistemas automatizados toman decisiones que afectan las decisiones de la gente borran la formación, el contexto y la expresión de su consentimiento (o la falta del mismo), tal como se describe en este pasaje: “…[E]l debilitamiento de la libre elección de nuestro consentimiento individual —ya sea a través de la distorsión abierta de la información, o incluso debido sólo a la ausencia de transparencia— pone en peligro las mismas bases de cómo expresamos nuestros derechos humanos y hacemos responsables a otros de su privación abierta (o incluso latente)”.Véase información adicional sobre el consentimiento informado en el recurso de Protección de datos.

Las tecnologías de automatización a gran escala tienen costos de capital sumamente altos, lo cual es un riesgo en caso su uso no sea viable en el largo plazo, o que de algún otro modo no asegure retornos conmensurables o la recuperación de los costos. De ahí que los proyectos de automatización financiados con fondos públicos (por ejemplo, parte de la infraestructura de una “ciudad inteligente ”) necesitan contar con exhaustivos estudios de factibilidad que evalúen las necesidades y aseguren la viabilidad en el largo plazo. Por otro lado, el costo inicial podría también ser demasiado alto para las personas y las comunidades. Una planta automatizada de energía solar o un sistema de cosecha de agua de lluvia son una gran inversión para una comunidad. Pero el costo podría recuperarse, sin embargo, en el largo plazo, dependiendo de la tarifa de la energía de la red o del agua.

Vehículos agrícolas automatizados

“Las predicciones del incremento de la población mundial en las décadas venideras exige nuevos procesos productivos que sean más eficientes, seguros y menos destructivos para el medio ambiente. Las industrias vienen trabajando para cumplir esta misión desarrollando el concepto de la fábrica inteligente. El mundo agrícola debiera seguir el liderazgo de la industria y diseñar enfoques con los cuales implementar el concepto de la granja inteligente. Uno de los elementos más vitales a los que se debe configurar para satisfacer los requisitos de las nuevas granjas inteligentes, son los vehículos terrestres no tripulados (UGV)”.

Sistemas de votación automatizados en Estonia

Desde 2005, Estonia permite el voto electrónico, en donde los ciudadanos pueden emitir su sufragio en línea. En cada elección sucesiva, los votantes eligieron cada vez más sufragar en línea para ahorrar tiempo y participar en las elecciones nacionales y locales con facilidad. Ellos usan una ID digital que ayuda a verificar su identificación y prevenir el fraude; los sufragios emitidos en línea se cruzan automáticamente con los padrones para asegurar así que no haya ninguna duplicación o fraude de votantes.

Minería automatizada en África del Sur

“Los crecientes costos de mano de obra y energía están presionando el desempeño financiero de la minas de oro de África del Sur, pero la solución podría yacer en la adopción de tecnologías digitales. Al implementar operadores automatizados se puede poner fuera de peligro a los trabajadores subterráneos, lo que habrá de ser un imperativo cada vez mayor si se quiere que el capital internacional siga invirtiendo en los mineros de oro. Este énfasis creciente en la seguridad de la fuerza laboral y de las minas está motivando el desarrollo del mercado minero automatizado. Las técnicas anteriores y más viejas de exploración y perforación comprometían la seguridad de la fuerza laboral de las minas. Estos ejemplos han obligado a los operarios a diseñar resoluciones y herramientas inteligentes para así confirmar la seguridad de los trabajadores”.

Procesamiento automatizado de casos civiles no impugnados para reducir los casos acumulados en los juzgados de Azerbaiyán, estudio de caso 14

“En Azerbaiyán, el gobierno diseñó un nuevo enfoque con el cual abordar sus propios casos acumulados, uno que abordaba elementos tanto del lado de la oferta como de la demanda. Advirtiendo que gran parte de lo acumulado se debía a simples casos civiles, como las demandas por cuentas impagas, el gobierno se asoció con el sector privado en el uso de un sistema automatizado para optimizar el manejo de los casos no impugnados, dejando así libre el tiempo de los jueces para los casos más importantes”.

Reformando el reclutamiento del Servicio Civil en Indonesia con exámenes computarizados, estudio de caso 6

“En Indonesia, la Agencia del Servicio Civil (BKN) logró introducir un sistema de evaluación asistido por computadoras (CAT), para así alterar el viejo sistema previo de pruebas manuales, el cual creaba oportunidades desenfrenadas para la corrupción en el reclutamiento del servicio civil por parte de los funcionarios del ministerio. Ahora la base de datos de preguntas se encuentra bien controlada y los resultados se publican en tiempo real fuera del centro de evaluaciones. Desde su lanzamiento en 2013, el CAT se ha convertido en el estándar de facto para más de 62 ministerios y agencias”.

Automatización en tiempo real de la agricultura de la India

“La “automatización en tiempo real del sistema agrario de la india” usando microcontroladores AVR (Advanced Virtual RISC y GSM (Global System for Mobile), está concentrado en hacer que el proceso agrícola sea más fácil con la ayuda de la automatización. La configuración consta de un procesador que es un microcontrolador de 8 bits. GSM tiene una parte importante al controlar el riego en el campo. Se le usa para recibir y enviar al agricultor los datos recogidos por los sensores. GSM actúa como puente conector entre el microcontrolador AVR y el granjero. Nuestro estudio busca implementar la aplicación básica de la automatización del riego en el campo programando los componentes y construyendo el hardware necesario. En nuestro estudio se usaron distintos tipos de sensores como LM35, un sensor de humedad del aire, otro de la humedad del suelo y un sensor IR usado para encontrar la condición precisa del campo. Se usa GSM para informarle al agricultor el estado exacto del campo, de modo tal que [pueda] tomar las medidas necesarias. Se usan comandos de AT(Atención) para controlar funciones tales como la irrigación, el arado, el uso de las semillas y el efectuar otras actividades agrícolas”.

Un estudio publicado en mayo de 2020 acerca del abandono del voto electrónico en Kazajstán, resalta algunos de los retos políticos que lo rodean. Kazajstán lo empleó entre 2004 y 2011, y fue considerado un ejemplo destacado. Véase “Kazakhstan: Voter registration Case Study (2006)” que fuera producido por la Ace Project Electoral Knowledge Network. Sin embargo, el país retornó a las cédulas de papel tradicionales debido a la falta de confianza que la ciudadanía y la sociedad civil tenían, en la capacidad del gobierno para asegurar la integridad de los procedimientos de votación electrónicos. Véase “Politicization of e-voting rejection: reflections from Kazakhstan,” de Maxat Kassen. Es importante señalar que Kazajstán no utilizó la votación biométrica, sino más bien máquinas de votación electrónicas que funcionaban mediante pantallas táctiles.