Mundo | Varios empleados de Google DeepMind, la división de inteligencia artificial de Google, han renunciado a sus puestos o están en proceso de hacerlo, expresando su preocupación por los contratos militares de la compañía. La BBC entrevistó a algunos de estos trabajadores, quienes manifestaron su rechazo al creciente uso de la tecnología de IA en contextos bélicos.
Sofia Liguori, ingeniera de investigación en Londres, dimitió de Google DeepMind y compartió con la BBC su descontento. "Al darme cuenta de que mi empresa está impulsando cada vez más el uso de sistemas de IA en operaciones militares, me avergüenza trabajar en Google", declaró Liguori. Tras tres años en la empresa, su decisión de renunciar se debe al trabajo de Google con los ejércitos de Estados Unidos e Israel, lo que, según ella, la ha llevado a "perder la fe en que mi empresa sea fiel a los valores éticos que declara".
Los Principios de IA de Google establecen valores como la implementación de la IA con "supervisión humana" y el alineamiento de la tecnología con el "derecho internacional y los derechos humanos". Sin embargo, exempleados, empleados actuales y expertos consultados por la BBC han expresado inquietudes sobre el nivel de supervisión humana en momentos críticos.
Andreas Kirsch, investigador de inteligencia artificial, también renunció a Google DeepMind a principios de este mes. Kirsch afirmó a la BBC que la "gobernanza y la supervisión de Google no son suficientes ni lo suficientemente significativas como para desplegar la IA de forma segura y responsable en entornos militares y clasificados" o "para desarrollar una superinteligencia artificial de forma segura en el futuro". Añadió que Google "parece no tener derecho a controlar ni a vetar cómo el Pentágono utiliza su IA, y además parece tener una visibilidad limitada sobre cómo se está implantando".
Un portavoz de Google respondió a la BBC que la empresa "trabaja con organizaciones del sector público en todo el mundo y seguimos un proceso coherente para revisar y formalizar estos contratos, incluido el cumplimiento de nuestras políticas de uso aceptable y los principios de IA". También mencionó la existencia de "canales específicos para que los empleados puedan plantear de forma segura cualquier inquietud" y "políticas laborales estrictas para evitar represalias de cualquier tipo".
Google es una de las varias empresas tecnológicas que firmaron contratos con el ejército estadounidense a principios de este año para implementar la inteligencia artificial en entornos militares clasificados. El secretario de Defensa de EE.UU., Pete Hegseth, ha priorizado la integración de la IA en las fuerzas armadas, buscando convertirlas en una "fuerza de combate basada en la IA".
Los trabajadores del sector tecnológico están particularmente preocupados por los acuerdos militares sobre inteligencia artificial firmados este año, ya que amplían el abanico de usos que el Pentágono puede darle a esta tecnología. El contrato de Google con el Pentágono permite el uso de su tecnología de IA para tareas militares clasificadas, estipulando que los modelos de IA no deben emplearse para "vigilancia masiva interna ni para armas autónomas (incluida la selección de objetivos) sin la supervisión y el control humanos adecuados".
Sarah Shoker, exdirectora del equipo de Geopolítica de OpenAI, advirtió que la IA "reduce el tiempo que tiene un operador para tomar una decisión, porque trabaja mucho más rápido que una persona, y eso es especialmente arriesgado en un entorno de alto estrés". Explicó que con "cientos de objetivos seleccionados por IA y poco tiempo, es casi imposible para un operador humano revisar de forma significativa los resultados de la IA en busca de errores".
Empleados de Google indicaron a la BBC que existe temor a pronunciarse sobre la seguridad de la IA y su uso en la guerra debido a cláusulas contractuales que prohíben criticar públicamente a la empresa. Liguori, por ejemplo, señaló que "en principio, no tengo permitido criticar a Google durante el resto de mi vida", pero decidió hablar porque considera "importante que estas cosas se sepan" y que "hablar de hechos no es criticar". Añadió que en Google "la gente tiene miedo a las represalias y a poner en riesgo su carrera. Sientes que te vigilan, no puedes hablar".
Otro empleado actual de Google DeepMind, que prefirió el anonimato, comentó que "muchos empleados motivados que se unieron a la misión original de la empresa podrían marcharse, pero también hay una cantera de personas al inicio de sus carreras que podrían ocupar esos puestos. Podría tratarse de un relevo generacional".
Los acuerdos de Google con Israel también han generado controversia. En 2024, la empresa fue criticada por sus empleados debido al Proyecto Nimbus, un contrato conjunto con Amazon de US$1.200 millones que proporciona al gobierno y al ejército israelíes tecnología de IA e infraestructura de computación en la nube. Google afirmó entonces que el Proyecto Nimbus "no está dirigido a cargas de trabajo altamente sensibles, clasificadas o militares relacionadas con armamento o servicios de inteligencia".
Kirsch, el exempleado de Google, reiteró que la tecnología de IA no está lista para el campo de batalla, argumentando que "los modelos de IA actuales no son lo suficientemente robustos, y no creo que hayan sido entrenados para este tipo de tareas".
Fuente: BBC Mundo
Apoya el periodismo independiente
Sinpe 6334-5121 | Donar Aquí