Empleados de Google renuncian por el uso militar de la inteligencia artificial de la compañía

Mundo | Varios empleados de Google DeepMind, la división de inteligencia artificial de Google, han renunciado o están en proceso de hacerlo debido a su preocupación por los contratos militares de la empresa tecnológica. La BBC ha entrevistado a algunos de estos trabajadores, quienes expresaron su rechazo al uso de la tecnología de IA en contextos bélicos.

Sofia Liguori, ingeniera de investigación en Londres, dimitió de Google DeepMind esta semana. A pesar de las restricciones contractuales, Liguori manifestó a la BBC su vergüenza por la creciente implicación de Google en el impulso de sistemas de IA para operaciones militares. Tras tres años en la empresa, su decisión de renunciar se fundamenta en el trabajo de Google con los ejércitos de Estados Unidos e Israel, lo que, según ella, la ha llevado a perder la fe en que la compañía sea fiel a sus valores éticos declarados.

Los Principios de IA de Google incluyen la implementación de la IA con “supervisión humana” y el alineamiento de la tecnología con el “derecho internacional y los derechos humanos”. Sin embargo, exempleados, empleados actuales y expertos consultados por la BBC han expresado inquietudes sobre el nivel de supervisión humana en momentos críticos, especialmente en relación con los acuerdos militares de IA firmados este año, que amplían el rango de usos para el Pentágono.

Andreas Kirsch, investigador de inteligencia artificial, también dimitió de Google DeepMind a principios de este mes. Kirsch declaró a la BBC que la gobernanza y supervisión de Google no son suficientes para desplegar la IA de forma segura y responsable en entornos militares y clasificados, ni para desarrollar una superinteligencia artificial de manera segura en el futuro. Añadió que Google parece no tener derecho a controlar o vetar cómo el Pentágono utiliza su IA, y que su visibilidad sobre la implementación es limitada.

Google es una de varias empresas tecnológicas que firmaron contratos con el ejército estadounidense a principios de este año para integrar la inteligencia artificial en entornos militares clasificados. El secretario de Defensa de EE.UU., Pete Hegseth, ha priorizado la integración de la IA en las fuerzas armadas, buscando convertirlas en una “fuerza de combate basada en la IA”. El Pentágono sostiene que la adopción de tecnologías de IA es esencial para ganar guerras, afirmando que “la velocidad define la victoria en la era de la IA”.

El contrato de Google con el Pentágono permite el uso de su tecnología de IA para tareas militares clasificadas, estipulando que los modelos pueden utilizarse para “cualquier fin gubernamental legítimo” y “no deben emplearse para la vigilancia masiva interna ni para armas autónomas (incluida la selección de objetivos) sin la supervisión y el control humanos adecuados”.

Sarah Shoker, exdirectora del equipo de Geopolítica de OpenAI, advirtió que la IA reduce el tiempo de decisión de un operador, lo que es arriesgado en entornos de alto estrés. Señaló que, con cientos de objetivos seleccionados por IA y poco tiempo, es casi imposible para un operador humano revisar significativamente los resultados en busca de errores.

Empleados de Google indicaron a la BBC que existe temor a pronunciarse sobre la seguridad de la IA y su uso en la guerra debido a cláusulas contractuales que prohíben criticar públicamente a la empresa. Liguori, por ejemplo, afirmó que no tiene permitido criticar a Google, pero decidió hablar porque considera importante que estos hechos se conozcan. Un empleado actual de Google DeepMind, que prefirió el anonimato, mencionó que muchos empleados motivados podrían marcharse, pero que hay una cantera de personas al inicio de sus carreras que podrían ocupar esos puestos.

Los acuerdos de Google con Israel también han generado controversia. En 2024, la empresa fue criticada por empleados debido al Proyecto Nimbus, un contrato conjunto con Amazon de US$1.200 millones para proporcionar tecnología de IA e infraestructura de computación en la nube al gobierno y ejército israelíes. Google afirmó entonces que el Proyecto Nimbus “no está dirigido a cargas de trabajo altamente sensibles, clasificadas o militares relacionadas con armamento o servicios de inteligencia”.

Andreas Kirsch considera que la tecnología de IA no está lista para ser aplicada en el campo de batalla, ya que los modelos actuales no son lo suficientemente robustos ni han sido entrenados para este tipo de tareas.

Fuente: BBC Mundo