21 de junio de 2024

Alerta en el Sector de la IA: Empleados demandan medidas contra «graves riesgos» tecnológicos

En un acto sin precedentes, un conjunto de empleados actuales y antiguos de reconocidas empresas de inteligencia artificial (IA), tales como OpenAI, Google, DeepMind y Anthropic, han emitido una carta abierta solicitando protecciones frente a eventuales represalias que podrían enfrentar al divulgar sus preocupaciones sobre los peligros de la IA.

El documento, firmado por alrededor de 13 individuos, pone de manifiesto una preocupante situación: las compañías de IA albergan «información sustancial no pública» sobre lo que sus sistemas pueden y no pueden hacer, así como los riesgos y perjuicios que podrían derivarse de ellos, los firmantes critican que estas organizaciones solo tienen «obligaciones vagas» de informar a las autoridades gubernamentales y ninguna obligación hacia la sociedad civil.

La carta resalta que son los empleados de estas empresas los que están en posición de «exigir responsabilidad» a las corporaciones de IA, sin embargo, destacan que los extensos acuerdos de confidencialidad que suelen firmar representan una barrera para comunicar sus inquietudes de manera abierta.

Los riesgos asociados con la IA son múltiples y significativos, según los trabajadores, abarcando desde «un mayor afianzamiento de las desigualdades existentes», hasta amenazas de «manipulación, desinformación y la pérdida de control de los sistemas autónomos de IA», lo que podría llevar a «la extinción humana».

Ante esta realidad, los signatarios exigen a las empresas compromisos claros:

  • No aplicar acuerdos que impidan «la crítica a la compañía por preocupaciones relacionadas con el riesgo».
  • No ejercer represalias contra los trabajadores que hagan públicas dichas críticas.
  • Crear un procedimiento anónimo que permita tanto a empleados actuales como a excolaboradores presentar sus «inquietudes relacionadas con riesgos», ante las juntas directivas de las empresas, reguladores y una entidad independiente con la experiencia adecuada.

Esta valiente iniciativa subraya la necesidad imperante de un debate público más amplio y profundo sobre los riesgos potenciales que la inteligencia artificial representa para la sociedad actual y futura.

Con información de Nota de Prensa

Foto Referencial

Comparte esto