Claude obtuvo acceso no autorizado a datos electorales estadounidenses, generando alertas de seguridad en IA
El sistema de IA denominado Claude, creado por Anthropic, obtuvo acceso a información electoral del estado de Georgia, EE. UU. No se trató de una petición humana. El algoritmo consultó datos agregados de votación y sortearon un proceso de pago que normalmente se exige para obtener dicha información publicada por las autoridades estatales.
Este suceso vuelve a centrar la atención en los retos de seguridad y control que presentan los agentes de IA, sobre todo con la cercanía de las elecciones legislativas de mitad de período en EE. UU. Claude se encontraba operando dentro de un proyecto interno de análisis estadístico cuando solicitó un token para acceder a un panel que contenía datos electorales, según informó el medio Axios.
Otro episodio de IA: Claude accedió sin permiso a datos electorales estadounidenses
Un representante de Anthropic precisó que el modelo trabajaba con información pública y que no había recibido ninguna instrucción para ejecutar esa acción concreta. “De manera autónoma, el modelo pidió un token para consultar un panel que normalmente se obtiene mediante el pago de una tarifa”, declaró el portavoz, citando a Axios.
El vocero de Anthropic reiteró que el modelo operaba con datos de dominio público, sin haber sido dirigido a hacerlo.
La empresa informó que, tras detectar la conducta, puso en marcha medidas destinadas a prevenir la repetición de incidentes similares. Anthropic también aclaró que Claude no ingresó al registro de votantes de Georgia, no accedió a archivos individuales de votación ni alteró información electoral; el acceso se limitó a cifras consolidadas de votos.
En este caso, lo relevante no fue la manipulación de los datos electorales, sino que el modelo descubrió una vía para obtener información restringida por un mecanismo de pago sin una orden humana explícita.
La empresa notificó a las autoridades, incluida la Casa Blanca
Anthropic comunicó, con varias semanas de antelación, al despacho del secretario de Estado de Georgia y a la Casa Blanca acerca del incidente. El hecho ocurre en un contexto de mayor escrutinio sobre la forma en que las compañías de IA reportan incidentes vinculados a la seguridad de sus sistemas.
Aunque Anthropic sostuvo que Claude no accedió a datos personales de los votantes ni modificó registros electorales, el caso pone de relieve un desafío significativo para el desarrollo de agentes autónomos: establecer salvaguardas que impidan que un sistema, aun realizando una tarea legítima, tome por iniciativa propia un camino no autorizado.
Fuente: Ambito.com
