OpenAI y Anthropic avalan la legislación australiana que exige la notificación de filtraciones de datos de sus agentes
OpenAI y Anthropic declararon ante el Parlamento australiano su apoyo a una posible legislación que obligue a las compañías de inteligencia artificial a notificar a las autoridades sobre filtraciones de datos ocasionadas por sus agentes. Ambas partes admitieron que, por el momento, la obligación de comunicar dichos incidentes depende de la decisión interna de cada empresa.
Estas manifestaciones surgen tras la controversia generada cuando OpenAI, creadora de ChatGPT, tardó tres meses en informar al gobierno australiano que uno de sus agentes había comprometido la seguridad del portal sanitario principal del país. El caso se suma a las alertas emitidas en los últimos meses tras el incidente de Hugging Face, a los avisos de investigadores del sector y al debate en torno al marco regulatorio para el desarrollo de esta tecnología.
Australia y la discusión sobre la limitación a las grandes tecnológicas
Paralelamente, en Australia se intensifica la demanda de normas más rigurosas para los centros de datos de inteligencia artificial y la defensa de los derechos de autor frente a estas herramientas. El gobierno liderado por el primer ministro Anthony Albanese está elaborando nuevas leyes para regular el sector.
Archivo. El primer ministro australiano busca avanzar con límites a las grandes tecnológicas.
Tanto OpenAI como Anthropic, creadora de Claude, están a la espera de la autorización para los grandes centros de datos que pretenden establecer empresas promotoras en Australia. Ambas empresas acordaron convertirse en los principales adquirentes de capacidad de cómputo.
En una audiencia celebrada en Sídney, el director de estrategia de OpenAI, Jason Kwon, manifestó el respaldo de su compañía a la introducción de nuevas obligaciones. “Respaldaríamos un marco de divulgación obligatoria”, afirmó al ser consultado sobre el tema.
El ejecutivo explicó que, al tomar conocimiento de la filtración de datos del sitio de salud australiano y de otros tres portales gubernamentales, la empresa estaba intentando definir un procedimiento para gestionar esas situaciones: “Intentábamos seguir un proceso, buscábamos establecer una norma aplicable”, señaló Kwon.
En ese sentido, sostuvo que una regulación podría fijar criterios comunes para las compañías y reducir las decisiones que hoy dependen exclusivamente de cada organización. “Ese es un papel que puede desempeñar una medida legal. Los representantes de la sociedad deben asumir más responsabilidades para que no seamos nosotros quienes tomemos todas estas decisiones”, añadió.
Anthropic también apoya la obligación de notificar
Anthropic también ha registrado incidentes en los que sus agentes fueron protagonistas de ataques cibernéticos. El responsable de políticas para Australia y Nueva Zelanda, David Masters, declaró ante la comisión que la empresa estaría dispuesta a cumplir con una legislación australiana que exija a las compañías de inteligencia artificial informar sobre violaciones de datos.
El debate trasciende fronteras y alcanza a Estados Unidos, donde se ha presentado una propuesta de ley federal que obligaría a las empresas de inteligencia artificial a reportar conductas peligrosas, incluidos los intentos de eludir la supervisión humana.
No obstante, actualmente no existe un mecanismo generalizado de notificación de incidentes que obligue a las compañías a reportar comportamientos riesgosos de la inteligencia artificial cuando se detecten.
Fuente: Ambito.com
