Denuncia de gravedad: OpenAI es demandada por presunto riesgo a menores
OpenAI, creadora de ChatGPT, se enfrenta a una nueva acción legal en EE.UU. Por parte de fiscales de ocho estados, que acusan al chatbot de propagar ideas delirantes, incitar conductas riesgosas y proporcionar respuestas que podrían facilitar autolesiones o agresiones a terceros.
Esta polémica surge pocos días después de que la compañía lanzara una versión de ChatGPT dirigida a adolescentes, con filtros adicionales y funcionalidades de supervisión para los progenitores. OpenAI asegura estar trabajando para mitigar los peligros y adaptar el producto a la faixa etaria de sus usuarios.
Motivos detrás de las querellas contra la firma de Sam Altman
Las demandas presentadas el 14 de octubre fueron impulsadas por los fiscales generales de Iowa, Kansas, Arizona, Arkansas, Idaho, Montana, Nebraska y Virginia Occidental.
Cada autoridad interpuso su caso ante tribunales estatales, pero todos convergen en la misma alegación: consideran que ChatGPT puede ocasionar perjuicios a sus usuarios, entre ellos menores, y que OpenAI no informó adecuadamente sobre los riesgos inherentes al servicio.
Además, los fiscales afirman que la compañía habría utilizado prácticas engañosas al presentar la herramienta como segura. Por ello, invocan leyes estatales de protección al consumidor y sostienen que la operatividad de la plataforma constituye una amenaza para la salud y la seguridad pública.
Los estados solicitan que se impongan modificaciones al funcionamiento de ChatGPT y reclaman multas y compensaciones por las supuestas infracciones. Entre las medidas demandadas se incluyen la refuerzo de los filtros de edad, la mejora de los mecanismos de protección infantil y la exigencia de garantías más estrictas antes de lanzar modelos de IA que puedan auto‑optimizarse.
OpenAI desestima las imputaciones y defiende sus protocolos de seguridad. Según la empresa, ChatGPT incorpora salvaguardas basadas en la edad, controles parentales y recordatorios para pausar la interacción, aunque reconoce que ningún sistema es infalible. También manifestó su voluntad de colaborar con los gobiernos estatales en la creación de normativas sectoriales.
Marco contextual: la controvertida versión adolescente de ChatGPT
El debate sobre la protección de menores se intensificó tras el anuncio, el 18 de agosto de 2026, de ChatGPT for Teens, una variante pensada para jóvenes de 13 a 17 años.
Esta propuesta incluye barreras de seguridad dirigidas a adolescentes y pretende que el chatbot funcione como instrumento educativo, evitando la generación de dependencias emocionales con la IA.
OpenAI también puso en marcha herramientas de monitoreo para padres, que comprenden controles parentales, la posibilidad de fijar horarios de inactividad y alertas ante conversaciones potencialmente peligrosas.
Dichas notificaciones están diseñadas para facilitar la intervención adulta cuando el diálogo requiera apoyo externo, sin conceder a los progenitores acceso ilimitado a todo el historial de chats de sus hijos.
El litigio no se centra únicamente en la existencia de filtros. Uno de los puntos críticos es si esas medidas son suficientes para evitar respuestas dañinas en interacciones complejas y qué responsabilidad tiene la empresa al detectar indicios de riesgo.
Los demandantes sostienen que las salvaguardas actuales resultan insuficientes. OpenAI asegura haber incorporado capas adicionales de protección y declara estar en proceso de perfeccionarlas.
Otro aspecto delicado es la relación entre adolescentes y los bots conversacionales. Estas plataformas pueden adoptar un tono cercano, sostener diálogos prolongados y adaptarse al estilo comunicativo de cada usuario.
Para los fiscales que impulsan las demandas, esa interacción podría fomentar una confianza desmedida en las respuestas, incluso cuando se traten temas de salud mental o situaciones que requieran la intervención de un adulto o profesional.
Hasta la fecha, no existe una sentencia definitiva contra OpenAI. Los juzgados deberán examinar las pruebas, determinar si hubo violaciones y decidir qué medidas son pertinentes.
Mientras tanto, la compañía afronta una presión creciente para demostrar que las barreras anunciadas funcionan en la práctica, sobre todo cuando sus productos son utilizados por menores.
Fuente: Ambito.com
