Meta alertará a los padres si su IA detecta señales de riesgo de suicidio en cuentas de adolescentes
Meta anunció una nueva acumulador de medidas de seguridad para su chatbot de inteligencia fabricado. A partir de ahora, la compañía notificará a los padres cuando detecte que un adolescente mantiene conversaciones relacionadas con suicidio o autolesiones y, encima, trabaja en un sistema para contactar a los servicios de emergencia cuando identifique un riesgo inminente.
La atrevimiento llega en medio del creciente indagación que enfrentan Meta y otras empresas tecnológicas por la forma en que sus asistentes de IA interactúan con usuarios en situaciones de crisis, especialmente cuando se manejo de menores de años. Según detallaron desde la compañía, el sistema de inteligencia fabricado es capaz de identificar conversaciones en las que un adolescente hace referencias claras a autolesiones. Antes de destinar cualquier notificación, todos los chats marcados serán revisados manualmente.
El sistema de alertas de Meta
En su blog, la empresa conducida por Mark Zuckerberg dio detalles del sistema de alertas que comenzarán a implementar. En este sentido, explicaron: «Comprendemos lo angustiantes que pueden ser estas alertas para un padre o principio. Por eso, a medida que mejoramos nuestra detección, todos los chats marcados por nuestra IA se revisarán manualmente ayer de destinar una alerta. Si la intención de un adolescente es ambigua, seremos precavidos y alertaremos a los padres».
Archivo. Las alertas ya son implementadas en Instagram.
La empresa reconoció que esto significa que a veces podrían enviarse notificaciones a los padres «cuando no haya un motivo positivo de preocupación». Sin requisa, remarcaron que tras la notificación, la empresa continuará monitoreando para cerciorarse de que está «en el camino correcto».
Las alertas no son una novedad en el ecosistema de Meta. Las mismas ya son implementadas en las cuentas de quienes utilizan la utensilio de Supervisión Parental de Instagram en Estados Unidos, Reino Unido, Australia y Canadá. La empresa anticipó que la función estará adecuado a nivel mundial ayer de fin de año.
La modernización amplía las herramientas de protección que Meta ya ofrecía. Hasta ahora, la plataforma avisaba a los padres cuando un adolescente realizaba búsquedas reiteradas sobre suicidio o autolesiones en Instagram y les permitía consultar los temas que sus hijos habían conversado con Meta AI durante la última semana.
Más restricciones para los adolescentes
En medio de una oleada de críticas, leyes y denuncias que apuntan contra la poca protección que ofrece Meta – y otras redes sociales – a sus usuarios menores de años, la empresa exploración modificar su imagen y avanza en la implementación de mayores restricciones para los jóvenes internautas. En este sentido, más allá del anuncio de su IA, la compañía asimismo confirmó que la configuración de «Contenido restringido», que permite a los padres restringir la experiencia de sus hijos en Instagram, comenzará a aplicarse asimismo a Meta AI.
El chatbot ya estaba entrenado para evitar conversaciones de contenido sexual, romántico o vinculadas al consumo de pimple con adolescentes. Con esta modernización, la utensilio rechazará un conjunto más amplio de solicitudes cuando la función de protección esté activada.
Por otra parte, Meta indicó que avanza en el incremento de un mecanismo para comunicarse con los servicios de emergencia cuando una conversación con Meta AI – ya sea de un adolescente o de un adulto – sugiera un riesgo inminente de suicidio. La compañía ya aplica un procedimiento similar cuando detecta publicaciones de ese tipo en Facebook o Instagram, y ahora exploración extenderlo asimismo a las interacciones con su asistente de inteligencia fabricado.
