La reciente decisión de Meta de utilizar su inteligencia artificial para monitorizar las conversaciones de los adolescentes ha levantado una polvareda en la comunidad. En un intento por detectar señales de riesgo, como menciones al suicidio o autolesiones, esta IA alertará a los padres cuando sus hijos aborden estos temas delicados. Pero, ¿realmente estamos hablando de protección o estamos cruzando una línea que no deberíamos?
El dilema entre la seguridad y la privacidad
Desde el blog oficial de Meta nos dicen que están trabajando para identificar cuando un menor “podría estar pasando por un momento difícil”. Sin embargo, este proceso pasa primero por el filtro de un equipo humano antes de que se notifique a los padres. Aquí es donde surge la primera inquietud: ¿quiénes son esos moderadores? Y más importante aún, ¿cómo garantizan que no se malinterpreten las intenciones del adolescente?
Las herramientas como estas pueden sonar bien en teoría, pero hay quienes ven esto como un monocultivo turístico en el ámbito digital; una forma más en que las grandes corporaciones controlan lo que nuestros jóvenes piensan y sienten. La idea de que una máquina pueda juzgar el estado emocional de un ser humano resulta escalofriante.
No podemos olvidar que Meta también está colaborando con expertos en salud mental para afinar cómo su IA interactúa con estos temas tan sensibles. En palabras propias: «Estamos utilizando esos comentarios para mejorar aún más la forma en que Meta AI interactúa con los adolescentes sobre estos temas delicados».
A pesar de todas estas buenas intenciones, muchos padres se preguntan si realmente quieren delegar esta responsabilidad a una máquina. Por ahora, estas alertas están disponibles en países como Estados Unidos y Australia, pero hay planes para extenderlo globalmente antes de fin de año.
Mientras tanto, muchos ya están utilizando las configuraciones limitadas para controlar qué tipo de contenido ven sus hijos. Pero al final del día, lo que realmente necesitamos es diálogo real y cercanía familiar; porque lo último que queremos es tirar a la basura la comunicación directa con nuestros chicos.