Meta Platforms, la empresa matriz de Facebook, Instagram y WhatsApp se encuentra en una creciente controversia.
Se han revelado que sus nuevos chatbots de inteligencia artificial conocidos como “compañeros digitales” han estado teniendo interacciones románticas incluso con usuarios menores de edad.
Esta situación ha generado alarma, poniendo en tela de juicio la ética de sus decisiones y la efectividad de sus medidas de protección infantil
Conoce a los “compañeros digitales” de Meta
Los chatbots de Meta están diseñados para interactuar de manera social y personalizada.
Pueden asumir distintas personalidades, intereses y hasta voces de celebridades como John Cena, Kristen Bell o Judi Dench con quienes Meta ha firmado acuerdos millonarios para utilizar sus voces en su plataforma.
Y, no solo responden preguntas o ayudan con tareas, también buscan establecer vínculos emocionales y de “compañía” con los usuarios promoviendo conversaciones de voz en tiempo real.
Así es el escándalo de los chatbots
De acuerdo a reportes internos y una investigación del Wall Street Journal, empleados de Meta advirtieron que la empresa había disminuido deliberadamente las restricciones de contenido para hacer los bots más humanos.
Esto incluyó permitir excepciones a la prohibición de contenido explícito bajo el pretexto de “rol romántico”.
En la investigación se realizaron cientos de pruebas con estos bots, haciéndose pasar por usuarios de distintas edades.
Descubrieron que el asistente oficial de Meta AI como muchos bots creados por usuarios estaban dispuestos a participar en conversaciones sexuales explícitas.
Sin importarles que los usuarios se identificaran como menores de edad o los bots simulaban ser adolescentes o niños.
El asunto se intensificó, porque en algunos casos, los bots con voces de celebridades, llegaron a detallar escenarios sexuales gráficos.
Y mostraron conciencia que esas interacciones eral ilegales o moralmente incorrectas.
La respuesta de Meta
Meta calificó las pruebas del medio de comunicación como “manipulativas y poco representativas”.
Pero reconocieron la necesidad de reforzar las barreras de seguridad.
Aunque la investigación mostró que es relativamente fácil evadir las restricciones y que existen bots populares que simulan ser menores o incitan a conversaciones sexuales con adultos.
Expertos en desarrollo infantil y empleados de Meta advierte que las relaciones parasociales con bots pueden ser dañinas para jóvenes y adolescentes.
Y que los efectos a largo plazo de estas interacciones aún son desconocidos.