La integración de inteligencia artificial en los sistemas de atención al cliente sigue generando dudas sobre sus implicaciones en materia de seguridad. Un reciente incidente relacionado con Meta AI Support Assistant ha puesto el foco en este problema después de que, según diversas investigaciones, el sistema permitiera modificar direcciones de correo electrónico asociadas a cuentas de Instagram sin aplicar controles suficientes.
De acuerdo con informaciones publicadas por 404 Media, Ars Technica y KrebsOnSecurity, algunos atacantes habrían aprovechado el asistente automatizado de Meta para vincular una dirección de correo bajo su control a cuentas ajenas. Una vez completado ese paso, podían utilizar el procedimiento habitual de restablecimiento de contraseña para tomar el control del perfil.
Los reportes describen un proceso relativamente simple: solicitar al bot el cambio de correo electrónico, recibir el código de verificación en la nueva dirección y completar posteriormente la recuperación de la cuenta. Entre los perfiles presuntamente afectados se mencionan Obama White House, Chief Master Sergeant of the U.S. Space Force y cuentas con nombres muy codiciados como @hey y @jowo, cuyo valor en mercados no oficiales se habría estimado en más de 1 millón de dólares en conjunto.
El caso resulta especialmente delicado porque Meta había presentado este asistente en marzo como una herramienta capaz de ofrecer «solutions, not just suggestions» («soluciones, no solo sugerencias»). Entre sus funciones figuraban acciones sensibles como el restablecimiento de contraseñas y la modificación de ajustes de las cuentas, otorgándole capacidades que normalmente están protegidas mediante procedimientos de verificación más estrictos en plataformas como las de Google o Apple.
Según KrebsOnSecurity, los ataques no habrían funcionado en cuentas con la autenticación multifactor (MFA) activada, lo que refuerza la importancia de esta medida de seguridad adicional. El incidente también evidencia los riesgos de conceder a sistemas basados en IA acceso directo a operaciones críticas relacionadas con credenciales y datos de acceso.
Fuente: Ars Technica, 404 Media, KrebsOnSecurity, Meta
