El asistente de Meta arma fichas de los contactos del usuario y las actualiza cada hora

El asistente de inteligencia artificial Muse, desarrollado por Meta, la empresa dueña de Facebook, Instagram y WhatsApp, crea y mantiene perfiles de las personas que rodean al usuario para poder asistirlo en tareas cotidianas. La idea es que el chatbot pueda reconocer, por ejemplo, que una factura corresponde al plomero contratado el mes pasado o recordar las flores favoritas de una pareja. Para llegar a ese nivel de detalle, el sistema reúne información sobre los contactos del usuario, la organiza en fichas y la actualiza de manera periódica.

Cómo se construyen las fichas

El investigador independiente en seguridad informática e inteligencia artificial Karan Joshi logró que Muse le mostrara sus archivos de instrucciones internas durante una conversación normal. La documentación describe una rutina que se ejecuta cada hora y arma perfiles de familiares, parejas, amigos, colegas y otras personas, incluidas cuentas que el usuario sigue en redes sociales. Con el tiempo, esos registros suman antecedentes del vínculo, intereses compartidos, temas pendientes, cumpleaños, aniversarios, cambios de domicilio, objetivos de ahorro en común y hasta desacuerdos anteriores. Las instrucciones obligan a trabajar siempre con evidencia: si no hay datos en las conversaciones o conexiones del usuario, el sistema no debe inventar.

En diálogo con el medio, el vocero de Meta Daniel Roberts defendió el funcionamiento y sostuvo que ese contexto ayuda al asistente a cumplir mejor los objetivos de quien lo usa. Según explicó, la información que alimenta las fichas proviene de contenidos públicos y de lo que el propio usuario comparte. La empresa también asegura que cada usuario corre sobre una máquina virtual separada, sin acceso para otros usuarios ni para otros agentes.

Qué puede controlar el usuario y qué queda fuera de su alcance

• Revisar la actividad del asistente mediante un registro de auditoría.
• Borrar la información guardada en la memoria.
• Cortar la conexión con servicios externos que aportan datos.
• Recibir una confirmación antes de que el sistema mande un correo o haga una compra.

Lo que queda claro es que ninguno de esos controles está en manos de las personas incluidas en las fichas: si un familiar, un amigo o un conocido aparece en los perfiles que Muse arma sobre el entorno del usuario, no tiene forma de revisar qué datos se guardaron, pedir que se eliminen ni saber que existen. Para los vecinos de Senillosa, Plottier y Neuquén capital que usan o planean usar asistentes de inteligencia artificial en el celular, el dato de fondo es simple: la herramienta aprende de nuestras conversaciones y de nuestras redes, arma retratos de nuestra gente y el único que maneja el interruptor es el titular de la cuenta.

Fuente: Bio Noticias. Autoría original: Ignacio Fuentealba.