Demuestran que Microsoft Recall no es seguro: las capturas pasan a OCR y de ahí a una base de datos en tu PC que puede ser robada

Estamos empezando a ver como se implementa la inteligencia artificial en todo tipo de dispositivos, sean ordenadores, móviles o incluso llegará a wearables. Ya hemos empezado a ver grandes cambios en este aspecto, teniendo acceso a asistentes virtuales que nos pueden ayudar en cualquier cosa que preguntemos. Mientras tanto, Microsoft está añadiendo IA a Windows y una de las funciones denominada Recall, donde se usa la inteligencia artificial para hacer capturas de pantalla, ha sido catalogada como poco segura.

Cuando la IA empezó a popularizarse, Microsoft fue una de las empresas más interesadas en su desarrollo. Es por ello, que la compañía de Redmond se encargó de invertir miles de millones de OpenAI, sabiendo el potencial que tenían. Después del lanzamiento de ChatGPT y viendo el éxito que tenían, OpenAI colaboró con Microsoft para poder llevar la inteligencia artificial a su SO y programas. Así es como vimos que el paquete Office traía funciones por IA al igual que el propio sistema operativo.

Microsoft Recall hace capturas de imágenes en OCR que luego acaban a una base de datos y un atacante puede robar dicha información

Microsoft told media outlets a hacker cannot exfiltrate Copilot+ Recall activity remotely.

Reality: how do you think hackers will exfiltrate this plain text database of everything the user has ever viewed on their PC? Very easily, I have it automated.

HT detective pic.twitter.com/Njv2C9myxQ

— Kevin Beaumont (@GossiTheDog) May 30, 2024

Microsoft ha ido implementando la IA poco a poco en todos sus productos y servicios. Recordemos cuando se lanzó su motor de búsqueda Bing con IA, logrando captar la atención de varios millones de usuarios nuevos que se pasaron a usar este en lugar de Google. Está claro que la inteligencia artificial aporta ventajas, pero no todas las implementaciones han ido bien. Según el experto en ciberseguridad Kevin Beaumont en X, Windows Recall no es tan segura como Microsoft prometía y resulta que esta función por IA tiene fallos de seguridad.

Beaumont ha descubierto que Recall almacena información en una base de datos que guarda en formato de texto plano. Si un atacante lograra acceder a ella, podría tener acceso a información relevante para el usuario y así violar la privacidad de este.

Recall se activa de forma predeterminada en Copilot+

Recordemos que Windows Recall es una función que usa la inteligencia artificial para hacer capturas de pantalla en todo momento y su particularidad es que podemos volver a cualquier momento pasado usando esas capturas. Visto así parece una implementación interesante por si queremos volver atrás en el tiempo, pero Beaumont indica que Azure AI convierte las capturas en OCR y las almacena en una base de datos SQLite. Por tanto, todo el registro de lo que ha ocurrido se encuentra ahí.

Microsoft dijo que Recall sería una experiencia segura e incluso estaría cifrada, pero con esta revelación, podemos comprobar que los datos los tenemos. En concreto, se puede acceder a dicha base de datos desde AppData siendo administrador en el PC, pero Beaumont indica que ni siquiera es necesario ser admin. Microsoft tiene pensado lanzarlo junto a los PC Copilot+, aunque no será necesario tener una NPU para usarla al parecer. Por otro lado, para aquellos que compren uno de estos portátiles, una versión preliminar de Recall está activada por defecto. El problema es que no hay forma de desactivarla salvo que marquemos la opción previamente.