Copilot+ ohne Snapdragon X: Recall lässt sich auch ohne (unterstützte) NPU aktivieren
Microsofts Next-Gen-AI-Assistent Copilot+ startet am 18. Juni zuerst auf neuen Notebooks mit Qualcomm Snapdragon X Elite/Plus und Windows 11 on Arm. Offizieller Grund: die mit 45 TOPS sehr starke NPU dieses SoCs, die die lokal laufenden KI-Features wie Recall erst ermögliche. Per Hack ist Recall aber auch anderswo nutzbar.
Recall läuft auch ohne NPU des Snapdragon X
Nachgewiesen hat das X-Nutzer Albacore mit der Vorschau von Windows 11 on Arm 24H2 auf einem älteren Windows-on-Arm-Notebook mit Qualcomm Snapdragon 7c+ Gen 3. Dieses SoC verfügt zwar bereits über eine NPU, sie wird von Windows 11 aber nicht unterstützt, der Copilot+ inklusive Recall ist nach der Installation nicht aktiv.
Albacore ist es über Manipulationen am System aber gelungen, die von Recall initiierten Lasten auf dem System auf der CPU abarbeiten zu lassen. Zwar sei die NPU „für bestimmte Workloads Voraussetzung“, die Kernfunktionen von Recall würden aber auch ohne laufen.
Aktuell arbeitet der Nutzer an einem Tool, das die erforderlichen Eingriffe im System automatisiert vornimmt. Vorerst testen kann er das nur auf der Arm64-Version von Windows 11 24H2, da in der x86-Vorschau noch nicht die erforderlichen ML-Modelle enthalten sind. Was Albacore hingegen schon bestätigen kann, ist, dass Recall vollständig offline läuft.
Die im Video sichtbare Verzögerung ist laut Albacore auf die Aufnahmetechnik zurückzuführen, Recall selbst laufe ohne NPU hingegen erstaunlich gut auf der alten Hardware. Details zur Auslastung oder Auswirkungen auf die Akkulaufzeit liegen allerdings noch nicht vor. Eine dedizierte NPU kann neben einer höheren Verarbeitungsgeschwindigkeit auch für eine effizientere sorgen.
Das ist Recall im Rahmen von Copilot+
Recall ist nur eine Funktion des neuen Copilot+, der neben weiteren Offline-KI-Features auch Cloud-basierte Dienste, die auf GPT-4o basieren, anbieten wird. Bei Recall handelt es sich sich praktisch um ein Gedächtnis für den Nutzer. Der Assistent erfasst mit Snapshots alles, was auf dem Bildschirm passiert, und speichert diese in einem Modell, das mit natürlicher Sprache durchsuchbar ist. Wer zum Beispiel beim Online-Shopping nach bestimmten Jacken gesucht hat, kann die entsprechenden Webseiten somit noch Monate später wiederfinden. Dasselbe gilt für Auszüge in Word-Dokumenten, PowerPoint-Präsentationen oder Messenger-Diensten.
Recall gehört damit zugleich zur am kritischsten betrachteten neuen Funktion des Copilot+, insbesondere Datenschutzbedenken werden angeführt. Auch Albacore bekommt das auf X zu spüren: Wie er überhaupt auf die Idee kommen konnte, dieses Feature auf Systemen, die es gar nicht bieten, laufen lassen zu wollen, musste er sich die letzten zwei Tage wiederholt anhören. Seine Antwort: Weil er es persönlich als sehr nützlich erachte.