Memory Cache: lokale AI für Firefox

Aktuelle KI-Integrationen in Webbrowsern beruhen auf Remote-Verbindungen zu Servern. Dort findet die Verarbeitung statt. Tools wie Microsoft Bing, Brave's Leo oder Google Bard benötigen diese Verbindung, um überhaupt zu funktionieren.

Mozillas Memory Cache Experiment funktioniert auf eine andere Art und Weise. Es gibt zwei Hauptunterscheidungsmerkmale. Erstens läuft es nur lokal auf dem System des Nutzers. Das ist gut für die Privatsphäre, hat aber auch einige Nachteile.

Zweitens wurde es nicht mit großen Datensätzen trainiert. Stattdessen lernt Memory Cache aus den Dateien, auf die der Benutzer ihm Zugriff gewährt. Da es sich um ein Experiment handelt, ist in diesem Stadium noch nicht alles optimal, aber der interessante Ansatz rechtfertigt einen genaueren Blick.

Memory Cache auf einen Blick

Memory Cache verwendet eine ältere Version von privateGPT. Diese Technologie ermöglicht es den Benutzern, mit einer KI zu interagieren, die es ihnen erlaubt, "Fragen zu [ihren] Dokumenten zu stellen, indem sie die Leistung von Large Language Models nutzt". Wie der Name schon sagt, funktioniert privateGPT ohne Internetverbindung und ist nach Angaben des Entwicklers zu 100 % privat, was bedeutet, dass die Daten die Ausführungsumgebung nie verlassen.

Das Memory-Cache-Projekt von Mozilla kombiniert privateGPT mit einem Firefox-Add-on.

MemoryCache, ein Mozilla-Innovationsprojekt, ist ein frühes Forschungsprojekt, das ein persönliches Modell auf dem Gerät mit lokalen, im Browser gespeicherten Dateien ergänzt, um ein personalisierteres und maßgeschneidertes Erlebnis unter dem Aspekt der Privatsphäre und der Handlungsfähigkeit zu ermöglichen.

Mit anderen Worten: Es lernt und interagiert mit den Dateien, zu denen der Nutzer ihm Zugang gewährt. Der Prozess ist nicht so komfortabel, wie er sein könnte, denn er erfordert, dass Sie ihn mit bestimmten Dateien füttern.  Diese können in Kategorien eingeteilt werden, um sie voneinander zu unterscheiden.

Hier sind einige Beispiele. Sie wollen eine neue Programmiersprache, ein historisches Ereignis oder ein bestimmtes Computerspiel erlernen. Sie beginnen damit, die KI mit Dokumenten zu füttern, Webseiten mit Informationen, die in PDFs umgewandelt werden, die die KI lesen kann. Die KI lernt anhand dieser Dokumente und Sie können dann mit ihr interagieren. Dies geschieht, ohne dass die Anfrage an einen Internetserver gesendet und auf eine Antwort gewartet werden muss, während gleichzeitig der Betreiber des Servers darüber informiert wird.

Memory Cache ist ein Experiment. Es ist unklar, ob daraus etwas Bedeutsames entstehen wird, das Mozilla in den Firefox-Webbrowser implementieren würde. Der derzeitige Ansatz ist recht manuell. Es scheint, dass das Team darüber nachdenkt, das Tool zu automatisieren.

Im Idealfall könnte es in Firefox ein- und ausgeschaltet werden, so dass ein Teil des Surfens automatisch übernommen wird, man aber trotzdem verhindern kann, dass alles erfasst wird.

Eine solche KI könnte Ihnen auch dabei helfen, zuvor besuchte Webseiten mithilfe natürlicher Sprache zu finden.