Свой собственный ИИ в Firefox: Mozilla представила MemoryCache

Mozilla выпустила экспериментальное расширение для браузера под названием MemoryCache . Оно включает в себя систему диалогов на основе машинного обучения, которая анализирует контент, просматриваемый пользователем. Эта система отличается от других AI-чатов тем, что она адаптируется к интересам пользователя, используя данные, важные для него, для формирования ответов на вопросы. Расширение распространяется по лицензии MPL и пока может быть установлено в Firefox только вручную через «about:debugging» с применением специального патча .

Все компоненты MemoryCache выполняются на системе пользователя и не требует подключения к внешним ресурсам. Основой знаний для MemoryCache служит модель GPT4All-J, обученная на обширных англоязычных данных, включая Pile, ShareGPT и Dolly. Модель доступна в различных вариантах, включая 3, 7 и 13 миллиардов параметров. Для работы с моделью используется инструмент privateGPT, предназначенный для эффективного использования больших языковых моделей на персональных компьютерах.

MemoryCache сохраняет просмотренные веб-страницы в локальный каталог «~/Downloads/MemoryCache», из которого затем их извлекает периодически запускаемый скрипт и передаёт в обработчик privateGPT (ingest.py) для дополнения имеющейся языковой модели. Таким образом, модель адаптируется к интересам пользователя и может использоваться для обсуждения просмотренного контента в текстовом чате с ботом. Пользователи могут вести диалог с AI-ботом на естественном языке, задавая вопросы о сохраненных страницах. Бот адаптируется к интересам пользователя и предоставляет ответы, используя локальные данные, без необходимости подключения к внешним источникам.