PPLX Online LLMs: модели, использующие данные из интернета в реальном времени

29 ноября команда Perplexity представила проект PPLX Online LLMs – две новые модели pplx-7b-online и pplx-70b-online, которые отличаются от традиционных LLM-моделей (Large Language Models) возможностью использовать информацию из Интернета, что позволяет предоставлять актуальные, полезные ответы, основанные на реальных фактах. Модели доступны через API PPLX и могут быть использованы через площадку Perplexity Labs​​.

Пример ответа модели pplx-70b-online

Особенности PPLX Online LLM включают в себя:

1. Актуальность информации: модели способны предоставлять самую актуальную информацию, что является преимуществом перед традиционными LLM-моделями ​​;
2. Использование открытых моделей: модели PPLX построены на основе базовых моделей mistral-7b и llama2-70b.
3. Продвинутая технология поиска: собственная инфраструктура поиска, индексации и сканирования сайтов позволяет моделям использовать наиболее актуальную и релевантную информацию;
4. Тонкая настройка (Fine-tuning): модели настраиваются для эффективного использования выдержек из сайтов (сниппеты) для формирования ответов​​.

Эффективность моделей PPLX была оценена через серию тестов, включая сравнения с другими популярными моделями, такими как gpt-3.5-turbo-1106 от OpenAI и llama2-70b-chat от Meta* AI. Результаты показали, что модели pplx-7b-online и pplx-70b-online предпочтительнее по критериям свежести, фактичности и целостности ответов​​.

Сравнение моделей pplx-7b-online и pplx-70b-online с моделями LLama2 70B и gpt-3.5

Также была анонсирована общедоступная версия API PPLX, вместе с новой системой ценообразования, основанной на использовании. Пользователи Pro будут получать ежемесячный кредит в размере $5 для использования в API​​.

*Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.