Мозг-монстр: Gemini 1.5 Pro от Google уничтожает конкурентов своим контекстом

В мире искусственного интеллекта происходят удивительные изменения, и последние новости от Google в очередной раз это подтверждают. Спустя всего два месяца после запуска языковой модели Gemini 1.0 Pro , которая пришла на смену Bard , и неделю после запуска продвинутой Gemini 1.0 Ultra , компания анонсировала Gemini 1.5 Pro , новую версию фирменной LLM -модели, которая призвана ещё больше укрепить позиции технологического гиганта на рынке ИИ.

Как сообщается, Gemini 1.5 Pro представляет из себя поэтапное изменение в подходе компании, основанном на исследованиях и инженерных инновациях практически во всех областях разработки модели и сопутствующей инфраструктуры.

По производительности Gemini 1.5 Pro примерно сопоставима с текущим флагманом Gemini 1.0 Ultra, однако прочих нововведений в модели достаточно, чтобы выделить её в отдельный ряд.

Основным нововведением является технология «Mixture of Experts» (MoE), позволяющая обрабатывать запросы более эффективно и экономично. Одна большая нейросеть теперь будет разделена на множество мелких «экспертных» нейросетей, которые смогут давать более точные ответы и развиваться независимо друг от друга, что упростит процесс их дальнейшего обучения.

Тем не менее, наибольший интерес вызывает значительное расширение контекстного окна новой модели до 1 миллиона токенов, что в разы превышает возможности конкурентов. GPT-4 Turbo, например, может похвастаться лишь 128 тысячами токенов, а Claude 2.1 — 200 тысячами.

Столь широкое контекстное окно позволяет обрабатывать запросы с гораздо большим объёмом информации, лучше понимать контекст, анализировать и обобщать данные. Всё это открывает новые горизонты для использования ИИ в бизнесе и развлечениях, позволяя работать с огромные массивами информации, включая долгие видеофайлы или сложные финансовые отчёты.

Тем не менее, контекстное окно в миллион токенов первое время будет доступно лишь некоторым разработчикам и корпоративным клиентам, а всем остальным пользователям придётся довольствоваться 128 000 токенов, что тоже весьма немало. Но и это лишь временное ограничение.

Компания также заявила, что уже тестирует контекстное окно в 10 миллионов токенов. Возможно, это уже некий задел под Gemini 1.5 Ultra. Однако позиция Google ясна — компания явно хочет создать самую мощную и эффективную ИИ-модель на рынке.

Не забывает «корпорация добра» и про безопасность, а также этические аспекты использования новой модели, особенно в свете её расширенных возможностей. Google с гордостью заявляет, что провела множество тестов и внесла достаточно корректировок, чтобы модель можно было назвать по-настоящему безопасной.

Все представленные нововведения подчёркивают актуальность и важность развития ИИ-технологий не только для бизнеса, но и для повседневной жизни. В то время как конкуренция на рынке ИИ набирает обороты, Google уверенно демонстрирует свою готовность к инновациям, обещая пользователям новый уровень взаимодействия с искусственным интеллектом.

Сундар Пичаи, действующий глава компании, отметил, что со временем развитие ИИ дойдёт до такого этапа, что пользователи просто перестанут обращать внимания на производительность моделей, сухие цифры и сравнения, а будут просто наслаждаться опытом взаимодействия. Однако на данный момент, характеристики моделей всё ещё играют важную роль. На долго ли — покажет лишь время.