Google раскрыла доступ к бета-версии нейросети Gemini 1.5 Pro для всех пользователей. Об этом сообщил в социальной сети X ведущий научный сотрудник Google DeepMind Джефф Дин. Gemini 1.5 Pro способна обрабатывать стандартное контекстное окно на 128 000 токенов, но имеет потенциал увеличения до 1 млн токенов. Нейросеть может обрабатывать большие объемы данных, включая часы видео, аудиофайлы, кодовые базы и тексты. В ходе исследований Google успешно тестировала обработку до 10 млн токенов.
Gemini 1.5 Pro, использующая архитектуру Transformer и MoE, сочетает в себе сильные стороны обеих моделей. Нейросеть эффективно выполняет различные задачи, такие как анализ исторических документов и обработка больших объемов кода. В тесте Needle In A Haystack (NIAH) нейросеть показала успех в обнаружении фактов в длинных текстах на уровне 99%. Geminni 1.5 также демонстрирует способность к адаптивному обучению, что делает ее лидером в данной области.