Llama 4 Scout — это самая легкая модель в новом поколении семейства Llama 4, выпущенном 5 апреля 2025 года. Llama 4 scout имеет архитектуру MoE 16 экспертами, 109 миллиардами параметров из которых постоянно активными являются только 17 миллиардов. Модель поддерживает нативную мультимодальность. Она способна одновременно обрабатывать на входе до 5 изображений плюс текст, что позволяет эффективно использовать её в задачах компьютерного зрения, таких как распознавание объектов, описание изображений и ответы на вопросы по изображениям. Генерация креативного текста, пошаговые рассуждения, программирование также относятся к сильным сторонам модели.
При этом Llama scout может эффективно работать всего на одном GPU H100, что делает ее привлекательной для локального развертывания, а за счет большего количества параметров Llama scout опережает на бенчмарках более легковесные модели в сегменте.
Но, пожалуй, самой главной фишкой модели является поддержка рекордного контекстного окна до 10 миллионов токенов! что делает модель идеально подходящей для работы с большими документами, кодом, многостраничными запросами и продолжительными диалоговыми сессиями.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
250 000 |
1 | 423,81 ₽ | 2,77 | Запустить | ||
250 000 tensor |
2 | 440,74 ₽ | 54.27 | 3,69 | Запустить | |
250 000 tensor |
2 | 441,52 ₽ | 3,69 | Запустить | ||
250 000 tensor |
4 | 514,59 ₽ | 1,31 | Запустить | ||
250 000 pipeline |
6 | 521,74 ₽ | 30.03 | 1,72 | Запустить | |
250 000 tensor |
8 | 539,21 ₽ | 4,64 | Запустить | ||
250 000 tensor |
8 | 671,74 ₽ | 4,62 | Запустить | ||
250 000 tensor |
2 | 700,74 ₽ | 61.60 | 4,84 | Запустить | |
250 000 tensor |
2 | 729,47 ₽ | 5,41 | Запустить | ||
250 000 tensor |
2 | 840,74 ₽ | 11,21 | Запустить | ||
10 485 760 pipeline |
6 | 2 532,67 ₽ | 1,37 | Запустить | ||
10 485 760 tensor |
8 | 3 335,19 ₽ | 1,90 | Запустить | ||
10 485 760 tensor |
8 | 3 335,19 ₽ | 1,90 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
250 000 |
1 | 423,81 ₽ | 2,87 | Запустить | ||
250 000 tensor |
2 | 700,74 ₽ | 68.07 | 4,71 | Запустить | |
250 000 tensor |
2 | 729,47 ₽ | 8,17 | Запустить | ||
250 000 pipeline |
6 | 791,74 ₽ | 6,82 | Запустить | ||
250 000 tensor |
2 | 840,74 ₽ | 113.64 | 19,77 | Запустить | |
250 000 tensor |
8 | 1 031,74 ₽ | 15,15 | Запустить | ||
10 485 760 pipeline |
6 | 2 532,67 ₽ | 2,65 | Запустить | ||
10 485 760 tensor |
8 | 3 335,19 ₽ | 3,71 | Запустить | ||
10 485 760 tensor |
8 | 3 335,19 ₽ | 3,71 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
250 000 tensor |
4 | 818,68 ₽ | 5,10 | Запустить | ||
250 000 tensor |
2 | 841,52 ₽ | 3,24 | Запустить | ||
250 000 tensor |
2 | 841,52 ₽ | 3,24 | Запустить | ||
250 000 tensor |
4 | 848,44 ₽ | 5,10 | Запустить | ||
250 000 pipeline |
3 | 1 105,60 ₽ | 2,78 | Запустить | ||
250 000 tensor |
4 | 1 337,12 ₽ | 5,08 | Запустить | ||
250 000 tensor |
4 | 1 448,44 ₽ | 8,54 | Запустить | ||
10 485 760 pipeline |
6 | 2 532,67 ₽ | 1,12 | Запустить | ||
10 485 760 tensor |
8 | 3 335,19 ₽ | 1,65 | Запустить | ||
10 485 760 tensor |
8 | 3 335,19 ₽ | 1,65 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.