Phi-4 — это современная открытая языковая модель с 14 миллиардами параметров. Несмотря на то, что архитектурные изменения по сравнению с предыдущими версиями минимальны, модель демонстрирует значительный прогресс в задачах, требующих логического мышления и аналитики, что стало возможным благодаря инновационному подходу к обучению. В отличие от традиционных методов обучения языковых моделей, в Phi-4 ключевой акцент сделан не на объёме данных, а на их качестве. Обучение Phi-4 проводилось на основе разнообразных источников, включая синтетические данные, специально созданные для развития навыков рассуждения, отфильтрованные документы из публичных источников, а также приобретённые академические книги и вопросно-ответные базы знаний. Это позволяет модели достигать высокой производительности даже при относительно небольшом размере.
Phi-4 работает только с текстовыми данными. Контекст относительно небольшой 16К токенов, но поддерживается работа более чем на 50 языках, включая русский.
В целом Phi-4 достаточно разноплановая легковесная модель, но по словам разработчиков особенно эффективна она в среде с ограниченным объемом памяти и вычислительных ресурсов, а также для задач, требующих моментального отклика.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
16 384 |
1 | 46,94 ₽ | 32.82 | 2,75 | Запустить | |
16 384 tensor |
2 | 51,34 ₽ | 9.15 | 4,46 | Запустить | |
16 384 |
1 | 73,73 ₽ | 50.09 | 3,06 | Запустить | |
16 384 |
1 | 91,14 ₽ | 69.85 | 3,05 | Запустить | |
16 384 pipeline |
3 | 127,37 ₽ | 2,63 | Запустить | ||
16 384 tensor |
2 | 139,77 ₽ | 9,07 | Запустить | ||
16 384 |
1 | 141,77 ₽ | 83.03 | 5,36 | Запустить | |
16 384 |
1 | 211,77 ₽ | 53.63 | 19,46 | Запустить | |
16 384 |
1 | 341,77 ₽ | 63.45 | 19,27 | Запустить | |
16 384 |
1 | 367,41 ₽ | 91.22 | 23,36 | Запустить | |
16 384 tensor |
2 | 411,81 ₽ | 41,86 | Запустить | ||
16 384 |
1 | 423,04 ₽ | 37,11 | Запустить | ||
16 384 tensor |
2 | 839,97 ₽ | 77,51 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
16 384 |
1 | 46,94 ₽ | 1,45 | Запустить | ||
16 384 tensor |
2 | 51,34 ₽ | 3,28 | Запустить | ||
16 384 |
1 | 73,73 ₽ | 50.17 | 1,91 | Запустить | |
16 384 |
1 | 91,14 ₽ | 43.48 | 1,67 | Запустить | |
16 384 pipeline |
3 | 127,37 ₽ | 43.33 | 2,53 | Запустить | |
16 384 tensor |
2 | 139,77 ₽ | 8,56 | Запустить | ||
16 384 |
1 | 141,77 ₽ | 4,21 | Запустить | ||
16 384 |
1 | 211,77 ₽ | 80.23 | 18,14 | Запустить | |
16 384 |
1 | 341,77 ₽ | 96.69 | 18,04 | Запустить | |
16 384 |
1 | 367,41 ₽ | 143.66 | 22,13 | Запустить | |
16 384 tensor |
2 | 411,81 ₽ | 41,35 | Запустить | ||
16 384 |
1 | 423,04 ₽ | 36,13 | Запустить | ||
16 384 tensor |
2 | 839,97 ₽ | 77,01 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
16 384 tensor |
2 | 83,37 ₽ | 29.00 | 3,29 | Запустить | |
16 384 pipeline |
3 | 94,64 ₽ | 5.77 | 2,05 | Запустить | |
16 384 tensor |
2 | 139,77 ₽ | 46.56 | 4,14 | Запустить | |
16 384 tensor |
2 | 139,77 ₽ | 4,14 | Запустить | ||
16 384 tensor |
2 | 171,77 ₽ | 55.00 | 4,06 | Запустить | |
16 384 |
1 | 211,77 ₽ | 46.21 | 13,98 | Запустить | |
16 384 tensor |
2 | 261,77 ₽ | 73.39 | 8,47 | Запустить | |
16 384 |
1 | 341,77 ₽ | 53.09 | 13,80 | Запустить | |
16 384 |
1 | 367,41 ₽ | 87.21 | 17,14 | Запустить | |
16 384 tensor |
2 | 411,81 ₽ | 36,87 | Запустить | ||
16 384 |
1 | 423,04 ₽ | 31,88 | Запустить | ||
16 384 tensor |
2 | 839,97 ₽ | 72,52 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям support@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.