Phi-4 — это современная открытая языковая модель с 14 миллиардами параметров. Несмотря на то, что архитектурные изменения по сравнению с предыдущими версиями минимальны, модель демонстрирует значительный прогресс в задачах, требующих логического мышления и аналитики, что стало возможным благодаря инновационному подходу к обучению. В отличие от традиционных методов обучения языковых моделей, в Phi-4 ключевой акцент сделан не на объёме данных, а на их качестве. Обучение Phi-4 проводилось на основе разнообразных источников, включая синтетические данные, специально созданные для развития навыков рассуждения, отфильтрованные документы из публичных источников, а также приобретённые академические книги и вопросно-ответные базы знаний. Это позволяет модели достигать высокой производительности даже при относительно небольшом размере.
Phi-4 работает только с текстовыми данными. Контекст относительно небольшой 16К токенов, но поддерживается работа более чем на 50 языках, включая русский.
В целом Phi-4 достаточно разноплановая легковесная модель, но по словам разработчиков особенно эффективна она в среде с ограниченным объемом памяти и вычислительных ресурсов, а также для задач, требующих моментального отклика.
| Наименование модели | Контекст | Тип | GPU | Статус | Ссылка |
|---|
Для данной модели пока нет публичных эндпоинтов.
Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.
Мы рекомендуем создание частных инстансов в случаях, если необходимо:
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
16 384 |
1 | 46,94 ₽ | 32,10 | 2,47 | Запустить | |
16 384 tensor |
2 | 51,34 ₽ | 9,15 | 3,39 | Запустить | |
16 384 |
1 | 73,73 ₽ | 2,78 | Запустить | ||
16 384 |
1 | 91,14 ₽ | 2,77 | Запустить | ||
16 384 tensor |
2 | 109,77 ₽ | 8,04 | Запустить | ||
16 384 pipeline |
3 | 127,37 ₽ | 2,07 | Запустить | ||
16 384 |
1 | 141,77 ₽ | 5,08 | Запустить | ||
16 384 |
1 | 211,77 ₽ | 53,03 | 19,18 | Запустить | |
16 384 |
1 | 341,77 ₽ | 63,45 | 19,16 | Запустить | |
16 384 |
1 | 367,41 ₽ | 91,22 | 23,25 | Запустить | |
16 384 tensor |
2 | 411,81 ₽ | 41,45 | Запустить | ||
16 384 |
1 | 423,04 ₽ | 37,00 | Запустить | ||
16 384 tensor |
2 | 839,97 ₽ | 77,11 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
16 384 tensor |
2 | 51,34 ₽ | 1,81 | Запустить | ||
16 384 |
1 | 73,73 ₽ | 1,20 | Запустить | ||
16 384 tensor |
2 | 83,37 ₽ | 6,46 | Запустить | ||
16 384 |
1 | 91,14 ₽ | 1,19 | Запустить | ||
16 384 tensor |
2 | 109,77 ₽ | 6,46 | Запустить | ||
16 384 |
1 | 141,77 ₽ | 3,50 | Запустить | ||
16 384 pipeline |
4 | 162,57 ₽ | 2,42 | Запустить | ||
16 384 |
1 | 211,77 ₽ | 80,23 | 17,60 | Запустить | |
16 384 |
1 | 341,77 ₽ | 96,69 | 17,58 | Запустить | |
16 384 |
1 | 367,41 ₽ | 143,66 | 21,67 | Запустить | |
16 384 tensor |
2 | 411,81 ₽ | 39,87 | Запустить | ||
16 384 |
1 | 423,04 ₽ | 35,42 | Запустить | ||
16 384 tensor |
2 | 839,97 ₽ | 75,53 | Запустить | ||
| Наименование | GPU | TPS | Параллельность (макс.) | |||
|---|---|---|---|---|---|---|
16 384 tensor |
2 | 83,37 ₽ | 29,00 | 2,40 | Запустить | |
16 384 tensor |
2 | 109,77 ₽ | 2,40 | Запустить | ||
16 384 pipeline |
4 | 112,24 ₽ | 4,23 | Запустить | ||
16 384 tensor |
2 | 139,77 ₽ | 46,56 | 3,02 | Запустить | |
16 384 tensor |
2 | 171,77 ₽ | 3,00 | Запустить | ||
16 384 |
1 | 211,77 ₽ | 45,55 | 13,54 | Запустить | |
16 384 tensor |
2 | 261,77 ₽ | 7,61 | Запустить | ||
16 384 |
1 | 341,77 ₽ | 53,09 | 13,52 | Запустить | |
16 384 |
1 | 367,41 ₽ | 87,21 | 17,61 | Запустить | |
16 384 tensor |
2 | 411,81 ₽ | 35,81 | Запустить | ||
16 384 |
1 | 423,04 ₽ | 31,36 | Запустить | ||
16 384 tensor |
2 | 839,97 ₽ | 71,46 | Запустить | ||
Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.