Qwen2.5-72B

Qwen2.5-72B является флагманской открытой моделью серии с 72 миллиардами параметров, 80 слоями и архитектурой 64/8 голов внимания, представляя вершину возможностей открытых языковых моделей от Alibaba. Модель поддерживает контекст в 128K токенов с генерацией до 8K токенов, что позволяет анализировать несколько документов и создавать подробный контент с исключительной точностью.

Модель обучена на расширенном наборе данных в 18 триллионов токенов с улучшенной фильтрацией и включением специализированных данных по математике и программированию, что позволяет показывает выдающиеся результаты в широком спектре задач. Отсюда следует яркая особенность Qwen2.5-72B - достижение state-of-the-art результатов среди открытых моделей при значительно меньшем размере по сравнению с конкурентами. Согласно техническому отчету, модель демонстрирует конкурентоспособную производительность с Llama-3-405B-Instruct, которая в 5 раз больше по размеру.

Qwen2.5-72B распространяется по специальной исследовательской лицензией Qwen и предназначена для проектов, требующих максимального качества обработки естественного языка. Модель идеально подходит для фундаментальных исследований в области ИИ, создания передовых ИИ-продуктов, обучения и fine-tuning специализированных моделей, а также как основа для разработки мультимодальных систем и специализированных агентов.

Дата анонса: 19.09.2024
Параметров: 72B
Контекст: 131K
Тип внимания: Full Attention
Потребление памяти: 73.5 ГБ в точности 4 бит
Разработчик: Alibaba
Версия Transformers: 4.43.1
Лицензия: qwen

Воспользуйтесь нашими готовыми публичными эндпоинтами для теста инференса и знакомства с Qwen2.5-72B.

Арендуйте собственный физически выделенный инстанс с почасовой оплатой или на длительный срок с помесячной оплатой.

Мы рекомендуем создание частных инстансов в случаях, если необходимо:

• получить максимальную производительность эндпоинта,
• получить полный контекст для обработки больших запросов и диалогов,
• обеспечить максимальную безопасность, для обработки данных в выделенном изолированном пространстве,
• использовать кастомизированные веса: fine-tuned версии или lora-адаптеры.

Свяжитесь с нашей специализированной группой поддержки по нейросетям nn@immers.cloud или отправьте ваш запрос в отдел продаж sale@immers.cloud.