Скачать Eng Разумнее развертывайте искусственный интеллект: масштабируемость LLM, ML-Ops и экономическая эффективность - udemy (2024)

[bart]

Разумнее развертывайте искусственный интеллект: масштабируемость LLM, ML-Ops и экономическая эффективность
Deploy AI Smarter: LLM Scalability, ML-Ops & Cost Efficiency
udemy

Добро пожаловать на курс «Разумное развертывание искусственного интеллекта: масштабируемость LLM, ML-Ops и экономическая эффективность» !

Это подробное руководство предназначено для того, чтобы дать вам знания и навыки , необходимые для использования и внедрения больших моделей машинного обучения в реальный мир .

Основные затронутые темы:

• Основные сведения перед развертыванием:
  • Оценка модели: методы обеспечения правильности модели.
  • Настройка производительности: полезные стратегии оптимизации производительности модели (как точности, так и скорости) перед ее развертыванием.
• Расширенное управление моделями с помощью ML-Ops:
  • MLflow Mastery: практическое руководство по настройке и использованию MLflow, нашего собственного сервера mlflow.
  • Операционная практика : практические упражнения и понимание методов ML-Ops для отслеживания, обслуживания и развертывания моделей.
  • Сквозная интеграция: как безопасно интегрировать эти концепции в существующие конвейеры.
• Современные методы развертывания:
  • Стратегии повышения эффективности. Изучите и внедрите расширенные пакетные функции, динамические пакеты и квантование.
  • Последние достижения в оптимизации LLM : мы рассмотрим передовые концепции, такие как Flash Attention, Paged Attention, GPTQ, AWQ, LoRa и многое другое!
  • Инновационное масштабирование. Погрузитесь в передовые методы масштабирования, такие как ZeRo и Deepspeed.
• Экономика машинного обучения:
  • Анализ затрат и выгод: баланс между экономикой развертывания и технической осуществимостью.
  • Стратегическое планирование: понимание влияния решений о развертывании на бизнес.
• Управление кластером для масштабируемости:
  • Распределенные развертывания: методы управления LLM в кластерах.
  • Распределенный поток данных : Узнайте, как перемещать большие объемы данных по кластеру серверов с помощью RabbitMQ.
  • Распределенные вычисления . Внедрите платформы масштабирования рабочей нагрузки ИИ и используйте их для ускорения вывода LLM на нескольких машинах.
  • Реальные приложения: Практическое практическое руководство по масштабному развертыванию.

Что вы узнаете:

• Развертывание с уверенностью: от настройки среды до расширенного развертывания LLM — получите практический опыт, который можно напрямую применить к реальным сценариям.
• Стратегические идеи развертывания: овладейте балансом между скоростью и точностью и научитесь ориентироваться в сложной экономике проектов машинного обучения.
• Экономическая эффективность и бизнес-перспективы: поймите, как сократить расходы в проектах искусственного интеллекта без ущерба для качества. Учитесь на успешных интеграциях ИИ, а не на неудачах, уделяя особое внимание практическим, ориентированным на бизнес результатам.
• Успех в развертывании искусственного интеллекта. Определите лучшие практики и распространенные ошибки в ML-Ops и масштабируемости. Получите ценную информацию для принятия обоснованных решений, гарантируя, что ваши проекты искусственного интеллекта принесут пользу и будут способствовать успеху бизнеса.
• Передовые методы: будьте на шаг впереди благодаря новейшим оптимизациям для повышения производительности и эффективности моделей.
• От теории к практике. Используйте практические примеры и мнения экспертов, чтобы понять успешные стратегии и общие проблемы.

Для кого этот курс:

• Энтузиасты и профессионалы в области искусственного интеллекта: независимо от того, углубляете ли вы свои знания или только начинаете, этот курс предлагает ценные знания для всех, кто участвует в проектах искусственного интеллекта и машинного обучения.
• Практические ученики: идеально подходят для тех, кто ищет сочетание теоретических знаний и практического опыта развертывания больших языковых моделей.

Материал на английском языке




Продажник:

Для просмотра вы должны войти или зарегистрироваться.

Скачать: