Категория: Инфраструктура

Страниц в категории: 6.

• Container registry
• GPU и CUDA
• vLLM и инференс-серверы
• Локальный запуск LLM (llama.cpp, Ollama)
• Обратный прокси (reverse proxy)
• Сервинг моделей