Тренды
Куда движется каждая область серверной инфраструктуры: обзоры направлений, которые мы дополняем по мере развития событий.
Обзоров: 8Областей: 6
◆ Серверное оборудование и комплектующие
Для локального AI собирают multi-GPU стенды из доступных ускорителей
В отдельных экспериментах для локального AI используют бывшие в употреблении RTX 3090 и бывшие майнинговые платы BC-250. Такие сборки могут потребовать внимания к PCIe, питанию и охлаждению.
PCIeRTX 3090Radeon
Читать полностью◆ Контейнеризация приложений
Локальные LLM в Docker и Podman: практический стек для homelab
В материалах о homelab локальные LLM запускают через Ollama и Open WebUI в Docker, Compose или Podman на NAS, мини-ПК и GPU-системах. Автономность сочетается с требованиями к VRAM, ОЗУ и настройке GPU.
DockerOllamaOpen WebUI
Читать полностью◆ Серверное оборудование и комплектующие
Локальные LLM в homelab на GeForce, Intel Arc и AMD Strix Halo
Мат ериалы показывают запуск локальных LLM на потребительских GPU и APU с подбором квантизации, движка и параметров системы. В отдельных конфигурациях нужна ручная настройка.
Intel ArcOllamahomelab
Читать полностью