Как мы за неделю, подружили DeepSeek-R1 с отечественными процессорам ARM64, NVIDIA A100 в 100% отечественном сервереВсем привет! Меня зовут Алфёров Валентин, я директор по развитию компании Е-Флопс. В этой статье хочу поделиться с вами опытом нашего инженера-тестировщика, который рассказал мне эту историю, продемонстрировал результат и даже уговорил записать видео об этом))). Всё, что написано дальше, рассказ Сергея Шишкина от первого лица. Дисклеймер: мы не пытаемся сказать, что сделали нечто революционное. LLM на GPU‑ускорителях запускали многие. Но запустить её на реальном сервере с отечественными ARM‑процессорами, с двумя NVIDIA Tesla A100, в изолированном контуре - и чтобы она ещё работала без падений - это оказалось нетривиальным квестом. Делимся результатом и рецептом. 1. Зачем нам вообще локальная LLM? Коротко про LLM и «ИИ» Большие языковые модели (LLM) - это не магия, а очень большие нейросети, обученные предсказывать следующий токен (кусочек текста). Их называют «ИИ», потому...
Related
AI Will Not Make You Rich (2025)https://colossus.com/article/ai-will-not-make-you-rich/#ai
AI Will Not Make You Rich (2025)https://colossus.com/article/ai-will-not-make-you-rich/#ai
Monks in a remote Vermont monastery are creating a new religion — to save the world from AI“We are living through the #E...
Monks in a remote Vermont monastery are creating a new religion — to save the world from AI“We are living through the #EndofDays. A terrible Beast is rising out of the sea to conqu...
🤗 MiniMaxAI/MiniMax-H3-Image: 727.1k downloads/30 days, 1.5k likes. Open-weight text-to-image model gaining traction. Wh...
🤗 MiniMaxAI/MiniMax-H3-Image: 727.1k downloads/30 days, 1.5k likes. Open-weight text-to-image model gaining traction. What's behind the surge?https://olud.ai/#leaderboard#OpenSourc...