Mastodon discussion 2d ago

Держите LLM подальше от тестов чат-ботаДержите LLM подальше от тестов чат-бота Кто тестировал чат-бота, знает: на одной ...

Держите LLM подальше от тестов чат-ботаДержите LLM подальше от тестов чат-бота Кто тестировал чат-бота, знает: на одной реплике всё просто, а на третьей-четвёртой начинается боль. ...

Mastodon discussion 3d ago

Кто ворует ваш GPU: атаки на открытые LLM-эндпоинты (Ollama, llama.cpp) — и при чём тут кража облачных ключейКоротко тез...

Кто ворует ваш GPU: атаки на открытые LLM-эндпоинты (Ollama, llama.cpp) — и при чём тут кража облачных ключейКоротко тезис: открытый Ollama — это бесплатный GPU для атакующего , и ...

Mastodon discussion 3d ago

Когда компании пора строить свой LLM-кластер, а не пользоваться внешними APIНа раннем этапе внедрения LLM в компании выг...

Когда компании пора строить свой LLM-кластер, а не пользоваться внешними APIНа раннем этапе внедрения LLM в компании выглядят как быстрый выигрыш: подключается внешний API (наприме...