vue-llm: AI SDK для Vue и Nuxt — стриминговый чат, Generative UI и модели прямо в браузереЕсли вы делали AI-фичу на Vue, то, скорее всего, сталкивались с одним и тем же: большинство готовых инструментов для LLM-интерфейсов написаны с прицелом на React, а во Vue их приходится адаптировать или писать стриминг, tool calling и состояние чата вручную. Я сделал vue-llm — open-source библиотеку, которая закрывает это для Vue 3, Nuxt и даже Vue 2.7. Сразу ссылки, чтобы можно было пощупать: - Песочница без API-ключа (модель скачивается и работает прямо в браузере на WebGPU): https://vue-llm.js.org/ru/playground - Документация на русском: https://vue-llm.js.org/ru/ - GitHub: https://github.com/dadashi44/vue-llm - npm: npm i vue-llm Ниже — что умеет библиотека и как это выглядит в коде. ## Чат за десять строк Основа — композабл useChat . Он стримит ответ модели токен за токеном в реактивное состояние: сообщения, статус, ошибка, отмена, перегенерация. ```vue import { useChat } from 'vue-llm' impor...
Related
LLM router PISA-E cuts inference cost 36% while beating rivalsPISA-E, a prompt-adaptive ensemble router, cuts inference ...
LLM router PISA-E cuts inference cost 36% while beating rivalsPISA-E, a prompt-adaptive ensemble router, cuts inference cost 36% at selected operating points while outperforming ri...
Nvidia's board opened an independent investigation into CEO Jensen Huang, who admitted an affair with a businesswoman U....
Nvidia's board opened an independent investigation into CEO Jensen Huang, who admitted an affair with a businesswoman U.S. intelligence says is a Chinese spy. China denies it, and ...
Jensen Huang has lots of spy friends.One of them lives in the White House.#AI #Nvidia #USPol
Jensen Huang has lots of spy friends.One of them lives in the White House.#AI #Nvidia #USPol