Mastodon discussion May 9

フランス、ヒトにも亜人にも大きな意味がありそうですマクロン大統領「AI・量子とスタートアップでの連携強化へ」 Mistral AIのCEO、日仏の協業に期待 https://ascii.jp/elem/000/004/396/4396378...

フランス、ヒトにも亜人にも大きな意味がありそうですマクロン大統領「AI・量子とスタートアップでの連携強化へ」 Mistral AIのCEO、日仏の協業に期待 https://ascii.jp/elem/000/004/396/4396378/?rss#Apple #LLM #news #bot

Mastodon discussion May 8

Mistral Medium 3.5 Is Now Available in Puter.jsPuter.js가 Mistral AI의 최신 멀티모달 LLM인 Mistral Medium 3.5를 지원하기 시작했다. 이 모델은 1...

Mistral Medium 3.5 Is Now Available in Puter.jsPuter.js가 Mistral AI의 최신 멀티모달 LLM인 Mistral Medium 3.5를 지원하기 시작했다. 이 모델은 1280억 파라미터, 25만 6천 토큰 컨텍스트 윈도우를 갖추고 있으며, 명령 수행, 추론, 에이전트 코딩 기...

Mastodon discussion May 5

Wes Roth (@WesRoth)Mistral의 새로 공개된 Medium 3.5 모델이 오픈 웨이트 Vals Index에서 10위를 기록했다. 이전 모델인 Mistral Large 3 대비 전체 Vals Index...

Wes Roth (@WesRoth)Mistral의 새로 공개된 Medium 3.5 모델이 오픈 웨이트 Vals Index에서 10위를 기록했다. 이전 모델인 Mistral Large 3 대비 전체 Vals Index에서 18% 개선됐고, Finance Agent 항목에서는 28% 상승해 오픈 웨이트 모델 성능 향상을 보여...

Mastodon discussion May 3

金のニワトリ (@gosrum)Mac Studio(M2 Ultra)에서 llama-bench로 Mistral-Medium-3.5-128B의 추론 속도를 측정한 결과를 공유했다. prefill은 약 57.5 tps, d...

金のニワトリ (@gosrum)Mac Studio(M2 Ultra)에서 llama-bench로 Mistral-Medium-3.5-128B의 추론 속도를 측정한 결과를 공유했다. prefill은 약 57.5 tps, decode는 약 6.5 tps였고, 128k 컨텍스트는 가능했지만 200k에서는 OOM이 발생했다고 밝혔다....