
zaoriku⚡️
5h
ちゃちゃっとlocalLLM繋いでDifyで処理書いてデプロイして、外のプログラムから使いたい感じだったの思い出した
🔔 This profile hasn't been claimed yet. If this is your Nostr profile, you can claim it.
EditちゃちゃっとlocalLLM繋いでDifyで処理書いてデプロイして、外のプログラムから使いたい感じだったの思い出した
ぜひぜひ^^
DifyにローカルLLMを差し込んでみて! WSL2だとなんかうまくいかなくて
gpt-oss-20b ウチだとちょっともっさりで辛かった
以前はノスでLLMの話してるのkojiraさんかダイコンさんくらいだった。今かなり話題があって嬉しい。自分NLP筋の人なので
ちょっとBERTぽい感じある
言語生成系のdiffusion、精度がもうちょっとみたい
DeepSeek系localでいくつか試したけど、 最初の頃の量子化版は中国語みたくなりやすかった。その後の半年くらい前の奴もthinkモードが任意に外せなくて、放置してる また何か試すかな
Difyみたい
BeOS 興味あったな
Research Engineer(NLP & Distributed AI) 赫奕たる異端 リアクションないとフォローに気が付かないですorz Nostr DAUクイズ当たり過ぎて出禁になりましたw 解禁? (殿堂入りと言うらしい) Here's the name I came up with: "Kuchiyose". https://kuchiyose.vercel.app/