元の投稿を読み込み中…X で見る ↗
Local "Jev"-style vision inference hack: maps candidate outputs to fixed labels, prefills then samples with capped tokens, running a 4-bit multimodal Qwen-3.5-0.8B on a 16GB M4 MacBook Pro to perform three-color item sorting in 200ms.
元の投稿
元の投稿を読み込み中…X で見る ↗
jev
キーワードを入力してユースケースを検索。