dev.to | 📄 原文链接 | 2026-10-01 收录

用 Jev 与 Composio 给 Discord 和 Twitch 做实时聊天审核

来源:dev.to — 2026-09-30

📋 概述

直播聊天里出事的速度总是快过审核员的反应:等人工看到那条消息,全聊天室都已经看到了。作者没有用大模型做审核,而是选了 TypeSafe 的决策模型 Jev——它不生成文本,只对一个带类型的问题返回概率。审核场景只需要回答一件事:这条消息要不要删。于是他把聊天消息作为 state 传给 Jev 的 Noul 提问类型,得到 0 到 1 的概率,再用阈值分流:p ≥ 0.8 直接删除,0.5 至 0.8 送人工复核,其余放过。好处是不需要解析生成文本,也不用哄模型「只回答 YES 或 NO」。他把同一套审核逻辑同时接到 Discord(discord.js 监听并删除消息)和 Twitch(EventSub 通过 WebSocket 收消息、用 Helix API 删除),Jev 则通过 Composio 的工具包调用,免得在代码里保存 API key。成本约每百万输入 token 0.042 美元、输出基本免费,审核 1000 条消息不到 2 美分。

🔑 核心要点

💡 金句

大模型生成答案,Jev 做决定。
← 返回 dev.to 首页