Laya AI

AI决策模型 Laya AI 简介

Laya AI 是面向智能体与业务系统的 System-1 决策模型服务，输入一段文本和若干自定义问题，一次前向传播就返回「选哪一个」「打几分」「是否成立」三类结构化判断及各自置信度，官方提供预付费托管 API，同时以 Apache 2.0 协议开放模型权重供本地部署。

核心定位：判断而非生成，输出固定结构，不负责写回复文案
三种决策类型：choice 选类别、score 给程度、yes-no 判是否，均带概率
业务可编程：类别名称与判定标准由使用者自己定义，不需要重新训练
两种用法：托管 API 按 token 计费，或下载开源权重内网自托管
试用门槛低：匿名可免费跑 1 次，Google 登录后另设每月 10,000 输入 token 额度
无需自备算力：托管模式的推理密钥由服务端持有，接入方不用 GPU

和常见的聊天模型相比，Laya 的差异在于把「判断」做成显式输入：业务方把问题写清楚，再把候选类别和每个类别的含义写进规则，模型返回一张概率表。例如一条退款工单会被映射到 billing、technical、sales、other 四类并给出各自概率，程序可以按阈值自动流转，低置信度再转人工。

Laya AI 的核心功能

客服工单分诊：按自定义部门类别路由工单，替代关键词规则与人工初筛
邮件分诊：把收件箱邮件归到处理队列
销售线索判定：给线索打意向分或判定是否有效
社交内容分析：分析帖子立场、类型与情绪强度
内容审核：对违规与否做是否型判断
诈骗识别：判定消息是否属于诈骗话术

官网把这六类场景都做成了在线工具页，打开即可替换成自己的文本试跑真实 API，返回结果同时给出模型名、输入 token 数、上游延迟和置信度，便于在接入前先估效果。

Laya 模型的技术底座与公开测试数据

官方将 Laya 定位为 System-1 决策模型，强调单次前向传播完成判断而非多轮生成。官网 README 公布的对比表显示：在 2,000 条类型化决策集上，微调检查点 laya-typed-decisions 得分 0.766，高于第三方对比项 Jev 1.13.0 的 0.727，也明显高于 0.461 的多数类基线；AG News 四分类 0.950（对比项 0.910）；DAIR Emotion 六分类 0.595（对比项 0.480）；校准误差 ECE 0.081，优于对比项的 0.246（越低越好）；单问题 p50 延迟约 32.8 毫秒，对比项为 236 至 276 毫秒。

同一张表也给出了明显的短板：在 72 类与 77 类口径不一致的 Banking77 意图集上仅 0.425，远低于对比项的 0.870；英文基础检查点 0.362、多语言基础检查点 0.352，都低于多数类基线，说明这张成绩单来自专门的微调版本，官网也明确提示「pip install 得到的开源版本不包含该微调」。换句话讲，托管 API 与自行部署的效果不一定一致，要自建得自己补微调与评估。

Laya AI 的价格与额度

免费试用：匿名状态可运行 1 次，之后用 Google 登录或填 API key
使用额度：每月 10,000 输入 token 档位
按量计费：约 $0.0004／千输入 token，按输入侧计费
开源免费：Apache 2.0 权重可自行下载部署，只承担自己的算力成本

Laya AI 适用场景

客服与售后：工单自动分派、退款诉求识别、升级判断
销售与增长：线索合格判定、意向分级
内容与风控：违规内容审核、诈骗信息识别
智能体内置判断：为 Agent 提供轻量判断节点，避免每次调用生成式大模型
数据标注辅助：用固定类别批量预标，人工只复核低置信样本

Laya AI 使用指南

打开官网，从内置场景工具（工单分诊、邮件分诊等）中选一个，替换成自己的文本运行
阅读返回的标签、概率与置信度，判断是否需要调整类别描述
确认效果后，Google 登录获取 laya_ 前缀密钥，按接口文档接入
数据敏感的团队可 pip install laya 拉取开源权重，在内网自行部署
上线前务必用自己的业务样本做一轮评估，不要直接按官网分数拍板

Laya AI 的产品优势

把判断从生成式对话里单独拆出来建模，是 Laya 最实在的价值：输出结构固定、延迟在几十毫秒级、每次返回完整概率分布可解释，接进业务路由比让聊天模型「顺便判断一下」更稳定也更省。开源权重与托管服务并行的设计，让同一个模型可以按数据敏感度分别部署。官网对自身短板的披露相对克制但不遮掩（细分意图集明显弱于对比项、开源版不含微调），对技术选型来说是有效信息。