跳到主要内容
Quark

产品 · ai

模型与产品之间的全部。

调用模型很容易;从笔记本里的一段提示词到生产中的工作负载则不然。AI 层弥合这道鸿沟——路由、执行、编排与检索,作为一个整体来设计。

gateway

每个模型共用的那扇门。

把代码指向一个端点,用别名调用模型。每个别名背后是一条按回退顺序尝试的有序 upstream 链 — 上游故障变成一次路由决策,而不是一场作战会议。

带上您自己的 upstream

接入您已经在用的模型端点;凭证以 Secret 引用形式存在,绝不在配置中留明文。

别名,而非硬编码

代码按名字调用模型;由您决定哪条 upstream 链为它服务。改的是链,不是代码。

实时服务检查

每个模型都显示它是否真的在服务 — 从数据路径验证,而不是从配置条目臆断。

真正咬合的限额

按 key、按时间窗限制请求数或 token 数。限额在调用落地处强制执行,而不是在没人看的面板里。

可追溯的用量

每次补全都归属到发起它的 key,汇总报表按 key 与模型拆分用量。

内置 playground

通过 Gateway 发一条 prompt,无需离开控制台即可看到响应。

给财务团队

模型用量不再是谜,而是归属明确、上限清晰的一项指标 — 按 key、按模型、按时间窗。

sandboxes

为消失而生。

有些工作不该活得比自身更久。沙箱以可选的生存时间启动不可信代码、评测运行与批处理片段——完成后即被销毁。

带 TTL 创建

时钟到期,沙箱随之到期。

按需销毁

一等动作,而非清理脚本。

按授权限定范围

沙箱只获得被授予的密钥与权限——没有任何环境默认,没有继承。

可检查的运行

输入、输出与状态,与平台上其他一切运行在同一条时间线上。

需要时是真算力,用完即消失——一种执行故事,而非两种。

workflows

覆盖整个平台的持久编排。

工作流把平台自身能力串成版本化的步骤图:经网关调用模型、在沙箱中执行命令、查询索引、等待、分支、重复。

版本化、不可变的定义

更新 Workflow 会发布新版本 — 运行中的历史始终如实。

带检查点的执行

运行过程中每一步都有检查点,长管道在中断后恢复,从停下的地方继续。

启动、观看、取消

运行连同状态出现在实时时间线上;把不该跑完的取消掉。

输入即数据

以 JSON 输入发起运行,在运行时间线上跟踪它。

给工程团队

夜间索引重建、多步骤数据准备、模型评测扫描 — 它们从脆弱的 cron 民间传说变成可审阅、可重跑的图。

knowledge graphs

您的数据,化作关系。

检索不应需要另起一套技术栈。Knowledge Graphs 把您已有的数据变成可查询的实体与关系——平台绝不接管数据托管。

数据集即声明

指向您已有的数据;无搬运,无复制。

实体与关系,一等公民

把领域建模为节点和带类型的边——遍历即查询。

流水线构建图谱

从原始数据到可查询图谱的分阶段声明式构建——可恢复、可重复、可见。

交互式查询

在控制台中从任意节点行走邻居,确认后才会交给一次运行。

工作流直接消费

检索是图中的一步,不是脚本里的旁路任务。

写于数据团队

检索底座是产品级表面——声明、流水线与查询——而不是一堆临时脚本。

vector indexes

相似度,作为索引。

对您内容的语义查找,被当作基础设施对待:声明、版本化,由工作流重建——而不是由还留着脚本的某人来重新生成。

像其他一切一样声明

索引是项目中具名的资源——有类型、可检查、有所属。

带过滤的相似度

将近邻搜索与结构化过滤结合,回答始终落在正确的轨道上。

可重跑的重建

索引构建就是工作流——版本化、可恢复,在运行时间线上可见。

在线核验服务状态

索引会报告自己是否真的在服务——经核实,而非假设。

写于平台团队

搜索不再是独立的一套栈,而是项目中又一个可问责的资源。

联系我们

和我们聊聊运行 Quark。

告诉我们您的工作负载 — 我们会展示您自己的云能做什么。