按 ESC 键关闭

Cloudflare Workers 近期上新:推出Workers AI、WebGPU API、矢量数据库

💡推出 Workers AI

通过API接口或 Workers 直接使用常见开源模型,比如:
文本生成(大语言模型): meta/llama-2-7b-chat-int8
自动语音识别(ASR): openai/whisper
翻译: meta/m2m100-1.2
文本分类: huggingface/distilbert-sst-2-int8
图片分类: microsoft/resnet-50
*面板上已有60来个AI模型可用
*目前处于早期测试阶段,不宜用于生产环境
Workers AI: serverless GPU-powered inference on Cloudflare’s global network (https://blog.cloudflare.com/workers-ai/)

💡宣布支持 WebGPU 可用

通过 Dawn 实现标准 WebGPU API 用户通过 JavaScript/Wasm 来使用 GPU 资源
*WebGPU 依赖于 Durable Objects,目前相关API仅在本地开发测试环境可用,暂不支持直接部署到 Cloudflare(这需要几周开发时间)
You can now use WebGPU in Cloudflare Workers (https://blog.cloudflare.com/webgpu-in-workers/)

💡发布矢量数据库 Vectorize

Vectorize 是一个全球分布式矢量数据库,用户通过 Workers 操作存储机器学习模型生成的矢量数据集,根据自有的数据可以轻松构建具有强大搜索、相似性、推荐、分类或异常检测功能的专有应用程序
返回的矢量可以引用 Cloudflare R2 中存储的图像、KV 中的文档或 D1 中存储的配置文件,从矢量搜索结果到具体对象可用全程闭环,用户无需自建额外的基础设施
*Vectorize 目前处于公开测试阶段:免费可用(有限额)
Vectorize: a vector database for shipping AI-powered applications to production, fast (https://blog.cloudflare.com/vectorize-vector-database-open-beta/)

注意

上述新特性在本地开发测试需 wrangler版本 ≥ 3.10
Workers限制放宽:脚本大小 1~10M,运行时限≤400ms