本文涵盖了来自 Cerebras 发布的 Jason Liu (OpenAI) 回答了关于 Codex Spark 的常见问题 | Cerebras 视频中的主要观点。
Cerebras 硬件加速 AI
根据 Cerebras 的说法，他们拥有独特架构的专用 AI 芯片，旨在为 AI 模型提供极快的训练和 inference 速度。Cerebras 解释说，Codex Spark 模型专门利用了这些芯片，有望显著提升 AI workloads 的速度。
Codex 与 Codex Spark：两种模型的故事
Cerebras 明确区分了 OpenAI 的前沿模型 Codex 和新型的 Codex Spark。
- Codex，正如 Cerebras 所描述的，擅长处理复杂任务和精密的特性规划，就像一辆“思维巴士”——你设定目的地，放松，工作会在抵达时完成。
- Codex Spark，另一方面，Cerebras 强调其惊人的速度，使其成为需要大量 function calls 的研究任务的理想选择，能够实现高度交互和 real-time 的应用程序。Cerebras 将其比作一辆“快车”，需要更多关注，但能更快地将你带到目的地。
Cerebras 强调，最有效的工作流程是融合这两种模型：Codex 用于构建复杂计划，而 Spark 用于交互式研究和 real-time 代码交互。
将 Codex 整合到 OpenAI 的日常工作流程中
Cerebras 透露，包括 Jason Liu 在内的 OpenAI 工程师日常管理着大量的 Codex 会话，通常同时运行 10 到 20 个。根据 Cerebras 的说法，这些会话支持各种内部操作，从监控 Slack 获取更新的研究 agents 到专门构建 demo 的 agents。Cerebras 指出，Codex agents 甚至用于文档创建，当需要更改时可直接从 Slack 触发。
Codex 的多功能性：超越编码本身
尽管 Codex 自然地被用于构建自身并支持研究团队，Cerebras 强调 OpenAI 工程师利用 Codex 完成了令人惊讶的非编码任务。Cerebras 解释说，Codex 通过识别重复的 issues、评估 pull request 的可合并性以及自动化 codebase 周围的各种维护任务来协助管理开源 repositories。
理解 Codex 的深思熟虑与 Spark 的紧迫性
Cerebras 解释了人们对 Codex 速度的看法，解释说它的设计模仿了一位熟练的软件工程师：它在实施更改之前会投入大量时间来理解代码，而不是急于求成。Cerebras 提到正在持续改进 inference 速度，包括引入 WebSockets API，使 Codex 更快。
关键在于，Cerebras 指出 Codex Spark 的开发是由对日常交互任务所需的快速模型的需求所驱动的，它补充了原始 Codex 更深思熟虑、复杂的特性构建能力。Cerebras 总结道，同时拥有一个快速模型和一个慢速模型为开发者提供了一个完整的工具包：快速模型支持交互式开发，而慢速模型则支持复杂特性的审查和创建。
如需深入了解这些见解并观看 Codex Spark 的实际演示，我们鼓励您观看 Cerebras 发布的原始视频。
本文基于 Cerebras 发布的一段视频。 来源：Jason Liu (OpenAI) 回答了关于 Codex Spark 的常见问题 | Cerebras
External Intelligence