开发者新宠，轻松驾驭Prompt创作新时代
编者按：本文源自微信公众号量子位（ID：QbitAI），经微新创想授权发布。两位华人创业者联合组建一支7人精英团队，打造出名为Cortex的创新项目，进军大模型创业领域。据悉，该项目已成功获得Zoom系、Getty家族和快手系的天使投资。Cortex是一款集成了众多大模型API的智能中间件，致力于让大模型更懂用户需求，成为开发者的得力助手。
Cortex的核心优势主要体现在两个方面：一是支持私有数据接入，包括Notion、Slack、Google Drive等平台，帮助企业构建专属领域的私有版GPT；二是能够在企业内部实现千人千面的Copilot，为每位员工提供个性化的智能助手。目前，Cortex在国外市场已取得初步成功，拥有10多家付费企业和上千名个人用户。一家知名网红SaaS公司已采用Cortex，让网红能够以特定人设与粉丝进行深度互动。
大模型中间件的概念，是指在底层大模型和上层应用之间架设的桥梁性软件，主要解决大模型落地应用中的数据集成、场景适配、知识库融合以及多模型协同等难题。对于面临”自建大模型成本高昂、垂直模型功能有限”两难困境的企业来说，Cortex提供了理想的解决方案。
随着大模型技术的不断成熟，大模型中间件创业项目逐渐涌现。Cortex能够整合GPT-4等多个不同的大模型资源，实现语言模型的协同应用，堪称大模型应用层的智能编排器。其核心目标在于提升技术人员开发大模型应用的效率、可访问性和可扩展性。
Cortex的命名灵感来源于”大脑皮层”这一英文词汇。大脑作为神经中枢对应大模型，而皮层则代表着大脑的智能结构。Cortex通过按需调用不同大模型，并以标准化格式约束输出结果，帮助用户解决单一模型无法胜任的复杂任务。
Cortex的核心功能主要体现在以下两个方面：
首先，作为集成多款API的工具，Cortex能够外接私有数据库，将通用大模型转化为特定领域的专业模型。这种”广度与深度并存”的策略，既避免了与特定行业服务商的直接竞争，又能够通过接入私有数据深化领域理解。Cortex通过调用向量数据库、实时联网搜索和指定API调用等方式，增强专业模型的实用价值。
其次，Cortex能够帮助每个用户打造个性化的Copilot。从撰写文档、制作PPT到编写邮件、总结会议，Cortex都能高效完成。更进一步，在同一企业内部，Cortex能够根据不同岗位需求，生成定制化的输出结果，实现”千人千面”的智能服务。
Cortex的费用采用按量计费模式，其服务模式类似于连接数据库与大模型的云服务商，通过整合多样化API资源，确保各项功能的稳定运行。这种设计使得Cortex深受开发者青睐，尤其适合有一定技术基础的开发者和IT从业人员。
对不擅长Prompt撰写的程序员来说，Cortex更是福音。其智能化的Prompt优化功能，能够帮助开发者快速上手，大幅减少调试工作量，将更多精力投入到创造性工作中。
Cortex团队选择开发大模型中间件，源于对未来多模态、多模型智能世界的坚定信念。他们认为，单一模型即使强大如GPT-4，也无法应对所有场景。只有将多个模型有机结合，才能真正构建出实用的AI应用。团队核心成员曾尝试使用Langchain实现类似功能，但发现过程异常艰难，市场上缺乏能够有效连接模型层与应用层的中间件。
Cortex创始人兼CEO Nemo Yang表示：”现有平台和工具都无法满足我们的需求。”团队在探索过程中发现，用户普遍反映大模型虽好，但接入API过于繁琐，对模型调控的掌握也较为困难。这些市场反馈成为Cortex产品设计的直接动力。
Cortex的成功离不开用户需求的精准把握。Nemo多次提到”用户说””市场反馈”，并详细解释了Cortex如何根据这些信息优化产品特性。例如，针对向量数据库在处理上下文关联强的文章时可能丢失语境的问题，Cortex采用了完全自研的解决方案，支持全局检索和分段返回两种模式。
在Prompt工程方面，Nemo指出虽然看似简单，但出色完成并不容易。因此，Cortex特别设计了针对不擅长Prompt撰写的开发者的友好功能，允许专业Prompt工程师参与工作流程，帮助Cortex更精准地理解用户需求。
未来，Cortex计划接入Slack、Confluence、Microsoft全家桶和Google全家桶等更多平台，始终秉持”开发者优先”的理念，尽可能缩短开发周期。
Cortex背后的公司Kinesys AI拥有一支7人的全职团队，其中两名创始人均为华人，多人毕业于斯坦福大学。创始人兼CEO Nemo Yang是00后，在佐治亚理工学院取得本硕学位，拥有机器学习专业背景，曾任职于字节飞书和微软。14岁时，Nemo便因热爱计算机前往硅谷留学，高中时期已开始开发网站和App，参与过多个创业项目。联合创始人兼CTO Jian Cai毕业于北京大学计算机系，曾在Google工作8年，其上一家创业公司”一起写”后被快手收购。
本文为专栏作者授权微新创想发表，版权归原作者所有。文章系作者个人观点，不代表微新创想立场，转载请联系原作者。如有任何疑问，请联系http://www.idea2003.com/。