编者按:随着ChatGPT的横空出世,人工智能(AI)的热度持续攀升,无论身处哪个行业或领域,AI都成为热议的焦点。从国内到海外,对AI的讨论热度有增无减,引发广泛关注。为了探究基于大型语言模型(LLM)的初创公司是否能在市场中立足,外媒TechCrunch近期与6家海外风险投资(VC)机构的合伙人及区域负责人展开专题讨论,深入探讨了商业模式、市场竞争、应用场景、GTM策略以及定价趋势等关键议题。
关于生成式AI技术堆栈,更倾向于选择全栈解决方案还是垂直细分方案?Rick Grinnell(Glasswing Ventures)将生成式AI技术堆栈划分为四个层次:基础模型提供商、中间层公司、最终市场或顶层应用,以及全栈或端到端的垂直公司。他认为,大多数机会存在于应用层,而在这个层次内,最佳应用将结合内部专业知识构建专用中间层工具,并与合适的基础模型相结合,形成“垂直集成”或“全栈”应用。这种模式为初创公司带来更短的上市时间,使其能够快速创新、迭代和部署解决方案,从而在竞争中占据优势。
另一方面,中间层被视为连接AI基础要素与精细化专业应用层的桥梁,包括模型微调、提示工程和敏捷模型编排等先进能力。Edward Tsai(Alumni Ventures)认为,类似于Databricks的实体将在这一领域崭露头角。然而,这一层次的竞争动态带来了独特挑战。基础模型提供商进军中间层工具领域可能加剧商品化风险,而市场领导者进入这一领域将进一步加剧竞争,使得初创公司需要找到明显的差异化优势。
Lisa Calhoun(Valor VC)指出,虽然有些初创公司专注于技术堆栈的特定部分,但Valor更关注应用型AI,即解决客户问题的AI。例如,Saile.ai利用AI为财富500强公司生成可关闭的潜在客户线索,或使用自训练数据集创建更精准的信用风险评分,以及为个体提供DNA治疗解决方案等。Wei Lien Dang(Unusual Ventures)认为,大多数初创公司将从各个层面入手,例如Lamini专注于微调,LlamaIndex致力于数据管理,LangChain从处理LLM调用顺序开始,逐渐演变为工具包,而MosaicML等端到端平台公司则从特定训练开始,逐步扩展。
Rak Garg(贝恩资本)认为,某些层次将保持水平分层,特别是芯片组和堆栈底部的预训练/微调层,初创公司难以构建涉及技术堆栈深层的垂直解决方案。在这些层面之上,既有分层解决方案又有垂直方法,具体取决于客户特征。对于技术前卫、更愿意自行开发的公司,他们将消耗堆栈的每个层面的专业化提供商,以获得灵活性、可定制性和领域特定性。受监管行业由于合规性原因,将使用各种组件进行内部构建,而非商业产品。而非受监管公司内部的更多功能领域,如法律、财务、支持、运营等,将购买垂直应用程序,类似于销售团队引入HubSpot而非要求中央数据团队构建CRM。
Sandeep Bakshi(Prosus Ventures)认为,构建跨堆栈的解决方案仍然非常有趣,垂直方法如Corti(医疗保健领域AI辅助系统)所示,允许公司为特定企业和购买者设想构建解决方案,从而提供更相关的答案。随着Datadog和微软等巨头加入,初创公司仍有机会通过专注于训练模型、使用垂直特定数据集,提供更相关的答案。
Rick Grinnell(Glasswing Ventures)指出,LLM可观察性属于中间层范畴,像Datadog、New Relic和Splunk等老牌公司已推出LLM相关工具,并投入大量研发资金,短期内可能限制市场领域。然而,正如互联网和云计算兴起时所见,老牌公司将持续创新,直到创新停滞。随着AI成为家喻户晓的名词,在各个垂直领域找到用途,初创公司有机会提供创新解决方案,颠覆并重新构想老牌公司的工作。
Edward Tsai(Alumni Ventures)认为,像Datadog这样的老牌公司在推出优秀产品后确实会占据市场份额,但不同客户需求各异。除了Datadog,还有许多其他数据和APM可观察性初创公司正在竞争,以及专门从事AI机器学习和LLM的公司,如Arize和Aporia。美国企业市场习惯于选择大型平台和最佳解决方案。
Lisa Calhoun(Valor VC)指出,像Datadog这样的工具只有在成功监控AI性能瓶颈时才能更好地推广AI工具,这本身仍是一个尚未被探索的领域。成本监测可能是关键因素,因为像OpenAI这样的公司主要按“token”计费,与云计算度量标准不同。
Wei Lien Dang(Unusual Ventures)见过超过10家新创公司尝试将LLM应用于数据分析,它们都有相似的故事。这意味着初创公司创始人需要思考公司的“为什么现在?”。单纯LLM并不一定是成立公司的理由,但初创公司需要能够区分其产品并从GTM角度竞争。
Rak Garg(贝恩资本)指出,宏观环境对企业预算施加压力,与现有供应商扩展、支出或赢得有利定价更容易,而非尝试引入新供应商。市场机会仍然存在,特别是在安全性和可观察性等领域,但这些领域的预算噪音将使初创公司在市场推广方面面临挑战。他鼓励公司专注于新的机会,如以前无法自动化的领域,以及可以重新构想为现在可以提供100倍改进的领域。
Rick Grinnell(Glasswing Ventures)认为,基础层模型提供商如Alphabet/Google的Bard、Microsoft & OpenAI的GPT-4和Anthropic Claude等,在数据获取、人才库和计算资源方面拥有固有优势,这一层次将形成寡头结构。最大的市场机会位于模型本身之上,推出针对特定行业的AI引擎API和操作层的公司将创造全新用例,并改变工作流程。然而,市场仍远未完全成熟,LLM仍处于初期阶段,大公司和初创公司对其采用尚未完全成熟和完善。
Edward Tsai(Alumni Ventures)认为,开源工具如LangChain、Weaviate和Together等,为初创公司受益于社区贡献提供了竞争优势。市场上仍有很大空间,因为几乎每家公司都会使用LLM和AI,但只有极少数公司希望并有预算进行大规模专业服务合作。初创公司将提供用于LLM部署的工具,而无需专门的AI基础设施团队,这正是推动“AI工程师”概念的原因。
Rak Garg(贝恩资本)指出,在基础架构方面,最大的科技公司实际上是在生产环境中大规模运行LLM的地方。围绕这些技术工作的人可以离开并创办公司,处理生产化LLM的各种工作,包括推理、数据整理、非结构化数据ETL、RLHF(强化学习和人类辅助训练)平台等。在垂直应用方面,特别是在受监管行业和手动岗位中,存在许多机会。那些为特定行业训练AI模型的初创公司更具竞争力。
Rick Grinnell(Glasswing Ventures)认为,面向特定行业的初创公司必须优先考虑收集专有数据、整合复杂的应用层,并确保输出的准确性。应用程序必须解决高管们优先考虑的真正企业痛点,并由符合特定和独特软件需求的尖端模型组成。专有数据对于提供特定和相关见解以及确保其他人无法复制最终产品至关重要。内部中间层能力提供了竞争优势,同时充分利用基础模型的力量。细分市场必须能够容忍不确定性,这在主观和模糊的内容中自然存在,如销售或市场营销。
Edward Tsai(Alumni Ventures)认为,需要有良好的行业特定产品工作流程,这需要一些行业特定专业知识和付出,这会提高初创公司竞争的门槛。尽管如此,他提出一个有争议的观点,风投公司和初创公司可能需要暂时减少对竞争优势的关注,增加对提供引人注目的价值和专注于市场速度的产品的关注。过去一年里“类人”LLM性能的显著提升使得初创公司能够迅速为最终客户提供显著价值。
Lisa Calhoun(Valor VC)指出,专注于客户解决的问题,AI只解决问题的一部分。如何将所有部分整合在一起是创建出色解决方案的关键。
Rak Garg(贝恩资本)指出,最近的论文越来越多地指向数据质量和数据整理作为LLM质量的关键因素。为培训或微调提供最高质量和最具差异化的数据对最终用户产生了真正的影响。产品必须足够好,能够赢得用户并防止他们流失。
Sandeep Bakshi(Prosus Ventures)认为,初创公司是否能够使用与其细分市场特定的数据进行模型训练,并使这些数据在某种程度上具有专有性,将决定其成功。最终,这还取决于购买者特征。面向大型企业的销售更为耗时,具有更高的准入门槛,因为存在更复杂和多方面的批准流程。一旦公司成功进入企业并继续提供卓越的产品和引人入胜的客户体验,它就是自然而然地具有竞争力。
Rick Grinnell(Glasswing Ventures)指出,在企业领域,人们清楚地认识到AI的价值,然而许多企业缺乏内部开发AI解决方案的能力,这种差距为专门从事AI的初创公司提供了与企业客户合作的重要机会。随着业务环境不断成熟,利用AI的能力正在变得战略性至关重要。麦肯锡报告指出,生成式AI可以通过编写代码、分析消费趋势、个性化客户服务、提高运营效率等方式,为各行业增加多达4.4万亿美元的价值,94%的企业领导认为,在未来五年内AI将对所有企业的成功至关重要,全球对AI的总体支出预计将达到。
Edward Tsai(Alumni Ventures)认为,有一系列解决方案的市场,从需要技术团队部署的开源解决方案到适用于业务用户的易于使用、拖放式解决方案。初创公司应考虑他们想要使用的范围和入口点来部署其产品。简单和美是难以实现的。因此,以简单和易用性为出发点为企业AI客户设计AI和LLM相关产品,可能会为初创公司带来一些优势。
Lisa Calhoun(Valor VC)预计,在下一个周期内,平均应用型AI客户的“AI技术能力”将与他们目前的技术能力差不多,总体来说不会太多。目前尚不清楚“提示”和“微调”等功能是否会成为内部经验的一部分,但这需要时间,解决自然界面问题的初创公司将处于领先地位。
Wei Lien Dang(Unusual Ventures)认为,很多创始人,尤其是那些来自AI/机器学习背景的人,认为他们的终端用户将具有与他们相同的技术水平。但这取决于他们所针对的市场细分和用户画像。例如,许多财富500强公司拥有内部机器学习团队,并具有从使用机器学习进行欺诈检测、推荐和其他用例的角度来看的高度技术水平。随着市场的下沉,很多公司在使用AI方面缺乏第一手经验,但他们对开始自助式使用AI表现出浓厚的兴趣,一些人拥有的现有AI专业知识水平完全影响了他们如何描述自己的问题、解决问题所需的产品以及他们想要采用的方式。
Rak Garg(贝恩资本)指出,根据他与数十家财富500强企业的采购商的交流经验,大公司在整个组织中拥有丰富的技术能力,但在整个组织中利用这些能力可能有点懈怠;构建基础设施的初创公司将不得不说服采购商,现在是时机成熟,增加技术运营的开销将值得回报,并且基础设施解决了公司当前正在解决的实际问题。构建应用程序的初创公司需要吸引组织内的功能用户,这个过程与技术能力无关,更多的是与了解代表的工作有关。
Sandeep Bakshi(Prosus Ventures)认为,这取决于企业AI客户。大型科技老牌企业(也是企业客户)将拥有自己的技术人才,也将能够根据他们的工作性质招聘尖端的技术人才。他喜欢以这种方式思考这个问题:“什么会吸引一个具有技术能力的员工加入一家公司?”答案在于企业是否在进行技术挑战性的工作。对于专注于垂直领域的企业,AI工作的技术性质可能更多地涉及评估解决方案并在其特定垂直领域中实施,而不是构建解决方案,因此我们将发现这些企业对开箱即用的解决方案需求更大。
Rick Grinnell(Glasswing Ventures)指出,到目前为止,大多数AI初创公司仍然坚持采用传统的SaaS定价模式。在后端,使用基于使用量的分层已经成为常态(AWS、Google),因此与风险投资公司已经有大量关于如何划分价格的知识库,所以这并没有太大不同。
Edward Tsai(Alumni Ventures)认为,随着基础模型性能的提高和价格的下降,我们很可能会继续看到更多传统的基于SaaS的定价模式。在一些用例中,根据部署需要大量API调用基础模型,可能会采用一种混合模型,其中使用会被限制或对异常高使用率进行限制,或采用定制的“企业”模型。
Wei Lien Dang(Unusual Ventures)认为,随着时间的推移,基础架构和应用公司都将转向传统的SaaS定价模式,以通过功能和更好的开发者/用户体验从他们的客户那里捕获更多的价值。投资者也将更加关注这一点,因为它直接影响了这些企业的利润率配置,基本上要求使用这些提供商的公司采用基于使用量的定价模式。
Rak Garg(贝恩资本)指出,我们看到平台费用以及基于使用量的费用的混合模式,这为最终用户提供LLM功能变得有价值。
本文为专栏作者授权微新创想发表,版权归原作者所有。文章系作者个人观点,不代表微新创想立场,转载请联系原作者。如有任何疑问,请联系http://www.idea2003.com/。