关于生成式AI的4个工具领域及其解决问题

注：原文来自@@FinanceYF5发布长推。

这是又一篇硅谷vc Base10 对于Generative AI的分析。

以下是您需要的 4 个工具领域及其解决的问题：

1.编排 Orchestration

2. 部署、可扩展性和预训练 Deployment, Scalability & Pre-training

3.上下文和嵌入 Context & Embeddings

4. 质量保证和可观察性QA & Observability

1.编排

LLM 需要连接到外部系统，允许动态数据访问和用户操作，例如 ChatGPT 插件 这些新兴工具增强了 LLM 的能力，支持个性化应用程序并成倍增加 LLM 和其他软件的能力。

2. 部署、可扩展性

开发人员正在选择开源或自定义模型，因为像 GPT-4 这样的模型存在隐私和定制问题等 ，但部署开源或自定义模型会带来基础设施、成本和性能方面的障碍，这些工具可以帮助解决这些问题。

3.嵌入

该行业在 4 月份很火爆，融资超过 1.75 亿美元 LLM 需要不在其原始训练集中的上下文或数据才能获得正确答案。 LLM 通过在推理时在提示中附加一组有限的有用信息来解决这个问题。

4. 质量保证和可观察性

一旦你部署了你的 LLM 支持的产品，你需要分析它的性能、速度、用户洞察力等，以便从你的产品的 V1 到 V2 这种新兴的工具类可以为开发人员处理可观察性、监控、微调、QA 和其他任务。

用 LLM 构建产品和功能的创始人越来越多地遇到障碍和障碍。 我们已经确定了解决这些“难题”的初创公司——并可能在此过程中建立数十亿美元的业务。

主要问题？

(1)关联性：越大不一定越好

(2) LLM 是信息和行动受限的

(3) LLM 很贵

(4) LLM 并不总是私有的

(5) LLM 可能不可靠。

我们根据这些初创公司对开发人员的主要用例来解决其中一些问题： Orchestration: http://Dust.tt @FixieAI @LangChainAI @vocodehq @JinaAI_ @gpt_index Pyq @GradientJAI @StackAI_HQ Anarchy AI @logspace_ai Trudo AI @make_berri @HubbleAi @wavelineai @patterns_app @trypromptly

Deployment, Scalability, & Pre-Training: @MosaicML @neuralmagic @anyscalecompute @BananaDev_ @OctoML @seldon_io @bentomlai Alpa @LightningAI @Zeet_Co @MindsDB @AiEleuther Utterworks @cerebriumai Meru @cargoshipsh @Texel @rubbrbandHQ Steamship @PoplarML Beam @AutoblocksAI

Deployment, Scalability, & Pre-Training (cont.): @basetenco @ForefrontAI @gooseai_NLP @runpod_io @_segmind @CentML_Inc @brevdev

Context & Embeddings: @pinecone Metal @weaviate_io Drant @zilliz_universe Valt @UnstructuredIO @RelevanceAI_ Chroma @trybaseplate @supabase Neon @activeloopai Marqo AI @Redisinc @xata Vespa @NucliaAI @PromptableAI @Unum_UK @promptifyai

QA & Observability: @humanloop HoneyHive @deepset_ai Aporia @WhyLabs @arizeai @SuperwiseAI @latticeflowai Neptune AI @gretel_ai @helicone_ai Vellum @promptlayer @GraphsignalAI Helm @PromptJoy

Base10 原文：

https://t.co/4jz3JGUKWS