高飞
24-06-22 21:41 微博认证:至顶科技创始人 AI博主

#OpenAI收购这家公司是为了企业AI市场#
#模型时代#
OpenAI收购实时分析数据库公司Rockset的新闻已经不算少了,但是对这家公司的细节介绍不多。正好,MenloVentures投资人,Google搜索的创始团队成员Deedy昨天讲了一下他的理解,所以再综合一下相关内容,做个备忘。

1、Rockset 成立于 2016 年,由一支曾在 Facebook 工作的团队创立(有一说一,不管扎克伯格口碑如何,Facebook,现在的Meta技术团队确实为产业贡献了众多开源项目),他们曾构建过 RocksDB,这是 Google 的 LevelDB 的一个分支,后者由谷歌大神开发者Jeff Dean(不恰当的比喻,在编程年代,Jeff Dean大概类似于今天的AI教父辛顿)和Sanjay Ghemawat 编写的可嵌入式 NoSQL 数据库。

2、公司创始人为 Venkat Venkataramani 和 Dhruba Borthakur,两人在 2007 年至 2015 年期间都在 Facebook 工作,在不同时间在威斯康星大学麦迪逊分校获得硕士学位,并分别在印度的 NIT 和 BITS 大学就读。(所以是印度裔创立的公司)

3、Rockset 由 Greylock 和 Sequoia 投资,之前通过 B 轮融资筹集了 1.1 亿美元,暗示估值在 3 亿至 5 亿美元之间。在 8 年的时间里,这家企业的业务似乎从未真正起飞,公开数据显示营收为 1000 万至 2000 万美元。(盘子并不大)

4、Rockset发布过一个技术白皮书,其中介绍了他们想解决的搜索问题:
*如何快速检索?
*如何快速建立索引?
*如何扩展规模?
*何提高检索质量?
*如何确保安全?

5、预测收购Rockset会为OpenAI的企业搜索产品提供帮助(比如RAG),以与 Glean (也是谷歌前员工创立的公司,业务为AI搜索和RAG,20亿美金的估值)竞争,或者提供与 Perplexity / Google 竞争的消费者搜索产品。Rockset 的权限功能让Deedy更倾向于前者而非后者。

6、所有矢量搜索都正在成为混合搜索,因为它能驱动最相关的实时应用体验。混合搜索涉及在单个查询中结合矢量搜索和文本搜索以及元数据过滤。混合搜索用于搜索、推荐和生成增强检索(RAG)应用。

我下载一下这个白皮书“Rockset Hybrid Search Architecture”,大致内容是:
1、通用大模型应对搜索有哪些问题
领域知识:通用模型在垂直领域知识方面存在局限性;它们不熟悉内部团队或行业使用的术语。文本搜索有助于查找特定术语。
精确过滤:相似性搜索旨在查找上下文相似的项目。它不适用于需要精确过滤的应用,例如需要查找仅有4星以上并且在10英里范围内的餐馆。在此示例中,元数据可用于过滤应用结果。
参考性:虽然来自LLM的自然语言响应可以提供有用的信息和总结,但我们看到用户会验证结果或使用源材料深入研究。
幻觉:众所周知,LLM容易出现幻觉,使用上下文信息来固定它们可以提高准确性。
权限:企业使用权限来确保答案隐私意识和安全性,只让LLM访问用户可访问的数据。

2、有何解决方案
快速复杂搜索:支持跨矢量、文本、地理、JSON和其他数据类型的复杂搜索,以提供必要的上下文。
支持数据和索引变化:数据处理、索引重训和搜索性能调优都会影响相关性。用户将随着时间的推移迭代索引算法和模型输入,需要快速高效地进行更改。
排名:使用混合方法,排名对AI应用至关重要。结合各种排名算法并迭代排名权重,使用户能够快速增强应用相关性。
实时更新:许多应用提供大规模的实时数据,以增强相关性。能够在毫秒级内更新和删除任何数据,包括矢量,同时避免高重建索引成本,使混合搜索变得经济实惠。

总结一下,Rockset希的目标是:实时摄取数据、索引不同的数据类型并运行检索和排名算法。而OpenAI收购这家公司大概的目的,更可能是为了企业AI市场的机会。

发布于 北京