[00:00]
为什么说像是这样一个听起来没有什么智力听起来非常廉价的一个模型它能够这么火呢
[00:11]
大家好 这里是AsyncTalk 我是AsyncTalk主播 AnnatarHe今天的话我想来聊一个前几天非常火的一个模型叫Jev首先呢 Jev是什么呢Jev的话它就是一个非常非常快的只用来去判断非常简单的东西比如说苹果能不能吃就这种非常简单的问题
[00:31]
然后它可以比Flash快更多更多的速度来去返回这就是它和其他大模型非常不一样的地方因为我们回忆一下传统的大模型的话比如说像是目前最顶级的像是GPT-6系列比如说像是Claude Opus Fable他们所有的这些模型最主要就是想要一步一步的提升智能提升思考的深度但Jev的话
[00:58]
它是走另一条路它只做一些非常简单的判断但它可以做得很快可以做得很好我相信如果你有观看我们AsyncTalk节目的话你大概就是一个程序员那程序员我们里边可以说最重要的一个语句就是if了那if A我们执行A条件执行A分支那如果不是if的话
[01:21]
那我们就执行B条件那其实我们按照这个思想的话我们来做Coding agent的时候是会经常出现这样的情况的那我举一个例子那比如说用户他有一个prompt是说帮我拿个手机那拿个手机是拿哪个手机呢如果是拿A手机的话应该怎么样
[01:39]
如果是拿B手机的话应该怎么样那这个如果的判断是应该怎么做呢那对于我们普通的大模型来说的话你可能需要去定一个output structure然后对返回的一个JSON做一个处理然后再去看这个意向到底是A还是B你需要走一遍完整的大模型
[01:58]
其实一方面的话它耗时会稍微有点久那另一方面的话其实成本也比较高那对于我们传统的大模型来说的话它是token by token的这样一个计算和计费对于Jev这种模式来说的话它就变得不一样了它就是用来去做这种简单的判断它不再需要像我们传统的大模型一样过一遍完整的
[02:18]
漫长的一个用户的意图识别当然它也不是我们纯工程上面的一个if condition a到一个a branch这样一个纯工程的方面毕竟我们中间还是需要去调用AI来理解一下用户的意图那这个时候Jev的话就非常的合适除了这个比较简单的用户的意图的识别还有什么场景呢那放在我们的AI agent
[02:45]
因为现在其实我们的agent已经变得非常的复杂了他从最开始的一些分析到中间的执行到最后的结果展示中间是有非常大量的这种简单的if 逻辑在里面的比如说我们的Coding agent那这个文件它是不是TypeScript的文件这种判断的话它也可以交给AI
[03:05]
所以交给这样这种快速决断的模型来说就变得非常的合适还有一个场景就是验证一切的场景当我们在这调用agent来去做一些事情的时候在这些非常多的步骤完成之后的话我们是有一个验证的过程但是其实我们并不能验证所有的流程因为它会把你的时间拉得非常长同样的话它也非常消耗token但是如果我们有Jev这样的模型的话它就可以非常快速的
[03:32]
来去进行一些简单的校验这样的话我们最终得到的工作的效率也会更好那接下来我来展示一下这个Jev模型它有什么应用以及它大概会是长什么样子那这里我来问他一个问题就是苹果可以被吃吗好 我们问一下他回答99%的概率可以被吃那我们问另外一个问题 比如说
[04:00]
我可以买沪深300吗
[04:05]
他给的概率是大概46% 47%的样子那我再问一下 我应该买
[04:14]
他也给个大概44的样子会比沪深300要低一些
[04:20]
他给了中规中矩大概53那样子那其实我的上下文非常的少我只是问他说我是不是应该出去玩我并没有告诉他我的地址在哪里我的时间在哪里我的假期在哪里他能给出来就是一个非常快速的一个简单的判断当我们在增加更多的上下文的时候他会得出来一些更加准确的判断那当然Jev这么好的话那他是不是可以用来去取代
[04:46]
所有的这种简单的判断呢他是不是足够可靠呢但其实并不是他像所有的大模型一样他同样是有幻觉的他只是做的问题比较简单他的反应速度比较快但他其实没办法完全避免幻觉因为幻觉这个东西人类也非常经常的有幻觉这是一个其实很难解决的问题当然我们需要承认说
[05:08]
他的这条路线非常的有趣和我们现在主流的AI发展并不一样它给我们提供了另一种可能性这点我们要支持它可以用来去替代一些比较简单的用户的判断大家也可以下来去使用一下然后它现在的这个Waitlist应该是已经完全开放了你可以拿来去试一试看一看是否可以去接入一些简单的工作流然后来提升一些效率
[05:37]
降低一些成本那也欢迎在评论区来留下你的看法你认为说这样一条非常规的AI发展路线是不是另一种路或者说你怎么样看这样的一种快速决断的模型那我们下期节目再见拜拜
