前不久,娱乐资本论根据GPT-3.5、讯飞星火、文心一言、通义千问和昆仑万维天工五款大模型发布了“万字横评”,提出18个问题得出90个回答,最终以测试评分表形式进行打分。结果显示,GPT-3.5以74分位列第一,讯飞星火以63分位列第二,文心一言以54份位列第三。其测试方法非常接地气,侧重于实际文本应用场景的演练,更符合文字工作者的实际工作需求,而不是评测顺口溜或回答哲学问题。

靠实用性出圈,国产大模型实用性测评讯飞星火排第一

在评测中,文本应用场景被分为了小红书带货文案、抖音直播文案、知乎问答等十余类,都是用户应用广泛、且非常熟悉的文本应用场景。如在面向小红书平台提交手机新品的带货文案创作中,讯飞星火在prompt未制定手机型号时,自己假定了一款型号,以帮助人类更好地了解手机推销所需的主要指标,不仅条例清晰、内容齐全、而且emoji具有相关性;与之对比的文心一言和天工大模型在prompt里指明小红书文案要带有emoji,但给出的答案却并没有。

靠实用性出圈,国产大模型实用性测评讯飞星火排第一

因此在小红书文案三类测试中,星火累计得分高达11分,而其余国产大模型得分较低。

靠实用性出圈,国产大模型实用性测评讯飞星火排第一

在虚构热点事件的新闻稿创作中,参与横评的大模型都要以资深编辑身份,写一段周杰伦召开鸟巢30场演唱会的800字演讲稿。

靠实用性出圈,国产大模型实用性测评讯飞星火排第一

结果GPT-3.5等文风浮夸,而星火在不给事件细节的前提下,不仅虚构了合情合理的演唱会主题、阶梯式定价以及多种优惠政策等描述,还“脑洞大开”写了一段主办方推出“虚拟看台”创新服务的延展,与当下热门的元宇宙概念紧密相连,成为了唯一一个单项满分的大模型。而在淘宝商品详情页描述文案、广告片宣传文案、公关稿生成等场景应用中,讯飞星火在国产大模型中都排名第一。

靠实用性出圈,国产大模型实用性测评讯飞星火排第一

娱乐资本论强调:“使用AI工具尽可能减少人力投入,是我们做这个横评的终极目标”。通过横评测试可知,讯飞星火生成文本完成度最高,只需少量人工修改即可使用。所以说讯飞星火能够帮助记者、编辑、文案、新媒体从业者以及设计师等创作人群利用有限线索、高效创作可用内容,实现事半功倍的效率跃迁。

与此同时从华东师范大学计算机科学与技术学院EduNLP团队发布的教育领域大模型测评框架与国内大模型评测情况来看,讯飞星火大模型在K12教育领域的总体表现较为出色,在教学知识与学生发展方面的性能对比中,多项任务性能表现甚至超越了ChatGPT。

过去一个月,笔者也从对讯飞星火的“浅尝辄止”变成了“爱不释手”,习惯用它辅助创意文案创作与编辑类工作开展。

6月6日凌晨,苹果发布了首款MR头显设备Vision Pro,这么重磅的新闻非常考验发布的时效性。为了加速创作,笔者用讯飞星火来辅助创作了一篇新闻稿,并罗列了四项要求。结果讯飞星火写的文章非常工整,涵盖了丰富的信息,简单修改就能成稿发布了,这对于抢首发流量的媒体工作者来说,大模型就成为了颠覆生产力的辅助工具。

靠实用性出圈,国产大模型实用性测评讯飞星火排第一

讯飞星火自5月6日发布以来,距今刚好“满月”, 无论是权威媒体横向评测还是通过笔者的亲身使用,可以确定的是,讯飞星火在辅助文案创作、创意文案生成等实用场景表现出色,绝对是文案、策划以及编辑等群体的好帮手。