2023年8月,在行业对模型层的讨论还热火朝天的时候,洞察到企业用户不知道选哪种大模型,难以在业务场景落地等诸多痛点,明略科技将目光转向应用层,基于大模型的应用产品——小明助理Copilot就这样诞生了。
在基础层、交互模式、企业协同、组织运营方面,小明助理Copilot从企业视角出发,选择了一条差异化的产品路线。上线半年来,通过在明略内部的试水与持续打磨,目前95%的员工已在日常工作中高频应用小明助理Copilot,周活达到70%以上,初步实现了“与大模型同频”。
为了让更多企业拿到大模型的船票,2023年营销科学大会上,明略科技对外推出小明助理Copilot,并宣布2024年即将开源。在大模型浪潮下,小明助理Copilot的研发设计如何融入了企业诉求?背后的产品理念是什么?
小明助理Copilot有哪些功能?
先来介绍下小明助理Copilot是什么,小明助理Copilot是一款面向企业用户的一站式大模型AI智能助理、浏览器插件产品,兼顾PC/移动端网页等产品形态。
针对企业协同办公与业务需求,小明助理Copilot能够帮助企业完成哪些工作?接下来,我们从文本、图像,以及具体业务场景,看看它的表现~
文本处理
可以一键阅读当前页面/PDF文本,形成文章摘要总结,并推荐用户可能感兴趣的问题。
浏览外文网页时,可以一键翻译成指定语言,与原文对照阅读。
大模型训练语料不够新,提供的答案过时怎么办?小明助理Copilot可以支持“联网搜索”,背后连接微软必应的搜索能力,用户提问后,同时提供相关度最高的答案与对应来源。
不知道如何写好提示词怎么办?用户可以根据自身需求在提示词推荐区,选择合适的公共提示词作为辅助,同时不断积累个人/企业提示词,并将优质、可复用的Prompt模板分享给团队与个人。
图像处理
输入简单的提示指令与参考图片,即可生成真实、美观的图片,为设计、销售、市场营销人员带来创意灵感。
业务场景
在广告营销场景,基于明略科技旗下秒针系统行业知识库训练优化的垂直大模型,企业可以完成营销策略输出、年度KPI设定、品牌整合营销、传播内容生成、销售素材生成等任务。详情可回顾2023年营销科学大会上明略大模型产品负责人孙方超的现场演示。
此外,小明助理Copilot搭建了一系列可直接用于执行特定任务的营销Agent。以Content Agent为例,可以调取大量社媒数据与专有知识,在生成社媒文案时,辅助企业洞察最新的流行元素、消费者关心的热词,判断适宜触达的圈层。
基于Copilot的两个创新点
用户浏览网页时,它安静地守候在侧边栏;需要用到它时,一个快捷键就可以把它唤醒。同样是大模型应用,对比最受瞩目且最先商业化的微软Copilot,小明助理Copilot在浏览器插件上看到了更多的可能性。
当前大模型应用层产品设计,大致可以分为5种类型:
第一种:嵌入式
将大模型能力嵌入到现有的产品中,为用户提供增值服务。例如,在文档编辑软件中加入自动摘要、智能写作建议、语法纠错等功能。
第二种:跨平台浏览器插件
开发基于大模型的浏览器插件,可以在用户浏览网页时提供即时的关键信息提取、多语种翻译、综合分析等功能,提高用户的信息检索效率和阅读体验。
第三种:API服务
通过提供API接口服务,允许开发者将大模型能力集成到自己的应用中,让大模型的能力得到更广泛的应用,同时为开发者提供灵活性和可扩展性。
第四种:独立应用程序
开发以大模型为核心的独立应用程序,如专门的写作辅助工具、学习辅导软件、智能对话机器人等。这类产品侧重于提供某一领域或任务的深度服务。
第五种:智能硬件集成
将大模型能力集成到智能硬件中,如智能音箱、智能家居等,提供自然语言交互的控制功能和智能服务,增强用户体验。
微软Copilot属于第一种,用户在使用微软相关软件时可以获得生成式AI的辅助,无缝提高工作效率和创造力,不需要切换到单独的应用或平台。但与此同时,也存在跨平台、兼容性,以及成本方面的问题。
Copilot Everywhere
尽管在特定软件的集成程度上略逊于微软Copilot,小明助理Copilot的思考是,更易用的Copilot,应该实现Copilot Everywhere。
在产品研发之初,通过拜访大量企业,明略科技发现,不同企业应用的系统、软件各异,基于一个平台的产品,难以满足不同企业的使用需求。因此,小明助理Copilot选择了全平台、跨平台的产品路线,以浏览器插件为主,兼顾PC、移动端网页版等产品形态,让企业无论在PC端,还是移动端,都可以充分调用大模型的能力。
为什么小明助理Copilot优先选择了浏览器插件的形态?
广泛的兼容性:
支持多浏览器,能够覆盖更广泛的用户群体。
易于安装和使用:
可以在网页端快速下载安装,安装过程简单方便。
高度独立性:
在浏览器中运行,不依赖于具体的操作系统或应用平台,在不同环境下的表现更为一致。
更为重要的是,许多上一代的应用程序都是通过浏览器访问的,小明助理Copilot可以更好地与现有的工作环境无缝集成。浏览器插件本身比较轻量化,就在员工的手边,而小明助理Copilot想做的第一件事就是把大模型带到每一位员工的面前。
不同业务场景,择优而用
当前阶段,各家大模型技术仍在快速迭代,数据指标不断刷新。大模型应用的优势在于,帮助企业在实际场景中快速落地,避免因部署单一大模型而产生的持续优化成本,提升抗风险能力。
作为一站式大模型入口,在文本、图像,以及具体业务场景下,小明助理Copilot提供了相应的大模型做支撑。企业可以根据自身需求,调用能力更为匹配的大模型,解决单点工具或单一大模型难以覆盖多个应用场景的问题。
Let's on the same page !
在大模型的语境下,由于缺少企业的上下文信息,员工Prompt水平参差不齐,每个人得到的结果天差地别,难以符合预期,企业通常容易简单粗暴地把问题归结为AI没有用。
一个不容忽视的事实是,“协同”在ToB场景尤为重要。Microsoft Teams的成功以及Yahoo Messenger在企业市场上的逐渐淡出给人们以启示:即使是一个功能强大的工具,如果不能满足企业对协作和沟通的深层需求,最终也难以在企业市场立足。
on the same page是提升企业协同能力的关键步骤,也是小明助理Copilot的核心理念,即在企业内部填平信息鸿沟,让员工处于同一认知维度,从而实现三层价值:
第一层:让大模型与员工on the same page
第二层:让团队成员彼此之间on the same page
第三层:让团队与团队之间on the same page
如何实现on the same page?
小明助理Copilot在产品与运营层面集中做了两件事:
●提供更灵活、安全的方式,帮助企业向大模型注入外挂知识
●帮助员工持续提升Prompt技巧
传统知识库 VS 大模型时代的知识库
通用大模型有两个认知盲区:一个是新知识,另一个是企业/行业知识。正因为这两部分知识的缺失,人们就不难理解,为什么大模型难以给出具体业务场景下,有针对性的答复。
新知识的缺失,小明助理Copilot的联网搜索功能已经可以解决;而企业/行业知识的缺失,需要企业构建内部知识库。
大模型技术的发展使传统知识库的形态得以重塑。
一是交互模式,以自然语言交互取代传统的关键词/表单搜索模式,基于自然语言的语义理解,更便捷地搜索到与用户需求匹配的信息,提供与文档对话的能力;
二是信息处理功能,在检索之外,还可以提供内容摘要、信息提取、分类、对比等更多功能;
三是知识覆盖,未来还可以支持联网搜索,这也意味着除了知识库本身的能力,还能够学习互联网上的实时信息,对知识库本身的内容进行补充。
具体而言,通过上传企业文档,企业可以调用大模型进行分析总结。每个部门、每个员工可依据自身需求,创建个人或团队知识库,由企业自行控制文档的分享范围。
好Prompt撬动大模型价值
一项新技术的诞生需要人类经历一段长期的适应过程,有了工具还远远不够。在明略内部推出小明助理Copilot初期,员工使用情况也曾一度低迷,很大程度上是因为不会写Prompt。对于刚接触大模型的企业来说,不重视Prompt工程,把大模型当成搜索引擎的情况更为普遍。
小明助理Copilot如何破解了这一难题?
产品层面,小明助理Copilot为企业用户提供了公共提示词(Prompt)作为参考,同时支持个人与企业提示词(Prompt)分享,让优质Prompt能够在团队内部得到复用。与此同时,提供了多种场景的Agent,用于直接执行社媒分析、圈层分析、文案打分、内容优化等特定任务。
组织运营层面,举办小明助理Copilot黑客马拉松、定期培训、分享交流,以及创办社区等大量的运营工作。目前,小明助理Copilot在明略内部的周活已达到70%以上,积累了40多个高频使用的Prompt模板。
先拿到船票
明略科技认为,在大模型的基础上,AI Native代表了一种由AI重构底层逻辑的全新应用形态。但它的出现并不意味着企业要把过去的数字化系统统统扔掉,以追求新一代的AI能力。实际上,这种方式反而容易造成信息与数据加工能力的缺失。
通过非侵入式的Copilot,在不影响原有工作流的前提下,把大模型与浏览器、IT系统连接起来,或许是现阶段更为安全可靠的做法。
针对多数企业“用不上”“不会用”的痛点,小明助理Copilot为企业提供了一系列落地运营服务,希望成为大模型应用市场中AI-onboarding的角色,帮助企业尽快拿到大模型的船票,尽早培养员工使用大模型的习惯。
Q:企业员工不会用,难推动怎么办?
A:提供培训、运营分享等陪跑服务。
Q:是否支持个性化定制?
A:支持。可定制企业个性化Copilot,Private Agent,同时支持私有模型训练。
Q:如何确保数据安全?
A:具备数据加密,数据脱敏能力;支持私有部署,所有数据可沉淀在企业服务器。
Q:什么时候开源?
A:今年即将开源,让每个企业都能便捷、安心地部署小明助理Copilot。
就在最近,小明助理Copilot上线了会话分享、个性化调节模型参数等新功能,对产品进行持续迭代升级,进一步满足企业多样化需求。
在生成式AI时代,企业需要认识到,大模型并非万能,真正的决策与创新仍掌握在人类手中。通过鼓励员工使用大模型应用,企业可以激发集体的创新潜能,拓展出更多应用场景。更为重要的是,加快组织智能化转型的步伐,在市场上形成先发优势。