企业用户对模型精准要求高，要求解决实际问题，即使是最大参数模型也不一定能达到企业要求，所以大模型卷价格对企业用户而言并不十分有用。通用大模型更应提升模型精准度和模型效果，才能真正具备竞争力。
要让大模型变成“理科生”，成为专业领域的专家模型。大模型的新趋势是用RAG（检索增强生成）和Agent（智能体）技术提升模型精准度，或将涌现出一批Agent，构建Agent的过程就是教大模型如何使用内部工具。
星环科技创始人、CEO孙元浩。
“大模型卷价格对企业用户来说帮助并不大，企业用户对模型的精准度要求高，通用大模型更应通过提升模型精准度和模型效果，赢得竞争力。”5月31日，企业级基础软件供应商星环信息科技（上海）股份有限公司（星环科技，688031）创始人、CEO孙元浩在向星力未来数据技术峰会期间接受采访时作出上述表示。
仅依靠低价很难让用户形成粘性
近期，国内通用大模型价格战打得火热，科技巨头纷纷参战。孙元浩表示，这是由中国特殊生态造成的。在他看来，眼下降价的都是一些小模型，但企业用户对于模型的精准度要求很高，希望能够解决实际问题，当前即使是市场上最大参数的模型也未必能达到企业要求，所以降价对企业用户而言帮助有限。“企业的要求远比现在的模型能力高很多”，据他所知，有的企业部署了五六个模型，但没有一个达到要求。
在孙元浩看来，仅依靠低价很难让用户形成粘性，“降价是为了给开发者提供低廉的Token价格，基于通用大模型开发应用，从而试图构建生态，收集高质量数据。但事实上，模型是很容易被替代的，用户想换就换，因为接口全部是自然语言，没有额度限制。”
去年，孙元浩判断，要让大模型变成“理科生”，成为专业领域的专家模型。今年，他认为大模型的新趋势是还需要用RAG（检索增强生成）和Agent（智能体）技术提升模型精准度。“现在大家又开始开发Agent，可能马上会出现成千上万个Agent，这可能是现在大模型能力不够造成的，模型没办法聪明地学习现在该用什么工具、怎么用，构建Agent的过程就是教大模型怎么使用内部工具。”
大模型落地，每个环节都有挑战
目前，通用大模型数量快速增加，并不断升级迭代，但却不能完全适应企业AI应用需求。企业对行业大模型需求增加，迫切需要降低使用门槛。“现在每个大模型应用开发都要很久，重复训练量很大。我们想把整套AI基础设施建好，用户再在大模型上开发应用就快了。”孙元浩表示，过去一年帮助企业客户落地大模型时，发现每个环节都遇到了挑战。为此，星环科技开发了语料处理、模型训练、知识库建设等工具链，就是为了帮助企业建立行业大模型，快速使用AIGC。
在AI基础设施中，星环科技无涯大模型Infinity可为各行业定制自有大模型，提供意图理解、语义召回、数据处理和分析能力。基于无涯大模型，星环科技推出无涯问知、无涯问数、无涯金融、无涯工程等AI原生应用，可应用于金融、能源、制造、工程等领域。
孙元浩表示，大模型擅长生成文本，但回答严肃问题不可控，为此团队经过微调、增加语料，将模型训练成“理科生”，同时将企业内部数据知识化，利用RAG提升模型准确度。
语料质量决定了模型质量，高质量语料也是解决行业大模型幻觉、可信可控等核心落地难点的重要手段。孙元浩表示，大模型结构已不是秘密，训练方法也不是秘密，但语料散落在各种地方，导致工作量大，“目前最大的挑战是把现有资料整理起来训练或微调模型，企业应用要求100%准确，所以用现在的语料还不够，我们正在构建知识图谱用于推理，再结合大模型提升准确度。”
相关文章
