QwQ-32B强势登陆基石智算,320亿参数挑战AI极限,你准备好了吗?

   发布时间:2025-03-07 11:32 作者:沈如风

近日,一款名为QwQ-32B的人工智能模型在业界引起了广泛关注。尽管该模型仅拥有320亿参数,但其性能却能与拥有6710亿参数的DeepSeek-R1相媲美,这一卓越表现让人眼前一亮。

QwQ-32B在多个评测集中展现出了强大的实力。在数学推理的AIME评测集中,它表现突出;在代码能力评估的LiveCodeBench中,同样成绩斐然。更令人惊讶的是,在LiveBench、IFeval评测集以及BFCL测试中,QwQ-32B的得分甚至超越了DeepSeek-R1。该模型还集成了与Agent智能体相关的能力,能够在使用工具时进行批判性思考,并根据环境反馈灵活调整推理过程。

这款备受瞩目的模型现已正式上线于青云科技旗下的AI算力云——基石智算CoresHub模型广场。基石智算致力于打造一个技术领先的AI Infra平台,将AI算力云与模型开发部署服务完美融合,为用户提供一站式解决方案。通过模型广场,用户可以轻松实现云端一键部署,便捷地根据自身需求进行个性化的模型调用和管理,按需使用算力资源。

那么,如何通过基石智算模型广场使用QwQ-32B呢?以下是详细步骤:

首先,用户需要进入“AI算力云服务”,选择“西北三区”,然后点击“模型广场”,在众多模型中找到QwQ-32B。点击“模型部署”按钮后,进入下一步。

接下来,用户需要选取对应的算力资源。为了确保最佳性能,建议选择4卡4090资源。选择完毕后,点击“创建”按钮,进入推理服务详情页面。

在服务信息页签内,用户可以获取到外网访问地址和API密钥。这些信息是进行模型调用所必需的。

模型调用有多种方式。方法一为临时调用,用户只需将外网访问链接中的inference字段修改为inference-web,然后在浏览器中输入修改后的链接即可直接使用。方法二为使用Curl手动调用,用户可以在本地电脑终端中执行相应的HTTP POST请求。方法三为使用第三方客户端调用,以CherryStudio为例,用户只需下载安装好CherryStudio,然后在设置中添加模型服务,配置相应的API密钥和API路径即可。

 
 
更多>同类内容
全站最新
热门内容
本栏最新