AI切磋大会 |Deepseek私有化部署及应用分享


DeepSeek 的旋风正加速科技的进步和创新使用DeepSeek你做了什么  ?
🔥 用DeepSeek运用在工作生活上的案例
🤯 DeepSeek输出“超预期结果”的惊艳场景  
🚀 看到别人使用的案例也可以分享

2025年2月23日,由科技自媒体“WetoAGI-通往 AGI 之路”联合“haukathon-飞书黑客马拉松”共同发起的 AI 切磋大会在全国 23 个城市同时启动,汇聚近4000位小伙伴参与。本次活动以互动+调研——你用DeepSeek干了什么为话题展开。西安作为活动举办地之一,同样也吸引了众多 AI 专家、学者和爱好者齐聚一堂,怀着对人工智能的无限热情和探索,让更多的人因 AI而强大。

de

易点天下中台高级产品经理王毛毛受邀参与此次盛会,并结合前不久易点天下 DeepSeek- R1 私有化部署的成功经验做了精彩分享。他深入剖析了该部署方案的技术架构、创新点以及为企业带来的显著价值,同时也展望了未来在人工智能领域的更多可能性和发展方向。

易点天下是一家率先在出海营销领域布局AIGC战略的营销科技公司,秉持“科技使世界变得更平” 的使命。过去的两年内,公司始终保持着高度的敏感性和前瞻性,以最敏锐的触角深入研究和实践如何将大模型、AI 与广告营销紧密结合,不断探索新的算法和模型架构,以提升大模型、 AI 在广告营销中的应用效果,从而实现广告投放的精准定位和个性化推荐,提升营销效果。而在这个过程中,离不开行业内的合作与交流,汇聚各方的优势资源,实现互补共赢。

为了更好的模拟和讲解,易点天下中台高级产品经理王毛毛以一个非常生活化实例贯穿始末,他分享到:


“DeepSeek 具有模型训练成本低,推理效率高的特点,在自然语言处理领域具有高度的准确性和灵活性,能够捕捉语言中的复杂语义关系,从而提供更精准的回答和预测。我们已在第一时间完成企业级DeepSeekR1 671B满血大模型部署,并融合到旗下KreadoAI、数眼智能、zMaticoo ADX等多款核心技术产品。另外,DeepSeek采用了多项创新技术,如多头潜在注意力机制(MLA)和专家混合架构(MoE),显著降低了计算成本和显存占用,有效降低企业运行成本。”


在分享如何快速有效的完成私有化部署,易点天下中台高级产品经理王毛毛分享到:


“轻量化部署场景可通过Ollama等开源工具构建,并搭配GUI可视化工具快速完成。对于超大规模参数模型(如671B级DeepSeek R1),建议采用云端或物理机集群部署,由专业运维团队协作快速部署(管理权自主安全管理)。模型效果可通过Prompt工程、Temperature参数调整、Embedding选型等方式优化,针对特定行业或任务需求,还可挂载知识库以减少幻觉现象,并通过微调训练定向提升模型能力。”


更多文章

立即与我们建立联系吧

路径

订阅我们的Newsletter,您可以获得更多企业资讯与实时动态哦

路径