VWAY

Newsroom
Technical Resources


RAS[VWAY Solution] 企业定制化工程AI部署战略:本地部署(On-Premise) vs API集成(API Integration)

现已跨越数字化转型(DX),迈入人工智能转型(AX,AI Transformation)时代。然而,每家企业所拥有的数据安全规定、IT基础设施以及预算都千差万别。

VWAY不强加千篇一律的解决方案。我们为您提供最适合您环境的两种AI部署模型:“本地部署(On-Premise)”和“API集成(API Integration)”。无论您是优先考虑工程数据安全,还是优先考虑成本效益,VWAY都有完美的解答。

左右对照 VWAY 工程 AI 部署策略的横幅图。左为本地部署(On-Premise AI,自建内部服务器、防止数据外泄),右为对接型(Integration AI,沿用既有 AI 模型、API 对接、成本合理)

Type 1. 本地部署(On-Premise AI) “数据零泄露,专属于贵公司的特种AI”

这是专为视安全为生命的国防、汽车、半导体等行业打造的解决方案。在与外部网络完全隔离的内部服务器上,基于经过验证的开源LLM,构建客户专用的sLLM(小型语言模型)。

1. 核心技术:特定领域微调(Fine-tuning) 通用AI无法理解贵公司复杂的“需求规格说明书”或“遗留代码”。VWAY以性能经过验证的开源模型为基础,让其学习(Fine-tuning)客户的工程数据。借此,打造出在安全分析(Safety Analysis)、需求验证、测试用例生成、代码审查等特定目标上发挥专家级性能的AI。

2. 准确度提升:RAG(Retrieval-Augmented Generation,检索增强生成)系统 AI将虚假信息当作事实输出的“幻觉(Hallucination)”在工程领域是致命的。为解决此问题,我们引入了RAG架构。

  • 工作原理: AI在生成回答之前,首先在企业内部技术文档库(Vector DB)中检索(Retrieve)作为依据的手册或规定,并以此为基础生成回答。

  • 效果: 防止无根据的捏造,并提供如“根据参考文档第34页……”这样准确的出处。

  • 参考技术: https://www.nvidia.com/en-us/glossary/retrieval-augmented-generation/


Type 2. API集成(API Integration AI) “现有资源最大化,最快速高效的功能扩展”

这是为企业内部已经部署或正在使用GPT-4、Azure OpenAI、Claude等高性能AI模型的企业准备的模型。无需构建新模型,只需将VWAY的“工程提示(Prompt)模块”与客户的AI通过API进行连接,即可立即实现功能。

1. 节约成本与高性能的完美结合 无需模型训练和服务器建设成本(CAPEX),直接利用现有的AI基础设施。VWAY以API形式提供最优的提示工程(Prompt Engineering)和逻辑,能够最好地执行客户的需求(SRS验证、自动化测试等)。

2. 速度及效率优化技术:语义缓存(Semantic Caching) 为了大幅减少API集成模式的缺点——“响应延迟(Latency)”和“Token成本”,我们应用了语义缓存(Semantic Caching)技术。

  • 技术介绍: 将用户的提问转换为向量(Vector)并存储起来。如果收到“请根据ISO 26262进行ASIL等级分类”的提问,且过去有过类似(Semantic)的问答,系统将绕过AI,直接从缓存内存中返回答案。

  • 效果: 回答速度飞跃提升,并大幅节省不必要的API调用成本。

  • 参考技术: https://learn.microsoft.com/en-us/azure/ai-foundry/openai/concepts/prompt-engineering?view=foundry-classic

联系我们: https://www.vwaycorp.com/visualpro_ai