3.5万美元帮助一家律所建立内部“ChatGPT”，亏了吗？ 不久前，博主ee

3.5万美元帮助一家律所建立内部“ChatGPT”，亏了吗？ 不久前，博主eeko systems在Reddit上发帖称，自己与一家律所达成了价值3.5万美元（约人民币25万）的合作，为其构建并部署一套完全私有的AI系统。 这套系统相当于一个专属的GPT-4级别法律分析师，可处理内部案例法、诉讼文件和合同，回答复杂问题并生成文档摘要，且完全无需接触OpenAI或Anthropic的服务。 从技术层面看，这套系统基于LLaMA 3 70B模型，使用n8n串联整个系统。 整套技术栈包括： - LLaMA 3 70B（通过vLLM量化加速） - 私有化部署于CoreWeave平台，配备双A100 GPU - ChromaDB作为向量数据库，处理文档嵌入与检索 - LlamaIndex驱动RAG流程，实现实时案例文件问答 - n8n作为自动化核心，从文档上传到Slack/邮件通知全覆盖 - 基于Streamlit的简洁Web界面，供员工即时提问和获取摘要 - 整套系统集成JWT认证、IP访问控制及完整审计日志 博主特别提到，n8n在基于大模型的自动化工作流方面被严重低估了。在他看来，n8n让整个项目的工作效率提升了不止十倍！ 他利用n8n实现了以下关键功能： - 监控律所共享Google Drive文件夹的新增法律文件 - 自动转换、分块并嵌入文档至ChromaDB - 触发LLM生成摘要，并通过Slack/邮件分发给对应律师助理 - 处理员工提问（表单或聊天界面），实时返回LLM生成的答案 - 完整记录所有操作以满足合规与审计需求 不过，看完博主的一整套分享，网友们纷纷表示：“3.5万美元的要价简直太低了！”【图2】【图3】 博主本人也感觉自己要价低了，比起雇佣全职的AI团队，这套系统每月仅需支付约1200美元的GPU托管费，一个季度就能回本。 你觉得这个价格如何？看起来，打造面向专业领域的私有模型，还是有些搞头的。