评论

Run Your Own Private AI

浏览次数1.8M
时间:22:13
播放视频

摘要

VMware 和 Nvidia 正在开创私有人工智能解决方案,允许公司在自己的数据中心运行定制的人工智能模型,从而提高工作安全性和隐私性。

  • 在公司专有数据的基础上对人工智能模型进行微调,可以在不与公共模型共享敏感信息的情况下,创建量身定制的人工智能解决方案。
  • 像 ChatGPT 这样的私有人工智能模型可以在个人设备上离线运行,与基于云的人工智能服务相比,具有显著的隐私和安全优势。

实际应用

  • 专用 GPT 可以连接到公司的知识库、IT 程序和支持票据,为员工提供定制的帮助和故障排除。
  • 在装有太阳能电池板的笔记本电脑上运行私人人工智能模型,可在紧急情况或离网情况下提供人工智能工具和信息。
  • RAG(Retrieval Augmented Generation,检索增强生成)可指示人工智能在回答问题前查阅连接的数据库,确保回答的准确性和相关性。

技术实施

  • VMware 与 Nvidia 合作推出的私有人工智能基础架构提供了一个完整的解决方案,包括深度学习虚拟机、Nvidia 人工智能企业工具,以及与英特尔和 IBM 的合作伙伴关系,以实现多样化的人工智能实施。
  • 提示调整是一种对 LLM 进行微调的技术,只需 3-4 分钟即可完成,方法是提供额外的提示和答案来修改模型的行为。
  • 数据科学家可以使用 VMware 的深度学习虚拟机和 Nvidia 的工具进行微调,而系统工程师则可以实施该解决方案,为公司简化流程。

未来展望

  • 私有人工智能被定位为人工智能的未来,VMware 的产品使企业越来越容易在本地实施。
  • 在个人设备上运行私人、离线人工智能模型的能力将彻底改变我们与人工智能的交互方式,并有可能重塑行业和个人计算。
  • 私有人工智能与微调能力的结合为企业提供了一种新的范式,使其能够利用人工智能技术,同时保持对数据和算法的控制。

生产率 教程

在应用程序中看起来更好

我们使用 cookie 来改善您的网站体验。如果您继续使用本网站,我们将认为您对本网站感到满意。

登录/注册

加入最大的人工智能社区,发现最新的人工智能工具、有用的教程和独家优惠。