A VMware e a Nvidia são pioneiras em soluções privadas de IA que permitem que as empresas executem modelos personalizados de IA em seus próprios data centers, aumentando a segurança e a privacidade do trabalho.
- O ajuste fino dos modelos de IA nos dados proprietários de uma empresa permite a criação de soluções de IA personalizadas sem compartilhar informações confidenciais com modelos públicos.
- Modelos privados de IA, como o ChatGPT, podem ser executados off-line em dispositivos pessoais, oferecendo vantagens significativas de privacidade e segurança em relação aos serviços de IA baseados em nuvem.
Aplicações práticas
- O GPT privado pode ser conectado à base de conhecimento, aos procedimentos de TI e aos tíquetes de suporte de uma empresa para fornecer assistência personalizada e solução de problemas aos funcionários.
- A execução de modelos privados de IA em um laptop com um painel solar poderia fornecer acesso a ferramentas e informações baseadas em IA durante emergências ou cenários fora da rede.
- O RAG (Retrieval Augmented Generation) instrui a IA a consultar um banco de dados conectado antes de responder às perguntas, garantindo a precisão e a relevância das respostas.
Implementação técnica
- O Private AI Foundation da VMware com a Nvidia oferece uma solução completa que inclui VMs de aprendizagem profunda, ferramentas empresariais de IA da Nvidia e parcerias com a Intel e a IBM para diversas implementações de IA.
- O ajuste de prompts, uma técnica para o ajuste fino de LLMs, pode ser concluído em apenas 3 a 4 minutos, alimentando prompts e respostas adicionais para modificar o comportamento do modelo.
- Os cientistas de dados podem usar as VMs de aprendizagem profunda da VMware e as ferramentas da Nvidia para o ajuste fino, enquanto os engenheiros de sistemas podem implementar a solução, simplificando o processo para as empresas.
Perspectivas futuras
- A IA privada está posicionada como o futuro da inteligência artificial, com os produtos da VMware tornando-a cada vez mais acessível para as organizações implementarem localmente.
- A capacidade de executar modelos de IA privados e off-line em dispositivos pessoais pode revolucionar a forma como interagimos com a IA, possivelmente remodelando os setores e a computação pessoal.
- A combinação de IA privada e recursos de ajuste fino oferece um novo paradigma para que as organizações aproveitem a tecnologia de IA e, ao mesmo tempo, mantenham o controle sobre seus dados e algoritmos.