ngrok是一个全球分布式的反向代理,可以保护、加速您的应用程序和网络服务,无论您在何处运行它们。基于这种机制,我们可以利用ngrok,在公共的端点和本地运行的Ollama服务器之间建立一个安全的通道,从而使得公共网络可以访问我们在本地网络中基于Ollama运行的开源大模型。 在上一期视频中,我介绍了如何利用Ollama.js开发包,快速搭建基于Nuxt 3的聊天应用ChatOllama 本期视频介绍如何利用ngrok,将本地运行的Ollama服务器暴露到公共网络中,从而使得我们可以在世界任何地方与localhost开源大模型聊天。