chatgpt的体验无疑是目前最佳的,但是毕竟存在不合规的地方。通义灵码和文心一言也凑合,但是也需要在线才能使用,也有代码泄漏的风险,而且后续免不了有费用的问题。所以在网络隔离的环境下,布署个离线的大模型代码助手就成了一个特殊需求。恰好,可以利用ollama加上codeGPT就可以实现vscode这个IDE上的离线代码助手功能。视频演示了基于该环境,利用codegemma模型生成一段go程序的运行情况,包括运行时GPU,CPU的使用情况。给还未使用的朋友一个参考。视频机配置为R5-6600, 16G内存,3050显卡