从版本4.0开始,Xcode的Xliff工具已经集成了一个本地大型语言模型,提供了许多新的功能。以下是关于安装这个本地大型语言模型的指南。有关详细的使用说明,请参考”最佳实践“文档。
Xliff工具使用Ollama作为其本地大型语言模型平台,能够托管多种大型语言模型。可以通过Homebrew进行安装,也可以直接从官方网站下载。
brew install ollama
注意:Homebrew提供两个版本的Ollama,其中一个版本属于Cask类别。这两个版本都提供了Ollama的核心功能。不过,Cask版本包含一个独立的应用程序,该应用程序在后台运行,并在系统菜单栏中显示一个固定的图标。建议选择非Cask版本,因为其对资源的使用量较少。
安装完成后,必须在安装特定模型之前先启动Ollama。操作过程很简单,只需执行以下命令:
ollama serve
建议采用这种方式运行Ollama,因为它消耗的资源最少,并且可以通过按下ctrl+c命令随时中断。
一旦Ollama运行起来,当前的终端会话将专门用于运行它。要打开一个新的终端,可以使用cmd+n快捷键。
在以后的使用过程中,记得以这种方式启动Ollama,以便应用程序能够与其交互。
设置好Ollama后,你需要安装合适的模型。在选择模型时,需要注意以下几点:
较大的模型会占用更多内存,在调用时可能会运行得更慢。不过,它们通常提供更高的准确性。
参数达到7亿的模型至少需要8GB的RAM,而参数达到130亿的模型则需要16GB的RAM。
并非所有模型都兼容Xliff工具的功能。建议从推荐使用的模型开始,在空闲时再探索其他选项。
安装过程设计为支持可恢复下载。如果下载速度不理想,可以通过按下ctrl+c中断下载,然后使用上箭头键重新发送安装命令,从而提升下载速度。
以神经聊天模型为例,安装命令如下:
ollama run neural-chat
完成后,你将拥有一个用于交互的命令行界面。要退出,只需输入”/bye”。
通过Xliff工具使用Ollama时,无需手动运行模型。只需使用”ollama serve”启动Ollama服务即可。