本章介紹了一系列環境配置的最佳實踐。為了確保在後續章節中順利使用 Jupyter Notebook， 強烈建議您按照以下相應步驟正確配置環境。

2.1 系統建議

首先，選擇一個合適的系統。以下是推薦的硬體與操作系統清單：

⚠️硬體

⚠️操作系統

2.2 設置 Python 環境

接下來，使用 Python 環境管理工具（推薦使用 Conda ）創建 Python 環境並安裝必要的庫。

2.2.1 安裝 Conda

請按照下面與您的作業系統相對應的說明進行操作。

2.2.1.1 Linux系統

對於 Linux 使用者，打開終端並且運行以下命令。

wget <https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh>
bash ./Miniconda3-latest-Linux-x86_64.sh
conda init

注意 請按照終端顯示的說明進行操作，直到 conda 初始化成功完成。

2.2.1.2 Windows

對於 Windows 使用者，在這裡下載 conda 安裝包並運行。

在安裝完成後，打開 「Anaconda Powershell Prompt （Miniconda3）」 執行以下步驟。

2.2.1.3 適用於 Linux 的 Windows 子系統 （WSL）：

對於 WSL 使用者，請確保已經安裝了 WSL2。如果沒有，請參閱此處瞭解安裝方法。

打開 WSL2 shell 並運行與 2.2.1.1 Linux 相同的命令。

2.2.2 創建環境

注意 推薦使用 Python 3.9 運行 IPEX-LLM。

建立 Python 3.9 環境，名稱由您選擇，例如 ：llm-tutorial

conda create -n llm-tutorial python=3.9

然後啟動環境 ：llm-tutorial

conda activate llm-tutorial

2.3 安裝IPEX-LLM

下面這一行命令將安裝最新版本的以及所有常見LLM應用程式開發所需的依賴項。ipex-llm

pip install --pre --upgrade ipex-llm[all]

2.4 安裝 Jupyter 服務

2.4.1 安裝 Jupyter

運行教程提供的 notebooks（即 範例檔案） 需要 Jupyter library 。在啟動的 Python 3.9 環境下運行：jupyter.ipynb

pip install jupyter

2.4.2 啟動 Jupyter 服務

啟動 jupyter 服務的推薦指令在個人電腦和伺服器上略有不同。

2.4.2.1 在個人電腦上

在個人電腦上，只需在shell中運行以下命令：

jupyter notebook

2.4.2.2 在伺服器上

在伺服器上，建議使用單個插槽的所有物理核心以獲得更好的性能。因此，請執行以下命令：

# 以每個插槽有48個核心的服務器為例
export OMP_NUM_THREADS=48
numactl -C 0-47 -m 0 jupyter notebook

祝賀您！現在您可以使用瀏覽器來訪問 jupyter 服務 url 並運行本教程提供的notebooks。

2.5 關於使用LLM的一些你可能想要了解的事項

如果您在LLM和LLM應用程式開發方面是新手，本節可能包含了一些您想要了解的內容。

2.5.1 去哪裡找模型

首先，您需要獲取一個模型。社區中有許多開源的LLM可供選擇。如果您沒有特定的目標，可以考慮從社區公開的LLM排行榜上排名較高的模型中選擇。這些公開的LLM排行榜一般採用多種評測手段評估和比較多個LLM的能力。一些比較有名的排行榜包括：

這些排行榜大多包含了列出的模型的參考連結。如果一個模型是開源的，您可以直接從提供的鏈接中輕鬆下載並嘗試使用。

2.5.2 從Huggingface下載模型

截止到目前為止，許多熱門的LLM模型都託管在Huggingface上。Huggingface託管的一個示例模型主頁如下所示。

要從Huggingface下載模型，您可以使用git或Huggingface提供的API。有關如何下載模型的詳細資訊，請參閱從Huggingface下載模型 。

通常從Huggingface下載的模型可以使用Huggingface Transformers庫載入。IPEX-LLM提供了API，可以輕鬆地與這些模型一起使用。請閱讀本教程後續章節瞭解更多資訊。