問題排查

無可用核心映象 (No kernel image available)

當 bitsandbytes 載入的 CUDA 版本不被您的 GPU 支援，或者您的 PyTorch CUDA 版本不匹配時，會出現此問題。

要解決此問題，您需要除錯 $LD_LIBRARY_PATH、$CUDA_HOME 以及 $PATH。您可以透過 echo $PATH 列印這些變數。您應該查詢指向不同 CUDA 版本的多個路徑。這可能包括您 anaconda 路徑中的版本，例如 $HOME/anaconda3/lib。您可以透過 ls -l $HOME/anaconda3/lib/*cuda* 或等效路徑來檢查這些版本。檢視這些路徑中檔案的 CUDA 版本。它是否與 nvidia-smi 的輸出匹配？

如果您想碰碰運氣，也可以嘗試從原始碼編譯該庫。如果您的 PATH 變數中有多個 CUDA 版本，這仍然可能會有問題。因此，建議在繼續編譯之前解決路徑衝突。

fatbinwrap

如果 C++ 庫和 CUDA 部分的 CUDA 版本不匹配，則會發生此錯誤。請確保您的 $PATH 和 $LD_LIBRARY_PATH 變數中有正確的 CUDA。在 conda 基礎環境中，您可以在以下位置找到該庫：

ls $CONDA_PREFIX/lib/*cudart*

請確保將此路徑附加到 LD_LIBRARY_PATH 中，以便 bnb 可以找到 CUDA 執行時環境庫 (cudart)。

如果這不能解決問題，請接下來嘗試從原始碼編譯。

如果這仍然不起作用，請提交一個 issue，並貼上您呼叫 make 時列印的環境資訊以及執行 bnb 時的相關錯誤。