⑴ 談談機器學習模型的部署（1）
機器學習模型的部署是將訓練好的模型高效地應用到實際生產環境的重要環節。隨著機器學習技術的廣泛應用，不同工具和框架如Scikit-Learn、Spark、TensorFlow、MXnet、PyTorch等為數據科學家提供了豐富的選擇，同時也帶來了部署模型的挑戰。本文將簡要探討模型部署的基本過程和挑戰，並介紹幾種常用的部署工具。
模型部署的核心步驟是將訓練模型持久化，然後在伺服器上載入模型並提供服務介面。以RandomForestClassification為例，以下將分別介紹使用Scikit-Learn、Spark和TensorFlow進行模型持久化的方法。
Scikit-Learn：使用Iris數據集訓練RandomForestClassifier模型，通過`joblib.mp()`將模型持久化為文件。載入模型僅需調用`joblib.load()`。盡管Scikit-Learn對Pickle機制進行了封裝和優化，但Pickle本身存在一些限制，如序列化效率問題和兼容性問題。
Spark：Spark提供Pipeline和Model支持保存到文件，方便在其他SparkContext中載入。通過調用`model.save()`和`model.load()`方法進行模型持久化和載入。Spark模型保存為二進制文件，僅Spark自己可以載入，目錄結構清晰，包含模型階段數據。
TensorFlow：TensorFlow使用`tf.train.Saver`將模型導出為元圖（MetaGraph），包含元數據、Pickle文件和其他checkpoints。TensorFlow同樣利用Pickle機制存儲模型，並加入額外的元數據。載入模型時需確保所有依賴包已正確載入，如在模型載入時調用`tensorflow.contrib.tensor_forest.python.tensor_forest`。
部署模型時，使用Web伺服器（如Flask）添加模型載入和管理功能，然後通過REST API提供預測服務。然而，生產環境部署還面臨多方面挑戰，包括模型版本控制、資源管理、性能優化、安全性等問題。
為了解決模型部署的挑戰，多個開源工具如Clipper、Seldon、MFlow、MLeap、Oracle Graphpipe、MXnet Model Server等應運而生。這些工具通過簡化部署流程、提供預測服務管理和優化模型性能等功能，降低了部署復雜性。
Clipper：由UC Berkeley RISE Lab開發的系統，提供預測服務，通過解耦用戶應用與機器學習模型，簡化部署流程。Clipper支持容器和微服務技術，使用Redis進行配置管理、Prometheus監控，支持Kubernetes或本地Docker管理容器，支持多種模型部署。
Seldon：專注於基於開源軟體的機器學習系統控制，提供在Kubernetes上部署模型的工具。Seldon支持模型、Transformer、Router、Combiner等組件構建運行圖，實現AB測試、模型ensemble等功能。Seldon的圖模式極大簡化了模型組合和運行時的管理。
使用Seldon部署Scikit-Learn、Spark和TensorFlow生成的模型均能成功。在實際部署過程中，可能會遇到一些問題，如兼容性、資源配置和性能優化等。部署模型時需綜合考慮工具特性和實際應用場景需求，選擇合適的工具進行模型部署。
本文僅概述了模型部署的基本過程和幾種常見工具的使用方法，更多詳細信息和最佳實踐可通過相關文檔和社區資源進行深入學習。後續文章將更深入地探討機器學習模型部署的高級主題和技術細節。
⑵ python學習筆記：機器學習演算法-決策樹模型
決策樹模型在機器學習中是一種常用分類和回歸演算法。其構建基於 if/else 選擇結構，使用基尼系數作為評估節點劃分好壞的指標。基尼系數定義為樣本集中各類別的概率平方之和的差值，數值范圍在 0 到 1 之間，數值越大表示分類越混亂。決策樹通過最小化基尼系數來構建模型，降低數據的不確定性。
決策樹模型的主要實現方式是 CART（分類與回歸樹），它使用基尼系數作為默認的劃分標准。構建決策樹的過程涉及參數調優，以提高模型的預測性能。
在搭建員工離職預測模型時，通過分析員工信息和離職表現，可以預測未來的離職風險。在構建模型時，需要考慮關鍵參數以優化決策樹性能，包括特徵選擇標准、分裂策略、樹的最大深度、子節點分裂所需的最小樣本數、葉子節點的最小樣本數、最小樣本權重和、特徵數量的最大值、最大葉子節點數以及類別權重。
特徵選擇標准參數 criterion 可以選擇信息熵或基尼系數。分裂策略參數 splitter 提供了基於最優點的最佳分裂和基於隨機點的局部最優分裂兩種選項。樹的最大深度參數 max_depth 限制了決策樹的最大層次，以避免過擬合。子節點分裂所需的最小樣本數參數 min_samples_split 確定了節點分裂的最小樣本數量。葉子節點的最小樣本數參數 min_samples_leaf 控制了葉子節點的最小樣本數量，以減少冗餘節點。
樣本權重參數 min_weight_fraction_leaf 控制了葉子節點的最小樣本權重和，對於數據分布不均勻的情況尤為重要。特徵數量的最大值參數 max_features 限制了在分裂節點時考慮的特徵數量，可以提高模型的泛化能力。最大葉子節點數參數 max_leaf_nodes 限制了樹的最大葉子節點數，以控制模型復雜度。類別權重參數 class_weight 可以調整類別之間的樣本權重，防止過擬合，提高模型對樣本分布不均情況的適應性。
除了參數調整，還可以採用過采樣和欠采樣策略來處理類別不平衡問題，進一步優化決策樹模型的預測效果。