Ⅰ 演算法工程師應該具備哪些工程能力
作者 | 木東居士
來源 | Data_Engineering
最近看了 Milter 的《演算法工程師究竟需要哪些工程能力》這篇文章,有所感想,因此也寫一篇關於演算法工程師的技術能力的問題,和大家分享一下居士關於演算法工程師的技術能力的觀點。
對於一名優秀的演算法工程師,他(她)要具備的不僅僅是出色的技術能力,也要有很深的業務理解能力和對外溝通能力,總之,要求可以很高!
但是,從職責能力的劃分上來講,演算法工程師首先是一名工程師,因此本文主要從工程能力要求上進行一些探討。
開始之前先放一份思維導圖,這將是這篇文章要分享的核心內容:
工程能力概覽
演算法工程師,從名字上我們就能看出,一名演算法工程師首先應該具備演算法能力和工程能力,我們可以認為這是基礎的技術能力。由於現在開源技術的普及,Sklearn、Tensorflow 和 Spark ML 基本已經成為大部分演算法工程師標配的工具庫了,因此,熟練的調包能力也是決定了一名演算法工程師能否快速實現需求。
其次,在真實的生產環境中,演算法的落地會遇到各種各樣的業務場景和數據環境,這也要求演算法工程師需要具備Pipeline 構建能力,將整個生產環境中的數據流和模型打通。同時,在生產環境中,會出現各種「疑難雜症」等待你去解釋,比如說為什麼實驗效果特別差?為什麼模型效果不穩定?這就要要求演算法工程師需要具備一定的數據分析能力。
很多時候,你會發現,你用在數據分析和Pipeline構建上的精力可能占據了你8成以上的工作內容。
當你具備了上面的能力時,你已經可以稱自己是一名演算法工程師了。此時,你可以去對著數據分析小得瑟一下:「你看,我能構建整個模型的Pipeline,你卻只能拿到別人提供的數據後調調包吧。「或者,你也可以去找開發得瑟:」你看,我懂了很多演算法哦,你就只會寫代碼吧。「
得瑟完之後,我們還是回歸正題,演算法工程師只具備這樣能力是否已經夠了?答案當然是不夠的。由於不同公司的團隊成熟度不同,工具化和流程的成熟度都不同,這就會對演算法工程師有不同的要求,比如說模型發布能力和報表開發能力,當然也會有一些其它能力,雖然可能不是特別重要,但是當這些工作沒人幫你做的時候,演算法工程師可能依然要承擔起這些工作內容,比如說灰度測試的能力、負載均衡的能力等等。
將上面的內容整理後,就是這樣一份思維導圖了(一張圖多看幾篇更能加深印象,因此我再貼出來一遍)
工程能力詳解
一、基礎能力
演算法能力
演算法能力就不多說了,演算法工程師的基本能力要求,不懂演算法對於一名演算法工程師來講是不太合理的。這里居士把統計學的內容也放進來了。
編程能力
編程能力主要分為兩部分:
Python、C++、Java這類編程語言,這三種也是演算法工程師需要了解的主流編程語言,一般掌握其一就夠,看不同公司。 Sql就是很通用的能力了,Sql也是一門編程語言,而是是數據處理最常用的語言! 很好用。 大數據場景下,要了解Hive Sql。調包能力
大家雖然會調侃調包俠,但是說實話,能調包調的很溜的人,也是不多的,比如說現在讓你自己用tensorflow構建一個復雜網路,不能google,你能寫出來嗎?能記清楚用法嗎?
Sklearn Tensorflow Spark ML二、核心能力
Pipeline 構建能力
Pipeline構建能力,這里想表達的更多的是整個數據流的構建能力,數據從日誌->特徵->模型訓練->反饋,這一個鏈條能否完成的能力,這裡面會有很多難題需要克服。比如說:
實時和離線模型一致性問題? 離線和實時特徵一致性問題? 實時特徵構建的問題? 數據延遲的問題?很多時候,模型發布之類的工作是可以由其他同學支持完成,但是數據流這種問題更多的是需要演算法工程師來解決的。
數據分析能力
這里的數據分析能力不是指商業分析或者業務分析,更多的是指特徵分析、演算法效果分析和各種異常問題定位分析的能力。
很多時候,兩個演算法工程師能力水平的強弱從數據分析能力上也能窺得一二。
三、輔助技術能力
輔助的技術能力是指,你會不會的影響不會特別大,但是也都是有用的能力,特別是不同公司的發展情況不同,很可能會出現一個演算法工程師既要做數據接入、又要做數據清洗、還要做演算法平台
也要搞前端、還要負責模型上線、系統運維。
這里就不再細講了。
思考一
聊一下對技術能力、工程能力和數據分析的思考。
居士個人的理解,技術能力更多的是偏向於一個一個的技術點,而工程能力更多就是在一個團隊中將項目做好的能力。很多演算法出身的工程能力不行,那麼他做的單純的一個模型是無法應用到實際生產中的,而工程就是指把理論落地實際生產的過程。那麼工程包含了什麼?它包括了系統架構設計和模塊設計、數據流搭建和平台搭建、調包或演算法開發、分布式、上線以及各種落地的代碼開發。報表和監控,其實本質也是做數據流,邊緣性的可能要做些後台和前端的開發。
然後數據分析能力是什麼?數據分析(不是純粹的數據分析)除了分析方法論和套路外,是一個很綜合性、相對偏軟一點的能力,比如說你通過分析發現了我們的系統有哪些可以優化的點,通過分析發現了問題的原因是什麼,這些都是分析能力。
思考二
針對前面的內容,和 Cathy 討論後,對整個思路做了新的梳理,大家直接看圖就好,居士也認為這樣描述可能更為合理。
思考三
這里再補充一個模型復現的能力,比如你看了一篇論文,發現這個模型可能很適合自己的業務場景,那麼你是否能力將論文裡面的模型快速用公司現有的平台和工具來復現?
居士認為,這一個是一個非常重要的能力,但是沒有想好具體該怎樣劃分。
Ⅱ 工程造價計算公式
沒有固定的一個公式,工程預算是一個過程,計算的結果就是把預算中各個項目都計算出來,例如單項工程預算,工程建設其他費,預備費,建設期利息,鋪底流動資金。
工程預算包括的項目很多如:建築的地皮 設計 佔地 工程前期投入,設備損耗,建築材料 監理 施工耗時 還有一些不為人知的費用。
1、土地費用:土地取得費用、城市建設配套費、拆遷安置補償費、登記辦證費等。
2、前期工作費:總體規劃設計費、可行性研究費、測量費、人防配套費、工程質量監督費、建設工程規劃許可證費、施工許可證費等等。
3、房屋開發建設費:建安工程費(包含項較多)、公共配套設施建設費、基礎設施建設費等。
4、項目管理費(包含項較多):排污費、治安費等等。
(2)工程演算法擴展閱讀
工程造價的具體特點:
1、大額性
要發揮工程項目的投資效用,其工程造價都非常昂貴,動輒數百萬、數千萬,特大的工程項目造價可達百億人民幣。
2、個別性、差異性
任何一項工程都有特定的用途、功能和規模。
3、動態性
任何一項工程從決策到竣工交付使用,都有一個較長的建設期間,在建設期內,往往由於不可控制因素的原因,造成許多影響工程造價的動態因素。
4、層次性
工程造價的層次性取決於工程的層次性。一個建設項目往往包含多項能夠獨立發揮生產能力和工程效益的單項工程。一個單項工程又由多個單位工程組成。
5、兼容性
工程造價構成的廣泛性和復雜性,工程造價除建築安裝工程費用、設備及工器具購置費用外,徵用土地費用、項目可行性研究費用、規劃設計費用、與一定時期政府政策(產業和稅收政策)相關的費用佔有相當的份額。
Ⅲ JAVA,做演算法和工程有什麼區別
做演算法,就是實現一個已知的演算法,工程是實現一系列功能和特性,演算法一般是來輔助功能和特性的有效的手段
Ⅳ 工程數量如何計算
工程數量的計算 工程數量的計算主要通過工程量計算規則計算得到。工程量計算規則是指對清單項目工程量的計算規定。除另有說明外,所有清單項目的工程量應以實體工程量為准,並以完成後的凈值計算;投標人投標報價時,應在單價中考慮施工中的各種損耗和需要增加的工程量。 工程量的計算規則按主要專業劃分。包括建築工程、裝飾裝修工程、安裝工程、市政工程和園林綠化工程五個專業部分。 ①建築工程包括土石方工程,樁與地基基礎工程,砌築工程,混凝土及鋼筋混凝土工程,廠庫房大門、特種門、木結構工程,金屬結構工程,屋面及防水工程,防腐、隔熱、保溫工程。 ②裝飾裝修工程包括樓地面工程,牆柱面工程,天棚工程,門窗工程,油漆、塗料、裱糊工程,其他裝飾工程。 ③安裝工程包括機械設備安裝工程,電氣設備安裝工程,熱力設備安裝工程,爐窯砌築工程,靜置設備與工藝金屬結構製作安裝工程,工業管道工程,消防工程,給排水、採暖、燃氣工程,通風空調工程,自動化控制儀表安裝工程,通信設備及線路工程,建築智能化系統設備安裝工程,長距離輸送管道工程。 ④市政工程包括土石方工程,道路工程,橋涵護岸工程,隧道工程,市政管網工程,地鐵工程,鋼筋工程,拆除工程,廠區、小區道路工程。
Ⅳ 工程比例怎麼演算法
35/500=1:500/35=1:100/7=1:14.3(這是一個不常用的比例)
Ⅵ 工程計算題
計算平均值=(258.741+258.752+258.763+258.749+258.755+258.770)/6=258.755 計算改正數分別為 -14、-3、8、-6、0、15 單位mm 根據算術平均值中誤差公式M=±根號下[VV]/n(n-1)=±根號下[(-14)2+(-3)2+82+(-6)2+152]/(6*5)=4.2mm 相對中誤差=4.2mm/258.755m=1/61608