❶ 如何提高伺服器並發數
消除瓶頸是提高伺服器性能和並發能力的唯一途徑。
如果你能夠消除所有的瓶頸，你就能夠最大的發揮硬體性能，讓系統的性能和並發數到達最佳。
採用多線程多核編程，使用事件驅動或非同步消息機制，盡量減少阻塞和等待操作（如I/O阻塞、同步等待或計時/超時等）。
原理：
1、多線程多核編程，消除cpu瓶頸。
2、採用IOCP或epoll，利用狀態監測和通知方式，消除網路I/O阻塞瓶頸。
3、採用事件驅動或非同步消息機制，可以消除不必要的等待操作。
4、如果是linux，可以採用AIO來消除磁碟I/O阻塞瓶頸。
5、在事件驅動框架或非同步消息中統一處理timer事件，變同步為非同步，而且可以在一個線程處理無數timer事件。
6、深入分析外部的阻塞來源，消除它。
比如資料庫查詢較慢，導致伺服器處理較慢，並發數上不去，這時就要優化資料庫性能。
7、如果與某個其他server通信量很大，導致性能下降較多。
可以考慮把這兩個server放在一個主機上，採用共享內存的方式來做IPC通信，可以大大提高性能。
❷ 如何提高伺服器並發能力
有什麼方法衡量伺服器並發處理能力
1. 吞吐率
吞吐率，單位時間里伺服器處理的最大請求數，單位req/s
從伺服器角度，實際並發用戶數的可以理解為伺服器當前維護的代表不同用戶的文件描述符總數，也就是並發連接數。伺服器一般會限制同時服務的最多用戶數，比如apache的MaxClents參數。
這里再深入一下，對於伺服器來說，伺服器希望支持高吞吐率，對於用戶來說，用戶只希望等待最少的時間，顯然，雙方不能滿足，所以雙方利益的平衡點，就是我們希望的最大並發用戶數。
2. 壓力測試
有一個原理一定要先搞清楚，假如100個用戶同時向伺服器分別進行10個請求，與1個用戶向伺服器連續進行1000次請求，對伺服器的壓力是一樣嗎？實際上是不一樣的，因對每一個用戶，連續發送請求實際上是指發送一個請求並接收到響應數據後再發送下一個請求。這樣對於1個用戶向伺服器連續進行1000次請求, 任何時刻伺服器的網卡接收緩沖區中只有1個請求，而對於100個用戶同時向伺服器分別進行10個請求，伺服器的網卡接收緩沖區最多有100個等待處理的請求，顯然這時的伺服器壓力更大。
壓力測試前提考慮的條件
並發用戶數: 指在某一時刻同時向伺服器發送請求的用戶總數(HttpWatch)
總請求數
請求資源描述
請求等待時間(用戶等待時間)
用戶平均請求的等待時間
伺服器平均請求處理的時間
硬體環境
壓力測試中關心的時間又細分以下2種:
用戶平均請求等待時間（這里暫不把數據在網路的傳輸時間，還有用戶PC本地的計算時間計算入內）
伺服器平均請求處理時間
用戶平均請求等待時間主要用於衡量伺服器在一定並發用戶數下，單個用戶的服務質量；而伺服器平均請求處理時間就是吞吐率的倒數，一般來說，用戶平均請求等待時間 = 伺服器平均請求處理時間 * 並發用戶數
怎麼提高伺服器的並發處理能力
1. 提高CPU並發計算能力
伺服器之所以可以同時處理多個請求，在於操作系統通過多執行流體系設計使得多個任務可以輪流使用系統資源，這些資源包括CPU，內存以及I/O. 這里的I/O主要指磁碟I/O, 和網路I/O。
多進程 & 多線程
多執行流的一般實現便是進程，多進程的好處可以對CPU時間的輪流使用，對CPU計算和IO操作重疊利用。這里的IO主要是指磁碟IO和網路IO，相對CPU而言，它們慢的可憐。
而實際上，大多數進程的時間主要消耗在I/O操作上。現代計算機的DMA技術可以讓CPU不參與I/O操作的全過程，比如進程通過系統調用，使得CPU向網卡或者磁碟等I/O設備發出指令，然後進程被掛起，釋放出CPU資源，等待I/O設備完成工作後通過中斷來通知進程重新就緒。對於單任務而言，CPU大部分時間空閑，這時候多進程的作用尤為重要。
多進程不僅能夠提高CPU的並發度。其優越性還體現在獨立的內存地址空間和生命周期所帶來的穩定性和健壯性，其中一個進程崩潰不會影響到另一個進程。
但是進程也有如下缺點：
fork()系統調用開銷很大: prefork
進程間調度和上下文切換成本: 減少進程數量
龐大的內存重復：共享內存
IPC編程相對比較麻煩
❸ 如何提高高性能伺服器並發量
消除瓶頸是提高伺服器性能和並發能力的唯一途徑。 如果你能夠消除所有的瓶頸，你就能夠最大的發揮硬體性能，讓系統的性能和並發數到達最佳。 採用多線程多核編程，使用事件驅動或非同步消息機制，盡量減少阻塞和等待操作（如I/O阻塞、同步等待或計時/超時等）。 原理： 1、多線程多核編程，消除cpu瓶頸。 2、採用IOCP或epoll，利用狀態監測和通知方式，消除網路I/O阻塞瓶頸。 3、採用事件驅動或非同步消息機制，可以消除不必要的等待操作。 4、如果是Linux，可以採用AIO來消除磁碟I/O阻塞瓶頸。 5、在事件驅動框架或非同步消息中統一處理timer事件，變同步為非同步，而且可以在一個線程處理無數timer事件。 6、深入分析外部的阻塞來源，消除它。 比如資料庫查詢較慢，導致伺服器處理較慢，並發數上不去，這時就要優化資料庫性能。 7、如果與某個其他server通信量很大，導致性能下降較多。 可以考慮把這兩個server放在一個主機上，採用共享內存的方式來做IPC通信，可以大大提高性能。
❹ 單台伺服器上的並發TCP連接數可以有多少
感覺你似乎在問並發連接的問題，眾所周知，為了防範蠕蟲病毒的傳播和攻擊，Windows XP SP2將並發線程最多限制為10個。SP2利用Messages動態鏈接庫，來實時監控每個進程的並發線程數目，一旦它發現某進程的線程數超過10個，就會屏蔽掉部分線程。 通過修改，可以把並發連接調到幾百以上甚至更大，這個數字理論上是沒有上限的。 而作為伺服器，從操作系統級，也會對並發連接數有個限制，因為每個連接要耗CPU和內存的，否則也會癱瘓。而不同的系統，不同的伺服器，可以支持的數量當然不同了，所以你這個問題沒有實際意義，也沒有準確答案。 我實際測試，一台DELL四路四核，32G內存的伺服器，並發500左右完全沒有問題，再大也沒有條件測試，而如果一台普通的低端伺服器，不可能達到同一數量級對吧？
❺ 如何處理高並發
問題一：java程序員面試時被問到：如何在j2ee項目中處理高並發量訪問？ 該怎麼回答？ 請仔細看題干再回答 blog.csdn/y_h_t/article/details/6322823
你是一名java程序員，這些應該知道些吧
問題二：如何處理高並發帶來的系統性能問題 那必須了解linux中的基本使用，比如如何找到某個路徑，如何打開一個文件，如何編輯修改一個文件等等，那就是linux中命令的使用；還有就是必須知道linux伺服器中所用的什麼伺服器（有weblogic、websphere等等）；精通相關伺服器的重要屬性配置等等。
問題三：JAVA中高訪問量高並發的問題怎麼解決? 你指的高並發量大概有多少？
幾點需要注意：
盡量使用緩存，包括用戶緩存，信息緩存等，多花點內存來做緩存，可以大量減少與資料庫的交互，提高性能。
用jprofiler等工具找出性能瓶頸，減少額外的開銷。
優化資料庫查詢語句，減少直接使用hibernate等工具的直接生成語句（僅耗時較長的查詢做優化）。
優化資料庫結構，多做索引，提高查詢效率。
統計的功能盡量做緩存，或按每天一統計或定時統計相關報表，避免需要時進行統計的功能。
能使用靜態頁面的地方盡量使用，減少容器的解析（盡量將動態內容生成靜態html來顯示）。
解決以上問題後，使用伺服器集群來解決單台的瓶頸問題。
基本上以上述問題解決後，達到系統最優。
至於樓上有人提到別用JAVA來做，除非是低層的連接數過大（如大量的埠佔用需求），這種情況下考慮直接C來寫，其他的可以用JAVA來做。
問題四：項目中怎麼控制多線程高並發訪問 synchronized關鍵字主要解決多線程共享數據同步問題。
ThreadLocal使用場合主要解決多線程中數據因並發產生不一致問題。
ThreadLocal和Synchonized都用於解決多線程並發訪問。但是ThreadLocal與synchronized有本質的區別:
synchronized是利用鎖的機制，使變數或代碼塊在某一時該只能被一個線程訪問。而ThreadLocal為每一個線程都提供了變數的副本，使 得每個線程在某一時間訪問到的並不是同一個對象，這樣就隔離了多個線程對數據的數據共享。而Synchronized卻正好相反，它用於在多個線程間通信 時能夠獲得數據共享。
Synchronized用於線程間的數據共享，而ThreadLocal則用於線程間的數據隔離。當然ThreadLocal並不能替代synchronized,它們處理不同的問題域。Synchronized用於實現同步機制，比ThreadLocal更加復雜。
1、Java中synchronized用法
使用了synchronized關鍵字可以輕松地解決多線程共享數據同步問題。
synchronized關鍵字可以作為函數的修飾符，也可作為函數內的語句，也就是平時說的同步方法和同步語句塊。如果再細的分 類，synchronized可作用於instance變數、object reference（對象引用）、static函數和class literals(類名稱字面常量)身上。
synchronized取得的鎖都是對象；每個對象只有一個鎖（lock）與之相關聯；實現同步是要很大的系統開銷作為代價的，甚至可能造成死鎖，所以盡量避免無謂的同步控制。
問題五：如何處理高並發或列舉處理高並發的業務邏輯 1、提高系統的並發能力2、減輕資料庫的負擔這兩種用途其實非常容易理解。由於memcached高性能，所以可以同時服務於更多的連接，大大提高了系統的並發處理的能力。另外，memcached 通常部署在業務邏輯層（前台應用）和存儲層（主指資料庫）之間，作為資料庫和前台應用的數據緩沖，因此可以快速的響應前端的請求，減少對資料庫的訪問。
問題六：資料庫怎樣處理高並發 1.用一個標識，在選擇那張票的時候先用(Update 表 set 票flag=『佔用了！』 where 票flag=『未佔用』 and ........)這樣是保險的，不可能存在並發問題，這就牽扯到sql鎖機制問題了，你可以測試一下，其實sql中update是先查詢出然後刪除再添加，但由於使用了update，過程中就自動加鎖了，很方便吧2.加鎖。Microsoft® SQL Server™ 2000 使用鎖定確保事務完整性和資料庫一致性。鎖定可以防止用戶讀取正在由其他用戶更改的數據，並可以防止多個用戶同時更改相同數據。如果不使用鎖定，則資料庫中的數據可能在邏輯上不正確，並且對數據的查詢可能會產生意想不到的結果。雖然 SQL Server 自動強制鎖定，但可以通過了解鎖定並在應用程序中自定義鎖定來設計更有效的應用程序。
問題七：資料庫怎樣處理高並發 理論上不限制並發連接數的.就是伺服器受硬體的限制.過高的並發是會使伺服器無法完成並發任務,而造成伺服器死機或者假死機.不過資料庫軟體可以優化並發連接,使並發持續的時間更短,以減起伺服器的負擔,但是一台伺服器不能完成幾十萬的並發.
問題八：如何處理大量數據並發操作 如何處理大量數據並發操作
文件緩存，資料庫緩存，優化sql,數據分流,資料庫表的橫向和縱向劃分，優化代碼結構！
鎖述的概
一. 為什麼要引入鎖
多個用戶同時對資料庫的並發操作時會帶來以下數據不一致的問題:
丟失更新
A,B兩個用戶讀同一數據並進行修改,其中一個用戶的修改結果破壞了另一個修改的結果,比如訂票系統
臟讀
A用戶修改了數據,隨後B用戶又讀出該數據,但A用戶因為某些原因取消了對數據的修改,數據恢復原值,此時B得到的數據就與資料庫內的數據產生了不一致
不可重復讀
A用戶讀取數據,隨後B用戶讀出該數據並修改,此時A用戶再讀取數據時發現前後兩次的值不一致
並發控制的主要方法是封鎖,鎖就是在一段時間內禁止用戶做某些操作以避免產生數據不一致
二 鎖的分類
鎖的類別有兩種分法：
1. 從資料庫系統的角度來看：分為獨占鎖（即排它鎖），共享鎖和更新鎖
MS-SQL Server 使用以下資源鎖模式。
鎖模式 描述
共享 (S) 用於不更改或不更新數據的操作（只讀操作），如 SELECT 語句。
更新 (U) 用於可更新的資源中。防止當多個會話在讀取、鎖定以及隨後可能進行的資源更新時發生常見形式的死鎖。
排它 (X) 用於數據修改操作，例如 INSERT、UPDATE 或 DELETE。確保不會同時同一資源進行多重更新。
意向鎖 用於建立鎖的層次結構。意向鎖的類型為：意向共享 (IS)、意向排它 (IX) 以及與意向排它共享 (SIX)。
架構鎖 在執行依賴於表架構的操作時使用。架構鎖的類型為：架構修改 (Sch-M) 和架構穩定性 (Sch-S)。
大容量更新 (BU) 向表中大容量復制數據並指定了 TABLOCK 提示時使用。
共享鎖
共享 (S) 鎖允許並發事務讀取 (SELECT) 一個資源。資源上存在共享 (S) 鎖時，任何其它事務都不能修改數據。一旦已經讀取數據，便立即釋放資源上的共享 (S) 鎖，除非將事務隔離級別設置為可重復讀或更高級別，或者在事務生存周期內用鎖定提示保留共享 (S) 鎖。
更新鎖
更新 (U) 鎖可以防止通常形式的死鎖。一般更新模式由一個事務組成，此事務讀取記錄，獲取資源（頁或行）的共享 (S) 鎖，然後修改行，此操作要求鎖轉換為排它 (X) 鎖。如果兩個事務獲得了資源上的共享模式鎖，然後試圖同時更新數據，則一個事務嘗試將鎖轉換為排它 (X) 鎖。共享模式到排它鎖的轉換必須等待一段時間，因為一個事務的排它鎖與其它事務的共享模式鎖不兼容；發生鎖等待。第二個事務試圖獲取排它 (X) 鎖以進行更新。由於兩個事務都要轉換為排它 (X) 鎖，並且每個事務都等待另一個事務釋放共享模式鎖，因此發生死鎖。
若要避免這種潛在的死鎖問題，請使用更新 (U) 鎖。一次只有一個事務可以獲得資源的更新 (U) 鎖。如果事務修改資源，則更新 (U) 鎖轉換為排它 (X) 鎖。否則，鎖轉換為共享鎖。
排它鎖
排它 (X) 鎖可以防止並發事務對資源進行訪問。其它事務不能讀取或修改排它 (X) 鎖鎖定的數據。
意向鎖
意向鎖表示 SQL Server 需要在層次結構中的某些底層資源上獲取共享 (S) 鎖或排它 (X) 鎖。例如，放置在表級的共享意向鎖表示事務打算在表中的頁或行上放置共享 (S) 鎖。在表級設置意向鎖可防止另一個事務隨後在包含那一頁的表上獲取排它 (X) 鎖。意向鎖可以提高性能，因為 SQL Server 僅在表級檢查意向鎖來確定事務是否可以安全地獲取該表上的鎖。而無須檢查表中的每行或每頁上的鎖......>>
問題九：高並發是什麼和如何解決 資料庫建立多表關聯，關鍵業務數據欄位和查詢欄位建立索引，對唯一性建立好，同時多任務並發時程序設計時注意數據的合理性檢驗和用戶處理數據有問題時的友好提示見面，建立好的結構文檔說明，同時對關鍵欄位的關系型作好記錄，有效地設計多表的結構安排，盡量減少數據的冗餘，同時又要避免對歷史數據的影響，保持良好的數據管理
問題十：如何處理高並發量的HTTP請求 盡量減少頁面的HTTP請求，可以提高頁面載入速度。減少頁面中的元素網頁中的的圖片、form、flash等等元素都會發出HTTP請求，盡可能的減少頁面中非必要的元素，可以減少HTTP請求的次數。
❻ 用nginx負載均衡，提高並發
上篇文章說到用ab做壓力測試，單台伺服器出現cpu瓶頸。
為了提高並發，可以從兩方面擴展，縱向擴展（提升單台伺服器性能），橫向擴展（增加機器）。
縱向擴展，成本是比較大的，而且容易到頂，隨著業務增加，還是撐不住。
所以我們要做分布式方案，這樣可以隨著業務擴展，租用更多機器來扛住壓力。
目前軟負載比較簡單的方式就是用nginx了，當然你也可以硬負載，不過我沒接觸過，只是聽過而已，據說很貴。
那我下面就介紹nginx配置方法。
我兩台機器配置都沒1核1G內存。
直接看nginx配置吧
就這樣，reload nginx就生效了，為了測試是否成功負載，可以在兩個應用返回不同信息，用瀏覽器訪問，看是否會自動切換。
如果測試時，出現較多的異常，可以查看nginx 的error log，定位問題
如果出現1024 worker_connections are not enough
可以修改/etc/nginx/nginx.conf
下面為3000個並發，用分布式方案的結果，比單機平均處理時間降低了1秒。