javaminanio

A. 即时通讯IM系统开发

我于2014年开启即时通讯的开发之路，历经从服务端到客户端，从第三方到自研，经历过诸多的研发难题，都一一破解。现将经验总结如下，希望对行业内从事IM开发的程序员有所帮助。

①P2P方式

P2P方式多用于局域网内聊天，这种方式在有种种限制和不便。一方面它只适合在线的点对点消息传输，对离线，群组等支持不够。另一方面由于 NAT 的存在，使得不同局域网内机器互联难度大大上升，在某些网络类型(对称NAT)下无法建立连接。使用P2P方式的软件在启动后一般做两件事情：

1、进行UDP广播:发送自己信息和接受同局域网内其他端信息。

2、开启TCP监听:等待其他端进行连接。

②服务器中转方式

大部分的互联网IM产品都采用服务器中转这种方式进行消息传输，相对于P2P的方式，具有有以下的优点:

1、支持更多P2P无法支持或支持不好的业务，如离线消息，群组，聊天室。

2、方便业务逻辑的拓展和新旧版本的兼容，当然它也有自己的问题，就是服务器架构复杂，并发要求高。

通过以上的比较，建议我们在开发IM系统的时候使用服务器中转的方式。

IM的网络连接方式有基于TCP的长连接和基于HTTP短连接两种:

①基于TCP的长连接

基于TCP长连接则能够更好地支持大批量用户，问题是客户端和服务器的实现比较复杂。也有一些改进，比如下行使用MQTT进行服务器通知/消息的下发，上行使用HTTP短连接进行指令和消息的上传。这种方式能够保证下行消息/指令的及时性，但是在弱网络下上行慢的问题还是比较严重，早期的来往就是基于这种方式。

②基于HTTP短连接

常见于WEB IM系统(现在很多WEBIM都是基于WebSocket实现)，它的优点是实现简单，方便开发上手，问题是流量大，服务器负载较大，消息及时性无法很好地保证，对大规模的用户量支持不够，适合小型的IM系统。

IM常见的协议有：XMPP，MQTT，私有协议。各种协议优缺点情况如下：

①XMPP协议

优点：协议开源，可拓展性强，在各个端(有各种语言的实现，对于前期入门级的开发者是很好的选择，方便进入IM开发的程序员快速上手。

缺点：XML表现力弱，有太多冗余信息，流量大。

常见案例：Gtalk、新浪微博、Facebook。

②MQTT协议

优点：协议简单，流量少。

缺点：不是一个专门为IM设计的协议，多使用于推送。

③私有协议

几乎所有主流的IM APP都是使用私有协议。

优点：高效，节约流量(一般使用二进制协议)，安全性高，难以破解。

缺点：开发初期没有现有样列可以参考，对于参与IM开发的程序员的要求比较高。

常见案例：微信、钉钉。

根据以上的对比，我们得出结果，一个好的协议需要满足高效、简洁、节约流量、易于拓展等要求，同时又能够和当前的开发团队的技术堆栈匹配，不能选择一个他们很难上手的。

这里再提一下，我当时开发IM系统的时候，上手用的是XMPP，在使用的过程中发现了很多问题，踩了很多坑。

①实时性原则

消息实时到达接收方，如果用户在线，则消息实时到达，如果用户不在线，则消息在用户登录后到达。由于网络波动，以及移动端操作系统对应用前后台切换的管理，如何实现用户连接管理、消息实时推送，推送失败的处理方式，客户端重连机制，消息如何补齐等，都需要IM系统考虑。由于TCP开发略微复杂，早期的基于HTTP短轮询、长轮询的低效的技术方案，也无法达到实时性的要求。

②可靠性原则

是指我们经常听到的“消息送达”，通常用消息的不丢失和不重复两个技术指标来表示。可靠性是要确保消息被发送后，能够被接收者收到。由于网络环境的复杂性，以及用户在线的不确定性，消息的可靠性（不丢失、不重复）是IM系统的核心指标，也是IM系统实现中的难点之一。总体来说，IM系统的消息“可靠性”，通常就是指聊天消息投递的可靠性（准确的说，这个“消息”是广义的，因为还存用户看不见的各种指令和通知，包括但不限于进群退群通知、好友添加通知等，为了方便描述，统称“消息”）。

从消息发送者和接收者用户行为来讲，消息“可靠性”应该分为以下几种情况：

1、发送失败：对于这种情况要感知到，明确反馈给发送方。如果此消息没有发送成功，发送方可以选择重试或者稍后再试。

2、发送成功：如果接收方处在“在线”状态，应该立即收到此消息。如果接收方处在“离线”状态不能收到消息，一旦上线则立刻收到消息。

3、消息不能重复：简言之就是发送的一条消息不能被重复收到多次。

③一致性原则

系统中要重视消息的时序问题，不能出现发送的消息顺序颠倒的问题。通常出现时序的问题有以下的原因：

1、网络传输延迟导致时序不一致。不同用户发送的消息到达服务器的延时差异较大，给消息时序性带来挑战。早期开发过程中经常会遇到这种问题。

2、分布式系统的出现导致时序不一致。IM系统模块众多，接入层、消息逻辑层等、每层都分布式集群化，这些应用分布在不同的机器上，如何保证时序是个难点。

④扩展性原则

扩展性是IM系统后期要考虑的问题，包括功能的扩展，服务器的扩展等，这次就先不展开阐述。

Mina和Netty都是java领域高性能和高可伸缩性网络应用程序的网络应用框架。

Mina是 Apache 组织的项目，它为开发高性能和高可用性的网络 应用程序提供的框架。当前的Mina版本支持基于 Java NIO 技术的 TCP/UDP 应用程序开发、串口通讯程序。目前正在使用 Mina的 软件有：Apache Directory Project、AsyncWeb、AMQP（Advanced Message Queuing Protocol）、RED5 Server（Macromedia Flash Media RTMP）、ObjectRADIUS、Openfire等。

Netty是由JBOSS提供的一个java开源框架。Netty提供异步的、 事件驱动的网络应用程序框架和工具，用以快速开发高性能、高可靠性的网络服务器和客户端程序。也就是说Netty是一个基于NIO的客户端和服务器端框架，使用Netty可以确保你快速和简单的开发出一个网络应用。

虽然我使用过Mina，但是建议开发选型上使用Netty 。因为Netty有对google protocal buf的支持，有更完整的ioc容器支持(spring,guice,jbossmc和osgi)。Mina更新到2.0就不再更新了，而Netty一直在更新，目前最新发布的版本已经更新到4.1，从版本更新角度可以看出Netty的社区很活跃，修复问题一直在持续，这将对我们选择它进行开发带来很多便利。

单体Netty IM系统，可以支持10万并发，如果机器性能良好的情况下可以超过10万。

分布式的Netty IM系统，可以支持更高的并发数。各组件的功能如下：

①IM Server 连接器：主要用来负责维持和客户端的TCP连接。

②缓存：负责用户、用户绑定关系、用户群组关系的缓存。 缓存临时数据、加快读速度。可以做成集群方式。

③数据库：用户、群组、离线消息。可以做成集群方式。

④消息队列：用户状态广播、群组消息广播。可以做成集群方式。

开发环境推荐使用netty-4.1.30这个版本，jdk使用1.8及以上版本。如下所示：

io.netty

netty-all

4.1.30.Final

①开发框架采用Netty + Spring(Spring4.x)。

②Spring采用Spring cloud。基于restful 短连接的分布式微服务架构，完成用户在线管理、单点登录系统。

③消息队列采用rocketMQ 高速队列，整流作用。

④数据库采用MYSQL。

⑤协议JSON +自定义数据包采用Fastjson。

基于Netty的IM开源代码在网上有很多，这里就不列举了，可以自行去git上下载。我认为关键是把概念理清楚，技术堆栈选好，总体框架定好，接下来就是开发一个适合中小企业的IM系统了，但是要考虑到后期的扩展性，因为一个好的产品不能自己用，要让更多的人使用。

B. java开发聊天功能用什么技术比较好

开发聊天功能可以采用以下几种技术：

• Socket编程：使用Java Socket编程可以实现基于TCP或UDP的网络通信，这亏毕是Java最基础、最底层的网络编程技术。使用Socket编程可以实现实时通信、消息推送等功能，但需要自己实现消息协议、数据传输等细节。

• Java NIO：Java NIO（New IO）是Java 1.4之后引入的一种新IO API，它提供了基于事件驱动的异步IO操作，可以大大提高网络通信效率。使用Java NIO可以实现高并发、高性能的网络通信，但需要掌握NIO的相关概念和使用方式。

• WebSockets：WebSockets是HTML5标准中新增的一种协议，可以实现基于浏览器的实时双向通信。使用Java开发WebSockets可以实现跨平台、跨浏览器的聊天功能，但需要掌握WebSocket协议的相关概念和使用方式。

• 第三方库：Java中有许多第三方库可以用于实现聊天功能，如Netty、Apache MINA、Smack等。这些库提供了更加简销悉芹单、易用的API，可以快速陆升搭建聊天功能，但需要熟悉相关库的使用方法和特性。

具体选用哪种技术，需要根据具体需求、开发经验和技术水平等因素进行综合考虑。

C. 如何用mina的ProtocolDecoder来解析websocket的消息

MINA,Grizzly[grizzly-nio-framework],xSocket都是基于 java nio的 server framework.

这里的性能缺陷的焦点是指当一条channel上的SelectionKey.OP_READ ready时,1.是由select thread读完数据之后再分发给应用程序的handler,2.还是直接就分发,由handler thread来负责读数据和handle.

mina,xsocket是1. grizzly-nio-framework是2.

尽管读channel buffer中bytes是很快的,但是如果我们放大,当连接channel达到上万数量级,甚至更多,这种延迟响应的效果将会愈加明显.

MINA:

for all selectedKeys

{

read data then fireMessageReceived.

}

xSocket:

for all selectedKeys

{

read data ,append it to readQueue then performOnData.

}

其中mina在fireMessageReceived时没有使用threadpool来分发,所以需要应用程序在handler.messageReceived中再分发.而xsocket的performOnData默认是分发给threadpool[WorkerPool],WorkerPool虽然解决了线程池中的线程不能充到最大的问题[跟tomcat6的做法一样],但是它的调度机制依然缺乏灵活性.

Grizzly:

for all selectedKeys

{

[NIOContext---filterChain.execute--->our filter.execute]<------run In DefaultThreadPool

}

grizzly的DefaultThreadPool几乎重写了java util concurrent threadpool,并使用自己的LinkedTransferQueue,但同样缺乏灵活的池中线程的调度机制.

下面分别是MINA,xSocket,Grizzly的源码分析:

Apache MINA (mina-2.0.0-M6源码为例):

我们使用mina nio tcp最常用的样例如下:

NioSocketAcceptor acceptor = new NioSocketAcceptor(/*NioProcessorPool's size*/);
DefaultIoFilterChainBuilder chain = acceptor.getFilterChain();

//chain.addLast("codec", new ProtocolCodecFilter(
//new TextLineCodecFactory()));
......
// Bind
acceptor.setHandler(/*our IoHandler*/);
acceptor.bind(new InetSocketAddress(port));

D. Java-JAVA中都有哪几种分布式实现方式，各有什么优缺点

常用的有EJB、rmi、Web Service，还有Hessian、NIO等，它们的优缺点比较比下：
1：EJB
优势：可扩展性好，安全性强，支持分布式事务处理。
劣势：不能跨语言；配置相对复杂，不同J2EE容器之间很难做无缝迁移。
2:rmi
优势：面向对象的远程服务模型；基于TCP协议上的服务，执行速度快。
劣势：不能跨语言；每个远程对象都要绑定端口，不易维护；不支持分布式事务JTA,RMI框架对于安全性、事务、可扩展性的支持非常有限。
3： Web Service
优势：跨语言、跨平台，SOA思想的实现；安全性高；可以用来兼容legacy系统的功能
劣势：性能相对差，不支持两阶段事务
4：Hessian
优势：使用简单，速度快；跨语言，跨平台；可以用来兼容legacy系统的功能。
劣势：安全性的支持不够强，不支持两阶段事务。
5：NIO(Mina/Netty)
优点：基于TCP通信，效率上高于HTTP的方式，非阻塞IO应对高并发绰绰有余。根据具体的需要制定数据传输的格式，可扩展性强。
缺点：不能跨语言，无法穿透防火墙。

E. 写微信小程序需要会什么

1、微信官方为小程序提供了大量的接口api，开发小程序需要有基本的Javascript，HTML，CSS的基础。
2、 小程序开发，常见使用“MINA”框架
Apache Mina Server 是一个网络通信应用框架，也就是说，它主要是对基于TCP/IP、UDP/IP协议栈的通信框架（当然，也可以提供JAVA 对象的序列化服务、虚拟机管道通信服务等），Mina 可以帮助我们快速开发高性能、高扩展性的网络通信应用，Mina 提供了事件驱动、异步（Mina 的异步IO 默认使用的是JAVA NIO 作为底层支持）操作的编程模型。
这个框架为微信小程序的运行提供了丰富的组件和API。要学会和掌握小程序的框架结构、数据绑定机制、模板、数据缓存、常用组件和API等相关知识。