‘壹’ 如何配置方便阅读和记录注释Netty源码文件的IDEA环境
一、找到文件和代码的模板设置 Preferences->Editor->File and Code Templates,然后在Templates这个tab下,选择你需要修改的文件类型的头模板。 二、修改注释 选中上一步的某一个类型以后,将#parse("File Header.java")这一行删除。
‘贰’ 如何编译 netty 源码并导入android studio
ndk编译是针对jni的。jni是java native interface的缩写,意为java本地接口。 java本地接口一般是用C语言来实现一些功能,然后通过特定的格式暴露接口给java调用。但是C语言的代码不能直接被java使用,而是需要通过ndk进行编译,编译后会在libs目录下生成.so文件,这事动态运行库,这时C语言曝露出的接口才能被java调用。 楼主可以检查你的vlc项目中的libs目录下,是否包含了.so文件,如果有的话一般是不需要ndk进行 编译的。不过如果楼主修改了c语言中的代码,那么为了使修改生效必须从新用ndk编译,编译后会删除原来生成的.so,并生成新的.so文件。 使用ndk-r7以及更高版本的ndk,可以免安装cygwin而直接使用命令行进行编译,非常方便。 方法: 将ndk的根目录设置环境变量,然后dos命令行进入需要编译的项目的根目录,执行命令 ndk-build
‘叁’ netty 实现的http server 需要专门写client吗
在test.cpp中引用class1(如通过头文件) Makefile CC = gcc CFLAGS = -Wall -Os LDFLAGS = -llib1.so all: test test: test.cpp $(CC) $(CFLAGS) $(LDFLAGS) $< -o $@ clean: rm test 编译完成后用 ldd test就可以看到有没有连接成功
‘肆’ netty 一个server有可以建多少个连接
1. 应用在netty建连接的过程中做了耗时的事;
因此我先mp了应用的线程,看到一切正常,boss线程看起来非常空闲;
2. backlog太小;
首先问了下开发代码里有没有设置过backlog,开发告诉我没设置过,于是我翻了下netty的源码确认下默认值,看到backlog的默认值为读取自系统的/proc/sys/net/core/somaxconn,于是查了下系统的这个值,确认系统的这个值已经是调整过的,设置为了2048,然后确认了系统上的tcp_max_syn_backlog是4096,也就是最后work的会是2048(为什么是这样具体可见 这篇文章 ),也就是说应该是够的。
用ss -s观察连接的状况,看到的是synrecv是0,也印证了上面的不是backlog的问题。
到这一步就彻底傻眼了,不知道该用什么方法排查了,于是开始一堆的google,看到的各种说解决新建连接并发低的解决办法,除了调整backlog外,主要是以下两种:
1 关闭tcp_tw_recycle,尝试了(话说这里充分体现了”病急乱投医“的心态,其实我自己都不相信改这参数有用,但想着只是改下参数这种小代价的事,还是试试吧),没任何作用;
2 关闭window scaling ,也尝试了,一样没任何作用;
查到这个阶段觉得自己已经无法理解了,于是求助了厂内内核团队对网络这块比较精通的同学,然后又求助了“神”,“神“帮忙看了会后,说主要的问题是现在是每epollWait唤醒一次,只建了一个连接,这导致在大量新建连接请求并发的时候,效率不够高,因此我翻了下代码,发现我本机上看到的代码不是这样的,我本机上看到的netty代码在epollWait唤醒后,是会尝试一直去accept的,但这个应用使用的netty确实不是这样,于是查了下应用的jar包库,发现里面有两个版本的netty(一个是3.2.1.Final,一个是3.6.3.Final),3.2.1确实是每次epollWait后就处理一个,于是通知开发同学把3.2.1去掉,满心期待的认为应该是好了,等开发更新好了后,自己也确认了一次epollWait唤醒后会连续处理很多个建立连接的请求,但悲催的还是没解决问题,具体的netty在这块的改造感兴趣的同学可以看看NioServerSocketPipelineSink这个类(重点看select唤醒后)…
到这步,就彻底郁闷了,话说其实到这步的时候我已经被这个问题困扰了2天多了,于是只好继续google,发现又有提到打开syn cookies的建议,于是尝试了下,竟然真的work了,打开了这个参数后新建连接的并发请求轻松超过100+了。
到此以为已经解决了,但很快开发给我反馈,整个集群开启了这个参数后,连接确实是能建上了,但客户端出现了发了请求后,等不到任何响应的现象,当时还不确定服务器端到底有没有收到请求,于是只好又先关闭了这个参数(话说这个我到现在都不明白为什么这个参数打开后,会出现发请求没响应的现象,求高人解答)。
尽管还是没解决,但毕竟有进展,有的进展就是打开了syn cookies后连接就能建上,而syn cookies只有在backlog满了后才会生效,那也就是说还是backlog满了,从kern的日志也能确认syn cookies确实是work了,到这步就觉得诡异了,明明netty用的默认值就是somaxconn,而每秒新建40多个连接,且boss线程还很空闲的情况下显然不应该出现backlog满的现象,这个时候仔细看了下本机查看的netty代码,才发现我看的是netty 4的代码,而应用用的是netty 3.6.3,悲催,赶紧把netty 3.6.3的代码捞下来看了,才发现在3.6.3里backlog的默认值处理时不一样的,在3.6.3里默认值是50,不是netty写的默认值,是java本身,50那估计真的不一定够,于是就通知开发在代码里先强制设置下backlog为1000。
在开发改代码的过程中,还有一个怀疑点想确认,就是既然是backlog满了,为什么看到的synrecv会是0呢,于是再用netstat -na | grep [port] | grep SYN_RECV -c统计了下,结果发现值基本一直是64,java层面默认设置的是50,linux会将这个值调整为大于这个值的2的n次幂的值,那也就是64,好吧,看到这就彻底可以确定真的是因为backlog太小了造成的(只是话说我不明白为什么ss -s统计出来的synrecv会是0呢,求高人解答)。
等开发改完代码重新发布后,稍微增加了点引流测试了下,轻松支撑每秒200+,客户端建立连接后发请求获取响应也完全ok,问题到此宣告解决。
题外话: 这应用之所以会比较容易出现较多的synrecv,主要是因为手机网络通常是不太稳定的,另外一个原因是这种对外的都很容易带来攻击,而当时刚好这个应用前面的一个用来防syn flood的由于有bug临时关闭了,所以问题暴露的比较明显。
从这个折腾了4天的case的排查过程,大家可以看到其实如果一开始我仔细确认过应用用的netty版本和我本机看的代码是不一致的话,估计很快就会排查出原因就是backlog值太小造成的,所以说折腾了这么多天其实也是自己造成的,这个告诉自己,以后排查问题的时候一定要对出现问题的应用所在的环境更加清楚的确认。
ps: 最后再多啰嗦几句,从这个case还能看到的是netty的版本其实在细节上是一直在改进的,就像这个case里的不同版本的netty在处理连接事件唤醒上,还有backlog的默认值上,所以我一直很强调,对于需要存活很多年的软件而言,选择一个使用范围较广的开源软件是非常重要的,如果自己开发,也许短期能超越,但放到三年、五年这样的范围来看,通常是很难和开源软件去抗衡的(原因是商业公司没多少人会专注在一个领域做三五年的,而开源界这样的人实在是多,说实话,这种case看过太多),所以如果觉得你能做的比开源软件好,还不如去帮助已有的(当然,如果这个领域目前完全没有什么使用面较广的、靠谱的,那自己做一个开源是挺好的),软件的可持续发展能力(除非是一次性软件、做的玩的或就玩个一两年的)是非常非常重要的。
‘伍’ 《Netty实战NettyINACTION》epub下载在线阅读,求百度网盘云资源
《Netty实战》(诺曼·毛瑞尔(Norman Maurer))电子书网盘下载免费在线阅读
资源链接:
链接:
书名:Netty实战
作者:诺曼·毛瑞尔(Norman Maurer)
译者:何品
豆瓣评分:7.5
出版社:人民邮电出版社
出版年份:2017-5-1
页数:276
内容简介:
编辑推荐
- Netty之父”Trustin Lee作序推荐
- 阿里巴巴中间件高级技术专家为本书中文版作序推荐
- 系统而详细地介绍了Netty的各个方面并附带了即用型的优质示例
- 附带行业一线公司的案例研究
- 极实用的Netty技术书
无论是构建高性能的Web、游戏服务器、推送系统、RPC框架、消息中间件还是分布式大数据处理引擎,都离不开Netty,在整个行业中,Netty广泛而成功的应用,使其成为了Java高性能网络编程的卓绝框架。
Netty的现Tech Lead Norman在本书中循序渐进地讲解了Netty的各个关键部分,在看完本书后,你不但可以熟练地使用Netty来构建以上系统,并且还可以避免很多常见的陷阱。
无论是想要学习Spring 5 、Spark、Cassandra等这样的系统,还是通过学习Netty来构建自己的基于Java的高性能网络框架,或者是更加具体的高性能Web或者游戏服务器等,本书都将是你的超强拍档。
本书中文版基于Netty4.1.9做了修订,希望本书能够给你带来一个接近完美的阅读体验,并能帮到你。
内容提要
本书是为想要或者正在使用Java从事高性能网络编程的人而写的,循序渐进地介绍了Netty各个方面的内容。
本书共分为4个部分:第一部分详细地介绍Netty的相关概念以及核心组件,第二部分介绍自定义协议经常用到的编解码器,第三部分介绍Netty对于应用层高级协议的支持,会覆盖常见的协议及其在实践中的应用,第四部分是几个案例研究。此外,附录部分还会简单地介绍Maven,以及如何通过使用Maven编译和运行本书中的示例。
阅读本书不需要读者精通Java网络和并发编程。如果想要更加深入地理解本书背后的理念以及Netty源码本身,可以系统地学习一下Java网络编程、NIO、并发和异步编程以及相关的设计模式。
本文仅用于学习和交流目的,不代表异步社区观点。非商业转载请注明作译者、出处,并保留本文的原始链接。
作者简介:
Norman Maurer,是苹果公司的资深软件工程师,同时也是Netty的核心开发人员。
Marvin Allen Wolfthal,是Dell Services的顾问,他使用Netty实现了多个任务关键型的企业系统。
何品,目前是淘宝的一名资深软件工程师,热爱网络、并发、异步相关的主题以及函数式编程,同时也是Netty、Akka等项目的贡献者,活跃于Scala社区,目前也在从事GraphQL相关的开发工作。
‘陆’ 如何编译 netty 源码并导入android studio
2-1基础准备工作首先你得安装配置了AndroidStudio,具体不明白的参考《AndroidStudio入门到精通》。接着你得下载好了源码Code,至于如何下载这里不再说明,比较简单,上官网查看就行了。其次你需要保证源码已经被编译生成了out相关目录文件。好了,如上就是一些基本准备工作,针对定制源码或者原生源码来说,这些准备步骤都是必须的,没必要再强调了。2-2配置导入及使用2-2-1编译源码idegen模块及生成AS配置文件(*.ipr)在开始编译idegen模块前,你一定知道需要先全局编译出out目录及相关文件吧,这个不再过多说了,我们通过如下命令编译idegen模块:mmmdevelopment/tools/idegen/11这行命令的意思是编译idegen这个模块项目,然后生成idegen.jar文件(不信你自己去查看这个模块的Android.mk的目标吧,不多解释)。运行完以后如果看到如下信息则说明编译OK:####makecompletedsuccessfully(7seconds)####1212接着执行如下脚本:development/tools/idegen/idegen.sh11这行命令的意思是在根目录生成对应的android.ipr、android.imlIEDA工程配置文件。等待片刻得到类似如下信息说明OK:Readexcludes:21msTraversedtree:194799ms1212通过如上操作我们就完成了基本的源码配置工作。2-2-2导入AndroidStudio前的一些客户化操作大家都知道使用Eclipse倒入源码很慢,AndroidStudio导入源码时也慢,所以建议修改android.iml文件(将自己不用的代码去掉),然后再导入Studio。
‘柒’ 如何编译 netty 源码并导入android studio
思路一:下载源码,自己下载依赖lib,构建编译环境,成功;
1. 从maven 地址下载,一般关心下面红色的3个,带sources的肯定就是源码了,但是里面没有相关依赖关系,这个可以看 .pom 文件;
将sources.jar 变为zip 文件,解压出来;
在你项目的 androidstudio project 中新建一个 Java library;命名为 nettylib-4.0.14
将2中源码文件io/netty/ 拷贝到src/main/Java/ 目录下
studio sync,编译看报错的地方,或者根据 1 中地址里面的 pom 文件,找到netty 编译需要依赖的第三方 jar
依赖jar 查询地址: http://www.findjar.com/index.x?
最后nettylib-4.0.14 中的 build.gradle 配置如下:
其中会遇到不少问题,我搞了很久,因为走了些弯路,如上图,我直接贴出来配置了,但是仍然有少数的文件会报错,因为和项目无关,所有直接删掉啦;
编译可能会遇到各种错误,我就不一一贴出来了,大家有问题,请留言;
思路二:在github上下载源码,并且按照其设置来配置编译环境
git 源码地址:https://github.com/netty/netty/tree/netty-4.0.14.Final
编译环境搭建:http://netty.io/wiki/setting-up-development-environment.html
主要有eclipse +maven 和使用IDEA
1. 使用eclipse +maven,比较容易报错,因为eclipse 和maven 可能有不兼容的情况;
建议使用前最好,进入netty下载目录,
1。mvn install 在本地Repository中安装jar
2。mvn eclipse:eclipse 生成eclipse项目
然后就多了 .classpath 和 .project,可以直接导入eclipse
我2种都试过啦,eclipse 报错比较难搞定,最后使用的是IDEA;
直接以maven 工程导入就行了,导入后,编译也ok
‘捌’ java-如何在Eclipse中编译Netty的API
下载java-docs-api-cn.zip中文文档的压缩包。如:http://dlc.sun.com.edgesuite.net/jdk/jdk-api-localizations/jdk-api-zh-cn/publish/1.6.0/html_zh_CN.zip
启动eclipse --> [Window]菜单 --> Preferences项 --> 点击对话框左面Java属性下的Installed JREs,选择右面列表中的jdk1.5.0_06,然后点击右侧的Edit按钮打开Edit JRE对话框 --> 在JRE system libraries列表中选择c:/java/jdk1.6.0_22/jre/lib/rt.jar,点击右侧的Javadoc Location按钮,在弹出的对话框中选择Javadoc in archive,将其中的Archive path设置为电脑中java-docs-api-cn.zip中文文档的所在路径,最后把Path within archive定位在文档压缩包中的api目录(比如html/zh_CN/api)。
‘玖’ 如何编译 netty 源码并导入android studio
一、修改Android Studio(以下简称AS)的内存配置
因为在导入源码时需要消耗大量内存,所以先修改IDEA_HOME/bin/studio.vmoptions中-Xms和-Xmx的值。文档中使用的是748m, 可自行修改。
二、配置AS的JDK、SDK
在IDE中添加一个没有classpath的JDK, 这样可以确保使用源码里的库文件
并将其作为要使用的SDK的Java SDK。
三、生成导入AS所需配置文件(*.ipr)
①编译源码(为了确保生成了.java文件,如R.java;如果编译过,则无需再次编译)
②检查out/host/linux-x86/framework/目录下是否有idegen.jar
如果idegen.jar不存在,执行:
mmm development/tools/idegen/
在5.0.1的源码中会生成res.java的文件夹,导致idegen.jar运行时抛FileNotFoundException,这是idegen的代码不够严谨造成的。
我的分享里有修改这个bug的patch,或者直接使用我分享的idegen.jar。
③执行
development/tools/idegen/idegen.sh
等待出现类似下面的结果:
Read excludes: 5ms
Traversed tree: 44078ms
这时会在源码的根目录下生成android.ipr和android.iml两个IntelliJ IDEA(AS是基于IntelliJ IDEA社区版开发的)的配置文件