IO指 Input(输入流)、OutPut(输出流) 以支持JAVA应用对外传输交换数据。传输入目标可以是文件、网络、内存等。
当然,随着对传输性能的要求越来越高,后面也逐渐演变除了BIO、NIO、AIO。
即同步阻塞I/O。在java1.4之前 这种传输的实现 只能通过inputStream和OutputStream 实现。这是一种阻塞式IO模型,应对连接数不多的文件系统还好,如果应对的是成千上万的网络服务,这种阻塞式模型就会造成大量的线程占用,造成服务器无法承载更高的并发。
在IO模型中,这里的阻塞指的是:内核数据准备好和数据从内核拷贝到用户态这两个过程。
即同步非阻塞I/O。java1.4之后引入了NIO ,它通过双向管道进行通信,并且支持以非阻塞式的方式进行,就解决了网络传输导致线程占用的问题。Netty其在底层就是采用这种通信模型。
在IO模型中,非阻塞指的是:数据从内核拷贝到用户态这个过程会阻塞。
同步非阻塞I/O。NIO的非阻塞的实现是依赖选择器 对管道状态进行轮循实现,如果同时进行的管道较多,性能必会受影响,所以java1.7引入了 异步非阻塞式IO,通过异步回调的方式代替选择器。这种改变在windows下是很明显(因为windows实现了ICMP),在linux系统中不明显。现大部分JAVA系统都是通过linux部署,所以AIO直正被应用的并不广泛。所以我们接下学的学习重点更关注到BIO与NIO的对比
两组模型最大的别区在于阻塞与非阻塞,而所谓的阻塞是什么呢?而非阻塞又是如何解决的呢?
在阻塞模型中客户端与服务端建立连接后,就会按顺序发生三个事件
1.客户端把数据写入流中。(阻塞)
2.通过网络通道(TCP/IP)传输到服务端。(阻塞)
3.服务端读取。
这个过程中服务端的线程会一直处阻塞等待,直到数据发送过来后执行第3步。
如果在第1步客户端迟迟不写入数据,或者第2步网络传输延迟太高,都会导致服务端线程阻塞时间更长。所以更多的并发,就意味着需要更多的线程来支撑。
下图是Tomcat中的BIO模型图:
BIO模型里是通1对1线程来等待 第1、2步的完成。而在NIO里是指派了选择器(Selector)来检查,是否满足执行第3步的条件,满足了就会通知线程来执行第3步,并处理业务。这样1、2步的延迟就与 用于处理业务线程无关。
Tomcat中的非阻塞模型图:
在BIO API中是通过InputStream 与OutPutStream 两个流进行输入输出。而NIO使用一个双向通信的管道代替了它俩。管道(Channel)必须依赖缓冲区(Buffer)实现通信
管道对比流多了一些操作,如:非阻塞、堆外内存映射、零拷贝等。当然,并非所有的管道都支持这些特性。
所有管道都依赖了缓冲区。所谓缓冲区就是一个数据容器内部维护了一个数组来存储。Buffer缓冲区并不支持存储任何数据,只能存储一些基本类型,就连字符串也是不能直接存储的,理解这点对我们掌握buffer内部结构非常重要。
在Buffer内部维护了一个数组,同时有三个属性我们需要关注:
capacity:容量, 即内部数组的大小,这个值一但声明就不允许改变
**position:位置,**当前读写位置,默认是0每读或写个一个位就会加1
limit:限制,即能够进行读写的最大值,它必须小于或等于capacity
有了capacity做容量限制为什么还要有limit,原因往Buffer中写数据的时候 不一定会写满,而limit就是用来标记写到了哪个位置,读取的时候就不会超标。
如果读取超标就会报:BufferUnderflowException
同样写入超标也会报:BufferOverflowException
如果不用limit来标识,那我们写入和读取下一个数据时,就需要判断数据是不是null,但是前面说过,buffer中不能存储对象类型的数据,也就没有null的说法。那我们可以用-1或者其他数字标识吗?也不可以,因为在网络传输过程中,-1或其他数字也是正常传输的数据。
注意:不管是读还是写,都是往前的,不能往后
下面这些方法源码都在Buffer
类中,示例代码在IntBufferTest
类中
allocate:声明一个指定大小的buffer,position为0,limit为容量值capacity
wrap:基于数组包装一个buffer,position为0,limit为容量值
flip:为读取做好准备,将position置为0,limit为原position的值
这是一个很重要的方法,进行写入操作后一定要调用flip,不然接着读取就会报错
flip能不能连续执行两次呢?不能,因为这样是没有意义的,limit也变为了0,那么此时既不能读也不能写。
clear:为写入做好准备,将position置为0,limit为capacity,即回到初始状态。clear是不会清除数据的
需要注意,clear后再执行flip也是没有意义的,和上面一样。
mark:添加标记,以便后续调用reset将position回到标记,比如替换某一段内容。reset不能单独使用,必须配合mark操作
之所以需要mark,就是因为在buffer中,读和写都只能往前。
remaining:为重新读取做好准备,只是将position置为0。
hasRemaining:用来判断是否还能继续往下读
目前我们知道,总共有4个值,分别是 mark、position、limit、capacity它们等于以下规则:
0 <= 标记 <= 位置 <= 限制 <= 容量
管道用于连接文件、网络Socket等。它可同时同时执行读取和写入两个I/O 操作,固称双向管道,它有连接和关闭两个状态,在创建管道时处于打开状态,一但关闭 在调用I/O操作就会报ClosedChannelException
。通过管道的isOpen
方法可判断其是否处于打开状态。
固名思议它就是用于操作文件的,除常规操作外它还支持以下特性:
支持对文件的指定区域进行读写
堆外内存映射,进行大文件读写时,可直接映射到JVM声明内存之外,从面提升读写效率。
零拷贝技术,通过 transferFrom
或transferTo
直接将数据传输到某个通道,极大提高性能。
锁定文件指定区域,以阻止其它程序员进行访问
打开FileChannel目前只能通过流进行打开,如inputStream.getChannel() 和outputStream.getChannel() ,通过输入流打开的管道只能进行读,而outputStream打开的只能写。否则会分别抛出NonWritableChannelException与NonReadableChannelException异常。
如果想要管道同时支持读写,必须用RandomAccessFile
读写模式才可以。
FileChannel示例:
FileChannel channel = new RandomAccessFile(file_name,"rw").getChannel();
ByteBuffer buffer=ByteBuffer.allocate(1024);
int count = channel.read(buffer);
read方法会将数据写入到buffer 直到Buffer写满或者数据已经读取完毕,上面我们声明的大小是1024,如果大于这个值,需要使用while循环读取。count 返回读取的数量,-1表示已读取完毕。
udp 是一个无连接协议,DatagramChannel就是为这个协议提供服务,以接收客户端发来的消息。
udp实现步骤如下:
// 1.打开管道DatagramChannel
channel = DatagramChannel.open();
// 2.绑定端口
channel.bind(new InetSocketAddress(8080));
// 3.接收消息,如果客户端没有消息,则当前会阻塞等待channel.receive(buffer);
ByteBuffer buffer = ByteBuffer.allocate(8192);
while (true){
buffer.clear(); // 清空还原
channel.receive(buffer); // 阻塞
buffer.flip();
byte[] bytes=new byte[buffer.remaining()];
buffer.get(bytes);
System.out.println(new String(bytes));
//因为调用了get,所以要调用rewind
buffer.rewind();
//回写消息到客户端,但是报错,因为udp是单向的,没有连接,不支持回写
//datagramChannel.write(buffer);
//只能通过send方法将消息重新发送到另外一个地址
channel.send(buffer,new InetSocketAddress("127.0.0.1",8010));
//关闭管道
channel.close();
}
在mac中,可使用nc -vu 127.0.0.1 8080
这个命令向udp发送消息
TCP是一个有连接协议,须建立连接后才能通信。这就需要下面两个管道:
**ServerSocketChannel :**用于与客户端建立连接
**SocketChannel :**用于和客户端进行消息读写
基本步骤:
下面这段代码是TCP管道的实现步骤,并且只能在一个连接中发送一个消息:
public void test() throws IOException {
//ServerSocketChannel用于与客服端建立连接
//1、打开TCP服务管道
ServerSocketChannel channel=ServerSocketChannel.open();
//2、绑定端口
channel.bind(new InetSocketAddress(8080));
//3、接收客服端发送的连接请求,如果没有则阻塞
SocketChannel socketChannel = channel.accept();
//因为只声明了1024的字节大小,如果发送消息超过了设定的大小,就需要循环读取
ByteBuffer buffer=ByteBuffer.allocate(1024);
//4、读取客服端发来的消息,如果没有则阻塞,idea运行后,可以发现线程一直没有结束,知道收到客户端消息
socketChannel.read(buffer);
//read就是读取客户端的数据写入到buffer中,底层调用的是buffer的put方法,所以一定要flip,让position重新从0开始,flip常用于put之后
buffer.flip();
//remaining方法返回的是limit - position的值,也就是剩余数量,但是我们先调用了filp,所以得到的就是已使用的空间大小
byte[] bytes=new byte[buffer.remaining()];
//将缓冲区的数据读取到字节数组
buffer.get(bytes);
System.out.println(new String(bytes));
//5、回写消息
//上面调用了buffer的get方法,所以在调用write之前要先调用rewind,rewind常用于write或get之前
buffer.rewind();
//write就相当于从buffer中get数据
socketChannel.write(buffer);
//6、关闭管道
socketChannel.close();
channel.close();
}
使用telnet ip port
进行连接测试,也可以使用NetAssist
网络调试助手进行测试,下载地址:http://www.cmsoft.cn
将上面的代码改造成while循环即可:
public void test2() throws IOException {
//ServerSocketChannel用于与客服端建立连接
//1、打开TCP服务管道
ServerSocketChannel channel=ServerSocketChannel.open();
//2、绑定端口
channel.bind(new InetSocketAddress(8080));
//3、接收客服端发送的连接请求,如果没有则阻塞
SocketChannel socketChannel = channel.accept();
ByteBuffer buffer = ByteBuffer.allocate(8192);
while (true) {
//缓冲区重用之前需要clear
buffer.clear();
//4、读取客服端发来的消息,如果没有则阻塞
socketChannel.read(buffer);
//read就是读取客户端的数据写入到buffer中,底层调用的是buffer的put方法,所以一定要flip,让position重新从0开始,flip常用于put之后
buffer.flip();
byte[] bytes = new byte[buffer.remaining()];
//将缓冲区的数据读取到字节数组
buffer.get(bytes);
String message = new String(bytes);
System.out.print(message);
//5、回写消息
//上面调用了buffer的get方法,所以在调用write之前要先调用rewind,rewind常用于write或get之前
buffer.rewind();
//write就相当于从buffer中get数据
socketChannel.write(buffer);
if(message.trim().equals("q")){
break;
}
}
//6、关闭管道
socketChannel.close();
channel.close();
}
但是这种方式不能建立多个连接,可以打开两个端口验证。如果想要建立多个连接发送消息,可以使用下面这种方式。
/**
* 可以建立多个连接,BIO的简易模型
* @throws IOException
*/
@Test
public void test3() throws IOException {
//ServerSocketChannel用于与客服端建立连接
//1、打开TCP服务管道
ServerSocketChannel channel=ServerSocketChannel.open();
//2、绑定端口
channel.bind(new InetSocketAddress(8080));
//3、接收客服端发送的连接请求,如果没有则阻塞
while (true){
//这里将相当于tomcat的BIO模型中的Acceptor
handle(channel.accept());
}
}
/**
* 每来一个连接便分配一个线程处理,这个就是BIO的模型
* @param socketChannel
*/
public void handle(SocketChannel socketChannel) throws IOException {
//tomcat的BIO模型采用线程池分配线程,这里直接new线程
Thread thread=new Thread(()->{
ByteBuffer buffer = ByteBuffer.allocate(8192);
while (true) {
try {
//缓冲区重用之前需要clear
buffer.clear();
//4、读取客服端发来的消息,如果没有则阻塞
socketChannel.read(buffer);
//read就是读取客户端的数据写入到buffer中,底层调用的是buffer的put方法,所以一定要flip,让position重新从0开始,flip常用于put之后
buffer.flip();
byte[] bytes = new byte[buffer.remaining()];
//将缓冲区的数据读取到字节数组
buffer.get(bytes);
String message = new String(bytes);
System.out.print(message);
//5、回写消息
//上面调用了buffer的get方法,所以在调用write之前要先调用rewind,rewind常用于write或get之前
buffer.rewind();
//write就相当于从buffer中get数据
socketChannel.write(buffer);
if(message.trim().equals("q")){
break;
}
} catch (IOException e) {
e.printStackTrace();
}
}
try {
//6、关闭管道,连接结束后才关闭
socketChannel.close();
} catch (IOException e) {
e.printStackTrace();
}
});
thread.start();
}
debug启动后,通过快照可以发现
while (true){
//这里将相当于tomcat的BIO模型中的Acceptor
handle(channel.accept());
}
这里是阻塞的:
"main@1" prio=5 tid=0x1 nid=NA runnable
java.lang.Thread.State: RUNNABLE
at sun.nio.ch.ServerSocketChannelImpl.accept0(ServerSocketChannelImpl.java:-1)
at sun.nio.ch.ServerSocketChannelImpl.accept(ServerSocketChannelImpl.java:422)
at sun.nio.ch.ServerSocketChannelImpl.accept(ServerSocketChannelImpl.java:250)
- locked <0x36e> (a java.lang.Object)
at com.cxylk.nio.channel.ServerSocketChannelTest.test3(ServerSocketChannelTest.java:104)
at sun.reflect.NativeMethodAccessorImpl.invoke0(NativeMethodAccessorImpl.java:-1)
at sun.reflect.NativeMethodAccessorImpl.invoke(NativeMethodAccessorImpl.java:62)
...
然后通过telnet建立连接后,这里
//4、读取客服端发来的消息,如果没有则阻塞
socketChannel.read(buffer);
会阻塞:
"Thread-0@1040" prio=5 tid=0xe nid=NA runnable
java.lang.Thread.State: RUNNABLE
at sun.nio.ch.SocketDispatcher.read0(SocketDispatcher.java:-1)
at sun.nio.ch.SocketDispatcher.read(SocketDispatcher.java:43)
at sun.nio.ch.IOUtil.readIntoNativeBuffer(IOUtil.java:223)
at sun.nio.ch.IOUtil.read(IOUtil.java:197)
at sun.nio.ch.SocketChannelImpl.read(SocketChannelImpl.java:380)
- locked <0x416> (a java.lang.Object)
at com.cxylk.nio.channel.ServerSocketChannelTest.lambda$handle$0(ServerSocketChannelTest.java:127)
开启三个终端,分别使用telnet
建立连接,这时候使用jstack
命令可以看到建立了3个线程来处理请求
上面就是一个简易的BIO模型,不管是read还是write都是阻塞的。
selector用于监听多个通道的事件,比如连接打开,数据到达等。因此,单个的线程可以监听多个数据通道。即用选择器,借助单一线程,就可以对数量庞大的活动I/O通道实施监控和维护。
但需要注意的是,写就绪相对来说有一点特殊,一般来说,不应该注册写事件。写操作就绪条件为底层缓冲区有空闲空间,而写缓冲区绝大部分时间都是有空闲空间的,所以当注册了写事件后,写操作一直就是就绪的,选择处理线程会占用整个CPU资源。所以,只有当确实有数据要写时再注册写操作,并在写完以后马上取消注册。
没有selector,我们可以实现一个BIO,但要实现一个NIO,则必须需要selector组件。channel只需要设置为异步,然后注册到selector,selector负责监视这些socket的IO状态,当其中任意一个或多个channel具有可用的IO操作时,该selector的select()方法(该方法是阻塞的,selectNow是非阻塞的)将会返回大于0的整数,该整数值就表示该selector上有多少个channel具有可用的IO操作,并提供了selectedKeys()方法来返回这些channel对应的SelectionKey集合(一个SelectionKey对应一个就绪的通道)。正是通过selector,使得服务器端只需要不断地调用selector实例的select()方法即可知道当前所有channel是否有需要处理的IO操作。
选择器核心组件有三个:管道(SelectableChannel)、选择器(Selector)、选择键(SelectorKey)。
并非所有的Channel都支持向选择器注册,只有SelectableChannel子类才可以。当管道注册到Selector后就会返回一个Key,通过它就可以获取到关联的管道。接下来就分别介绍三个组件的作用:
管道。
不是所有的channel都可以注册到选择器,只有SelectableChannel的子类才可以。
核心功能有两个:
configureBlocking 设置阻塞模式
默认为true,即同步。向选择器注册前必须设置为false。
第二就是调用register方法注册到选择器,并且指定要监听的事件。可选的事件有CONNECT
建立连接、ACCEPT
接受连接、READ
可读、WRITE
可写。但并非所有管道都支持这四个事件,可以通过validOps()
方法来查看当前管道支持哪些事件,比如ServerSocketChannel只支持ACCEPT事件:
public final int validOps() {
return SelectionKey.OP_ACCEPT;
}
选择器。
管道注册到selector后,会生成一个键(SelectorKey)该键维护在selector的keys中。选择器中维护了三个键集,底层都是set实现所以不会重复:
通过调用select方法会进行刷新,如果返回数大于0表示有指定数量的键状态发生了变更。
通过下面代码来演示调用selector方法后键集的变化:
public void demo() throws IOException {
DatagramChannel channel = DatagramChannel.open();
channel.bind(new InetSocketAddress(8081));
channel.configureBlocking(false);
Selector selector=Selector.open();
channel.register(selector,SelectionKey.OP_READ);
}
调用selectNow立即刷新,此时selectedKeys加1:
处理完要remove,不然虽然selectNow返回0了,但是selectKey里面还是存在键:
可以发现,selectedKeys中已经移除了该键。
如果调用cancel,则cancelledKeys中会加入该键
而且我们可以发现,此时keys里面还是1,当调用selectNow刷新后就变为0了,同时cancelledKeys也变为了0,因为刷新操作会去添加已经就绪的键集,也会清空键集
可以通过下面这张图来清楚的看到当刷新或者关闭选择器时键集的变化:
调用cancel方法或关闭选择器、关闭管道都会将键添加到取消键集中,但不会被立马清楚,需要调用刷新时才会被清空。
选择键。用于关联管道与选择器,并监听维护管道1至多个事件,监听事件可在注册时指定,也可以后续调用interestOps
来改变感兴趣的键集。
SelectorKey
中关于IO事件的集合有两个。一个是上面说的interestOps
,用于记录channel感兴趣的IO事件。另外一个就是readyOps
,用于记录在channel感兴趣的IO事件中具体有哪些IO事件就绪了。
其中有4个常量,也是支持的事件:
public static final int OP_READ = 1 << 0;
public static final int OP_WRITE = 1 << 2;
public static final int OP_CONNECT = 1 << 3;
public static final int OP_ACCEPT = 1 << 4;
查看当前管道是否支持某个事件,可以使用validOps()
和某个具体事件进行&
运算,比如:
//表示该管道支持 OP_CONNECT 事件监听
socketChannel.validOps()&SelectionKey.OP_CONNECT != 0
此外Key还有如下主要功能:
channel() 获取管道
判断状态
a. isAcceptable() 管道是否处于Accept状态
b. isConnectable 管道是否处于连接就绪状态
c. isReadable 管道是否处于读取就绪状态
d. isWritable 管道是否处于写就续状态
isValid() 判断该键是否有效,管道关闭、选择器关闭、键调用cancel()方法都会导致该键无效。
**cancel()**取消管道注册(不会直接关闭管道)
下面是一个UDP的demo:
public void test3() throws IOException {
Selector selector = Selector.open();
DatagramChannel channel = DatagramChannel.open();
channel.bind(new InetSocketAddress(8080));
channel.configureBlocking(false);// 设置非阻塞模式
// 1.注册读取就续事件
channel.register(selector, SelectionKey.OP_READ);
while (true) {
int count = selector.select();
//2.刷新键集
if (count > 0) {
Iterator<SelectionKey> iterator = selector.selectedKeys().iterator();
// 3.遍历就续集
while (iterator.hasNext()) {
SelectionKey key = iterator.next();
//4.处理该就续键
handle(key);
//5.从就续集中移除
iterator.remove();
}
}
}
}
处理该键,从键中获取管道并读取消息
public void handle(SelectionKey key) throws IOException {
ByteBuffer buffer = ByteBuffer.allocate(8192);
DatagramChannel channel = (DatagramChannel) key.channel();
channel.receive(buffer);// 读取消息并写入缓冲区
}
流程:
1、将管道注册到选择器
2、通过select方法刷新已注册键的状态
3、获取就绪集并遍历
4、处理键,即获取管道并读取消息
5、从选择键集中移除
需要注意,如果第四步没有进行读取,那么管道目前还是处于读就绪状态,当调用select方法时会立马返回,造成死循环。如果没有执行第5步,会导致其留存在选择集中,从而重复进行处理。
此处可能存在不合适展示的内容,页面不予展示。您可通过相关编辑功能自查并修改。
如您确认内容无涉及 不当用语 / 纯广告导流 / 暴力 / 低俗色情 / 侵权 / 盗版 / 虚假 / 无价值内容或违法国家有关法律法规的内容,可点击提交进行申诉,我们将尽快为您处理。