1)实验平台:正点原子新起点V2FPGA开发板
2) 章节摘自【正点原子】《新起点之FPGA开发指南 V2.1》
3)购买链接:https://detail.tmall.com/item.htm?id=609758951113
4)全套实验源码+手册+视频下载地址:http://www.openedv.com/docs/boards/fpga/zdyz_xinqidian(V2).html
5)正点原子官方B站:https://space.bilibili.com/394620890
6)正点原子FPGA技术交流QQ群:712557122
第五十五章 双目OV5640摄像头RGB-LCD显示实验
双目摄像头是在一个模组上集成了两个摄像头,实现双通道图像采集的功能。双目摄像头一般应用于安防监控、立体视觉测距、三维重建等领域。本试验只做最基础的工作,把双目OV5640摄像头实时采集到的图像分左右两半显示在LCD屏幕上。
本章包括以下几个部分:
5454.1简介
54.2实验任务
54.3硬件设计
54.4程序设计
54.5下载验证
55.1简介
摄像头在日常生活中非常常见,一般分为单目摄像头、双目摄像头和多目摄像头。单目摄像头目前使用最为广泛;双目摄像头主要应用于单目摄像头无法胜任的场合,如测距领域,根据两个摄像头的视差,辅以一定的算法,人们可以计算物体的距离;当然针对一些特殊的应用,目前市场上也出现了多目摄像头,以应对更加复杂的场景。在“OV5640摄像头LCD显示实验”中对OV5640的视频传输时序、SCCB协议以及寄存器的配置信息等内容作了详细的介绍,如果大家对这部分内容不是很熟悉的话,请参考之前的实验。本次实验将在前面单目OV5640摄像头的基础上学习双目摄像头的LCD显示。
55.2实验任务
本章实验任务是利用双目OV5640摄像头采集图像,将采集到的图像实时显示在LCD屏幕上,两幅图像分别占据LCD屏的左右半边。
55.3硬件设计
新起点开发板上有两个扩展口,分别是P6和P7。新起点开发板的P6扩展口与LCD屏的管脚复用,故本次实验采用P7扩展口来连接双目OV5640摄像头。P7扩展口原理图如图 55.3.1所示:
图 55.3.1 P7扩展接口原理图
ATK-Dual-OV5640是正点原子推出的一款双目OV5640摄像头模块,其硬件原理图如下图所示:
图 55.3.2 ATK-Dual-OV5640原理图
该模块通过2*20排母(2.54mm间距)同外部连接,连接时将双目摄像头的排母直接插在开发板上的P7扩展口即可,模块实物连接图如图 55.3.3所示:
图 55.3.3 双目摄像头模块实物连接图
由于LCD接口和SDRAM引脚数目较多且在前面相应的章节中已经给出它们的管脚列表,这里只列出双目摄像头相关管脚分配,如下表所示:
表 55.3.1 OV5640摄像头管脚分配
双目摄像头TCL约束文件如下:
- set_location_assignment PIN_L7 -to cam0_data[7]
- set_location_assignment PIN_L6 -to cam0_data[5]
- set_location_assignment PIN_K5 -to cam0_data[3]
- set_location_assignment PIN_K6 -to cam0_data[1]
- set_location_assignment PIN_F3 -to cam0_rst_n
- set_location_assignment PIN_G5 -to cam0_href
- set_location_assignment PIN_M6 -to cam0_vsync
- set_location_assignment PIN_N3 -to cam0_pclk
- set_location_assignment PIN_L3 -to cam0_data[6]
- set_location_assignment PIN_L4 -to cam0_data[4]
- set_location_assignment PIN_K8 -to cam0_data[2]
- set_location_assignment PIN_G1 -to cam0_data[0]
- set_location_assignment PIN_J6 -to cam0_sda
- set_location_assignment PIN_F1 -to cam0_scl
- set_location_assignment PIN_J1 -to cam0_pwdn
- set_location_assignment PIN_A2 -to cam1_pwdn
- set_location_assignment PIN_B5 -to cam1_data[7]
- set_location_assignment PIN_B6 -to cam1_data[5]
- set_location_assignment PIN_B7 -to cam1_data[3]
- set_location_assignment PIN_A4 -to cam1_data[1]
- set_location_assignment PIN_D3 -to cam1_rst_n
- set_location_assignment PIN_C6 -to cam1_href
- set_location_assignment PIN_E5 -to cam1_vsync
- set_location_assignment PIN_A3 -to cam1_pclk
- set_location_assignment PIN_A5 -to cam1_data[6]
- set_location_assignment PIN_A6 -to cam1_data[4]
- set_location_assignment PIN_B3 -to cam1_data[2]
- set_location_assignment PIN_B4 -to cam1_data[0]
- set_location_assignment PIN_F5 -to cam1_sda
- set_location_assignment PIN_D6 -to cam1_scl
复制代码
55.4程序设计
根据实验任务,首先设计如图 55.4.1所示的系统框图,本章实验的系统框架延续了“OV5640摄像头LCD显示实验”的整体架构,但是做出了一定的修改,在本节实验中我们将寄存器配置模块、IIC驱动模块以及图像采集模块封装成了一个模块(OV5640驱动模块),并且对OV5640驱动模块例化了两次(因为是双目摄像头,所以需要例化两次来分别驱动两个摄像头)。整个工程包含以下5个模块:时钟模块、图像分辨率设置模块、SDRAM控制器模块、摄像头驱动模块(例化两次)和LCD顶层模块。其中时钟模块、图像分辨率设置模块和摄像头驱动模块没有做任何修改,这些模块在单目OV5640摄像头LCD显示实验中已经说明过,这里不再详述,本次实验对SDRAM控制模块和LCD顶层模块做了修改。
图 55.4.1 顶层系统框图
时钟模块(pll):时钟模块通过调用锁相环 IP核实现,共输出3路时钟,分别是SDRAM参考时钟(100Mhz)、SDRAM相位偏移时钟(100Mhz偏移120度,这个偏移角度可以适当调整。)和LCD驱动时钟(50Mhz)。其中SDRAM参考时钟不仅仅用来驱动SDRAM顶层模块还作为摄像头驱动模块的工作时钟来用。
图像分辨率设置模块(picture_size):图像尺寸配置模块用于配置摄像头输出图像尺寸的大小,此外还完成了SDRAM的读写结束地址设置。有关图像分辨率设置模块的详细介绍请大家参考单目OV5640摄像头LCD显示实验章节。
LCD顶层模块(lcd_rgb_top):LCD顶层模块负责驱动LCD屏的驱动信号的输出,同时为其他模块提供屏体参数、场同步信号和数据请求信号。
摄像头驱动模块(ov5640_dri):本模块由原先的IIC驱动模块、OV5640 寄存器配置模块和摄像头图像采集模块封装而成,这样做是为了减少顶层模块的代码量,增强可读性,同时有利于代码的维护和管理。由于本次实验连接了两个相同的摄像头,因此我们会对摄像头驱动模块例化两次,将两个驱动模块输出的数据和数据有效使能全部连接到SDRAM控制模块。有关摄像头驱动模块的详细介绍请大家参考单目OV5640摄像头LCD显示实验章节。
SDRAM控制模块(sdram_top):SDRAM读写控制器模块负责驱动SDRAM片外存储器,缓存图像传感器输出的图像数据。该模块将SDRAM复杂的读写操作封装成类似FIFO的用户接口,非常方便用户的使用。
下面是顶层模块的原理图:
图 55.4.2 顶层模块原理图
本次实验是在单目OV5640摄像头LCD显示实验的基础上作修改的,主要修改了SDRAM控制模块和LCD顶层模块,而其余模块基本相同,因此接下来只介绍修改部分的内容。前面的实验,使用读写各一个FIFO,并在SDRAM中开辟了两个缓冲区,而本实验有两个摄像头,所以读写需要各增加一个FIFO,总共四个,同时在SDRAM中再开辟两个缓冲区,达到四个缓冲区,而满足两组摄像头数据的处理需要。
下面我们就一起来看看本节实验在单目OV5640摄像头LCD显示实验的基础上作了哪些修改。首先我们先看下顶层模块,
顶层模块最大的改变就是摄像头驱动模块了,代码如下(只贴出修改部分):
- 125 //OV5640 0摄像头驱动
- 126 ov5640_dri u0_ov5640_dri(
- 127 .clk (clk_100m),
- 128 .rst_n (rst_n),
- 129
- 130 .cam_pclk (cam0_pclk ),
- 131 .cam_vsync (cam0_vsync),
- 132 .cam_href (cam0_href ),
- 133 .cam_data (cam0_data ),
- 134 .cam_rst_n (cam0_rst_n),
- 135 .cam_pwdn (cam0_pwdn ),
- 136 .cam_scl (cam0_scl ),
- 137 .cam_sda (cam0_sda ),
- 138
- 139 .capture_start (sdram_init_done),
- 140 .cmos_h_pixel (cmos_h_pixel[12:1]),
- 141 .cmos_v_pixel (cmos_v_pixel),
- 142 .total_h_pixel (total_h_pixel),
- 143 .total_v_pixel (total_v_pixel),
- 144 .cam_init_done (cam_init_done_0),
- 145
- 146 .cmos_frame_vsync (),
- 147 .cmos_frame_href (),
- 148 .cmos_frame_valid (wr0_en),
- 149 .cmos_frame_data (wr0_data)
- 150 );
复制代码
摄像头驱动模块将原本的IIC驱动模块、OV5640 寄存器配置模块和摄像头图像采集模块封装成一个模块,这部分内容没什么好讲的,无非就是把端口封装一下用一个顶层模块去调用三个子模块而已。这里需要注意的是代码第140行,cmos_h_pixel是指LCD显示屏的行分辨率,在前面单目OV5640摄像头LCD显示实验中它是直接作为ov5640摄像头的行分辨率配置参数,但是本节实验不行,因为本节实验是双目,两个摄像头两幅画面需要显示在一个屏幕上,因此一个摄像头所占有的行分辨率只能是LCD显示屏行分辨率的一半,所以cmos_h_pixel这个参数需要除以2作为摄像头的行分辨率配置参数(cmos_h_pixel[12:1]这种写法相当于除以2)。
接下来我们再继续看看SDRAM控制器修改的内容。SDRAM控制器主要是修改了sdram_fifo_ctrl模块,这个模块是控制着整个SDRAM的读和写。在前面单目OV5640摄像头LCD显示实验中我们的读写原理是在SDRAM中开辟两个存储空间,一个空间正在缓存数据另一个空间就可以往外读出数据,这样交替使用。但是本节实验使用的是双目摄像头,有两个数据源,因此原本的两个存储空间肯定是不够用的,所以我们在原本的基础上将两个存储空间都扩大成四个存储空间,这样就可以容纳两个摄像头的数据了代码如下:
由于FIFO控制模块代码太长,因此我一段一段的讲解,上面这段代码就是读写地址控制,相比较于单目摄像头LCD显示实验可以看到读写地址都增加了一帧的空间。代码200~235行跟之前的单目一样就是在SDRAM中开辟一个空间用来存储一帧图片,写满一帧后BANK地址切换继续写下一帧,但是本节是经验就不一样了,代码237~272行又开辟了一帧的存储空间,这一帧的存储空间跟上一帧不在同一BANK上。像这样开辟两帧的空间刚好可以用来分别存储两个摄像头的数据,当两个摄像头的数据都各存一帧后就可以切换BANK继续去存储两个摄像头下一帧的数据了。接下来就进入读地址了,读地址和写地址是相对应的,当写地址完成一个BANK的数据存储切换到下一个BANK后,读地址开始去读这个已经存储了数据的BANK,当写地址写完下一个BANK又切换回来则读地址切换到另一个BANK上去,这样周而复始的交替进行读写就可以实现摄像头数据的缓存了。接下来我们再来看看读写状态是如何切换的,代码如下所示:
- 326
- 327 //读写端四个FIFO的判断逻辑
- 328 always@(posedge clk_ref or negedge rst_n) begin
- 329 if(!rst_n) begin
- 330 sdram_wr_req <= 0;
- 331 sdram_wr_addr <= sdram_wr_addr0;
- 332 wr_fifo_flag <= 0;
- 333
- 334 sdram_rd_req <= 0;
- 335 rd_fifo_flag <= 0;
- 336 sdram_rd_addr <= sdram_rd_addr0;
- 337 state <= idle; //复位处于空闲状态,不操作任何FIFO
- 338 end
- 339 else begin
- 340 case(state)
- 341 idle:begin
- 342 if(sdram_init_done)
- 343 state <= sdram_done;//SDRAM初始化完成进入sdram_done状态
- 344 end
- 345 sdram_done:begin //在sdram_done状态对四个FIFO的读写操作进行判断
- 346 if(wrf_use0 >= wr_length*2) begin //进入写端FIFO0的读状态状态
- 347 sdram_wr_req <= 1;
- 348 sdram_wr_addr <= sdram_wr_addr0;
- 349 wr_fifo_flag <= 0;
- 350
- 351 sdram_rd_req <= 0;
- 352 sdram_rd_addr <= sdram_rd_addr0;
- 353 rd_fifo_flag <= 0;
- 354 state <= wr_keep;
- 355
- 356 end
- 357
- 358 else if(wrf_use1 >= wr_length*2) begin//进入写端FIFO1的读状态状态
- 359 sdram_wr_req <= 1;
- 360 sdram_wr_addr <= sdram_wr_addr1;
- 361 wr_fifo_flag <= 1;
- 362
- 363 sdram_rd_req <= 0;
- 364 sdram_rd_addr <= sdram_rd_addr0;
- 365 rd_fifo_flag <= 0;
- 366
- 367 state <= wr_keep;
- 368 end
- 369 else if((rdf_use0 < rd_length*2)//进入读端FIFO0的写状态状态
- 370 ) begin
- 371 sdram_wr_req <= 0;
- 372 sdram_wr_addr <= sdram_wr_addr0;
- 373 wr_fifo_flag <= 0;
- 374
- 375 sdram_rd_req <= 1;
- 376 sdram_rd_addr <= sdram_rd_addr0;
- 377 rd_fifo_flag <= 0;
- 378 state <= rd_keep;
- 379 end
- 380 else if((rdf_use1 < rd_length*2)//进入读端FIFO1的写状态状态
- 381 ) begin
- 382 sdram_wr_req <= 0;
- 383 sdram_wr_addr <= sdram_wr_addr0;
- 384 wr_fifo_flag <= 0;
- 385
- 386 sdram_rd_req <= 1;
- 387 sdram_rd_addr <= sdram_rd_addr1;
- 388 rd_fifo_flag <= 1;
- 389 state <= rd_keep;
- 390 end
- 391 end
- 392 wr_keep:begin
- 393 if(write_done_flag) begin //保持写状态
- 394 sdram_wr_req <= 0;
- 395 sdram_wr_addr <= sdram_wr_addr0;
- 396 wr_fifo_flag <= 0;
- 397 state <= sdram_done;
- 398 end
- 399 end
- 400 rd_keep:begin
- 401 if(read_done_flag) begin //保持读状态
- 402 sdram_rd_req <= 0;
- 403 sdram_rd_addr <= sdram_rd_addr0;
- 404 rd_fifo_flag <= 0;
- 405 state <= sdram_done;
- 406 end
- 407 end
- 408 default : state <= idle; //默认停在空闲状态
- 409 endcase
- 410 end
- 411 end
- 412
复制代码
上面这段代码就是读写切换了,在前文我们说到这次我们在一个BANK上开辟了两帧数据大小的存储空间,用来分别存储两个摄像头的数据,所以在写SDRAM这端我们添加了两个写FIFO,两个摄像头的数据分别往自己的FIFO中写入数据,而当FIFO中存储的数据量大于2倍突发长度时就会开启SDRAM写操作,将数据写入SDRAM中如代码346~368所示。这里尤其要注意的是FIFO的容量一定要大于三倍突发长度,因为两个FIFO开启SDRAM写操作的判断条件是相同的,都是存储的数据量大于2倍突发长度时就会开启,双目摄像头几乎是同时开始工作的,这也就意味着两个写FIFO几乎是同时满足开启SDRAM写操作的判断条件(虽然宏观上几乎同时,但是肯定是有一个先一个后的),这就意味着其中一个FIFO满足条件后先开启SDRAM写操作,开启后状态机跳转到保持状态如代码354行和367行所示,这个时候必须完成一次突发长度的写操作才能跳出保持状态,那么另外一个FIFO此时的数据也已经超过了2倍突发长度,它必须等待当前FIFO完成写操作后,它才能开启SDRAM写操作,所以他要有足够的缓冲容量来等待当前FIFO完成写操作。因此我们将FIFO的容量设置为2048,刚好是四倍突发长度,有足够的缓冲容量来等待。
讲完了写再来看看读操作,如代码369~391行所示,其实读跟写完全是一模一样的机制,都是当读FIFO中存储的数据不满足两倍突发长度就开启SDRAM读操作,同样其中一个开启另一个就需要等待。
明白了SDRAM控制器的运行机制之后我们再来看看FIFO的例化,代码如下:
- 413 //例化写端口FIFO0
- 414 wrfifo u_wrfifo0(
- 415 //用户接口
- 416 .wrclk (clk_write0), //写时钟
- 417 .wrreq (wrf_wrreq0), //写请求
- 418 .data (wrf_din0), //写数据
- 419 //sdram接口
- 420 .rdclk (clk_ref), //读时钟
- 421 .rdreq (sdram_wr_ack0), //读请求
- 422 .q (sdram_din0), //读数据
- 423
- 424 .rdusedw (wrf_use0), //FIFO中的数据量
- 425 .aclr (~rst_n | wr_load_flag) //异步清零信号
- 426 );
- 427
- 428 //例化写端口FIFO1
- 429 wrfifo u_wrfifo1(
- 430 //用户接口
- 431 .wrclk (clk_write1), //写时钟
- 432 .wrreq (wrf_wrreq1), //写请求
- 433 .data (wrf_din1), //写数据
- 434 //sdram接口
- 435 .rdclk (clk_ref), //读时钟
- 436 .rdreq (sdram_wr_ack1), //读请求
- 437 .q (sdram_din1), //读数据
- 438
- 439 .rdusedw (wrf_use1), //FIFO中的数据量
- 440 .aclr (~rst_n | wr_load_flag) //异步清零信号
- 441 );
- 442
- 443 //例化读端口FIFO0
- 444 rdfifo u_rdfifo1(
- 445 //sdram接口
- 446 .wrclk (clk_ref), //写时钟
- 447 .wrreq (sdram_rd_ack1), //写请求
- 448 .data (sdram_dout1), //写数据
- 449
- 450 //用户接口
- 451 .rdclk (clk_read), //读时钟
- 452 .rdreq (rdf_rdreq1), //读请求
- 453 .q (rdf_dout1), //读数据
- 454
- 455 .wrusedw (rdf_use1), //FIFO中的数据量
- 456 .aclr (~rst_n | rd_load_flag) //异步清零信号
- 457 );
- 458 //例化读端口FIFO1
- 459 rdfifo u_rdfifo0(
- 460 //sdram接口
- 461 .wrclk (clk_ref), //写时钟
- 462 .wrreq (sdram_rd_ack0), //写请求
- 463 .data (sdram_dout0), //写数据
- 464
- 465 //用户接口
- 466 .rdclk (clk_read), //读时钟
- 467 .rdreq (rdf_rdreq0), //读请求
- 468 .q (rdf_dout0), //读数据
- 469
- 470 .wrusedw (rdf_use0), //FIFO中的数据量
- 471 .aclr (~rst_n | rd_load_flag) //异步清零信号
- 472 );
- 473 endmodule
复制代码
FIFO例化是一个FIFO IP核被例化两次,当两个FIFO来用。SDRAM控制模块的代码到这里就讲完了,为了方便大家更好的去理解整个状态的跳转,下面给出了FIFO控制模块的原理示意图:
图 55.4.3 FIFO控制模块原理图
从上图中来分析FIFO控制模块的运行机制就简单的多了,双目摄像头分别往两个FIFO中写数据,FIFO数据存满两个突发长度后,其中FIFO1会交替往SDRAM的BANK0和BANK1中写数据,而FIFO2会交替往SDRAM的BANK2和BANK3中写数据,一个FIFO对应一个摄像头。读FIFO也一样,一个FIFO对应一个摄像头,比如“读FIFO1”它对应摄像头1,因此它就不断交替的从BANK0和BANK1的“空间”中读取数据,“读FIFO2”就不断从两个BANK2和BANK3的“空间”中读取数据,读取出来的数据最终传输到LCD显示屏上去显示,一个读FIFO的数据只占半个屏幕,这样两个摄像头的数据就能在同一个屏幕上一左一右的显示出来了。FIFO控制模块的整个运行机制就是这样的。
最后我们再来看看LCD显示模块作了哪些修改,修改代码如下:
其实LCD显示部分主要就是加了一个字符显示,因为我们的两个摄像头是一左一右显示在LCD屏幕上的,为了确定哪个摄像头显示在哪边我们会在显示画面上标注“OV5640 1”和“OV5640 2”字样。所以我们在LCD显示部分中加入了字符显示模块(lcd_disply)。代码30~139行就是生成“OV5640 1”和“OV5640 2”这两个字符串的字模,代码142~163行就是把“OV5640 1”和“OV5640 2”这两个字符串显示到屏幕上去。具体的显示原理这里就不再详细介绍了,如果大家有不懂的可以去看前面LCD字符显示实验和RTC实时时钟显示实验。
到这里本节双目摄像头LCD显示实验的程序设计部分就讲解完了,接下来就可以把程序下载到开发板上去验证了。
55.5下载验证
首先我们将双目摄像头插到开发板的P7扩展口,然后连接LCD显示屏,最后打开电源,下载sof文件到开发板上去,硬件连接图如下所示:
图 55.5.1 硬件连接
显示的效果如上图所示。 |