CN108605148B - 视频显示系统 - Google Patents
视频显示系统 Download PDFInfo
- Publication number
- CN108605148B CN108605148B CN201780009524.9A CN201780009524A CN108605148B CN 108605148 B CN108605148 B CN 108605148B CN 201780009524 A CN201780009524 A CN 201780009524A CN 108605148 B CN108605148 B CN 108605148B
- Authority
- CN
- China
- Prior art keywords
- image
- synthesized
- display
- display device
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 12
- 230000005540 biological transmission Effects 0.000 claims description 30
- 238000009877 rendering Methods 0.000 claims description 8
- 238000003672 processing method Methods 0.000 claims description 6
- 238000004891 communication Methods 0.000 description 21
- 238000010586 diagram Methods 0.000 description 12
- 210000003128 head Anatomy 0.000 description 9
- 230000003287 optical effect Effects 0.000 description 9
- 238000000034 method Methods 0.000 description 7
- 230000006870 function Effects 0.000 description 5
- 239000002131 composite material Substances 0.000 description 3
- 238000005401 electroluminescence Methods 0.000 description 2
- 230000033001 locomotion Effects 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 210000001525 retina Anatomy 0.000 description 1
- 230000002207 retinal effect Effects 0.000 description 1
- 230000004270 retinal projection Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/25—Management operations performed by the server for facilitating the content distribution or administrating data related to end-users or client devices, e.g. end-user or client device authentication, learning user preferences for recommending movies
- H04N21/266—Channel or content management, e.g. generation and management of keys and entitlement messages in a conditional access system, merging a VOD unicast channel into a multicast channel
- H04N21/2662—Controlling the complexity of the video stream, e.g. by scaling the resolution or bitrate of the video stream based on the client capabilities
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/39—Control of the bit-mapped memory
- G09G5/391—Resolution modifying circuits, e.g. variable screen formats
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/0093—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 with means for monitoring data relating to the user, e.g. head-tracking, eye-tracking
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B27/0172—Head mounted characterised by optical features
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/02—Viewing or reading apparatus
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/003—Details of a display terminal, the details relating to the control arrangement of the display terminal and to the interfaces thereto
- G09G5/006—Details of the interface to the display terminal
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
- G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
- G09G5/37—Details of the operation on graphic patterns
- G09G5/377—Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/234—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs
- H04N21/23418—Processing of video elementary streams, e.g. splicing of video streams or manipulating encoded video stream scene graphs involving operations for analysing video streams, e.g. detecting features or characteristics
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
- H04N7/183—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0101—Head-up displays characterised by optical features
- G02B2027/0147—Head-up displays characterised by optical features comprising a device modifying the resolution of the displayed image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/0407—Resolution change, inclusive of the use of different resolutions for different screen areas
- G09G2340/0428—Gradation resolution change
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2340/00—Aspects of display data processing
- G09G2340/04—Changes in size, position or resolution of an image
- G09G2340/045—Zooming at least part of an image, i.e. enlarging it or shrinking it
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2350/00—Solving problems of bandwidth in display systems
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2360/00—Aspects of the architecture of display systems
- G09G2360/18—Use of a frame buffer in a display terminal, inclusive of the display panel
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G2370/00—Aspects of data communication
- G09G2370/04—Exchange of auxiliary data, i.e. other than image data, between monitor and graphics controller
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G3/00—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
- G09G3/001—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background
- G09G3/003—Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes using specific devices not provided for in groups G09G3/02 - G09G3/36, e.g. using an intermediate record carrier such as a film slide; Projection systems; Display of non-alphanumerical information, solely or in combination with alphanumerical information, e.g. digital display on projected diapositive as background to produce spatial visual effects
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Computer Hardware Design (AREA)
- Optics & Photonics (AREA)
- Databases & Information Systems (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Controls And Circuits For Display Device (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Image Processing (AREA)
- Transforming Electric Information Into Light Information (AREA)
Abstract
一种视频显示系统具有:使用时穿戴在用户头部上的显示设备(40),生成并传输多个预合成图像给显示设备(40)的图像处理设备(10),预合成图像被显示设备(40)用于显示,并且具有相互不同的分辨率。显示设备(40)接收由图像处理设备(10)传输的多个预合成图像,并且显示通过合成多个预合成图像得到的显示图像。
Description
技术领域
本发明涉及在穿戴在用户头部上以供使用的显示设备上显示视频的视频显示系统、图像处理设备和包含在视频显示系统中的显示设备、图像处理方法和程序。
背景技术
一种称为“中心凹形呈现”的已知技术在图像中以比感兴趣区域外部更高的分辨率呈现感兴趣区域(估计要被用户注视的区域)。该技术使通过以比图像完全地以高分辨率呈现时更低的处理负荷以高分辨率呈现感兴趣区域成为可能。
发明内容
[技术问题]
当上面的技术被使用时,最终显示在显示设备上的图像需要完全地处于与感兴趣区域的分辨率一致的高分辨率。另外,理想的是,穿戴在用户头部上以供使用的显示设备(诸如头戴式显示器)以相对高的帧速率显示视频。为了以高分辨率且以如上所述的高帧速率显示视频,用于生成显示图像的图像处理设备需要以高数据传输速率将图像数据传输给显示设备。
本发明是鉴于上述情况做出的。本发明的目的是提供一种在显示设备显示表示高分辨率的感兴趣区域的图像时能够相对地减少数据传输量的视频显示系统、图像处理设备、显示设备、图像处理方法以及程序。
[解决方案]
根据本发明的视频显示系统包括穿戴在用户头部上以供使用的显示设备,以及用于提供要被显示在显示设备上的视频的图像处理设备。图像处理设备包括图像生成部分和传输部分。图像生成部分生成要被显示设备用于显示的、具有不同分辨率的多个未合成图像。传输部分将每个未合成图像传输给显示设备。显示设备包括接收部分和显示控制部分。接收部分接收从图像处理设备传输的未合成图像。显示控制部分显示通过合成未合成图像得到的显示图像。
根据本发明的图像处理设备将视频提供给穿戴在用户头部上以供使用的显示设备。图像处理设备包括图像生成部分和传输部分。图像生成部分生成要被合成以获得将要显示在显示设备上的显示图像的、具有不同分辨率的多个未合成图像。传输部分将每个未合成图像传输给显示设备。
根据本发明的显示设备穿戴在用户头部上以供使用,并且连接到将视频提供给显示设备的图像处理设备。显示设备包括接收部分和显示控制部分。接收部分接收从图像处理设备传输的且分辨率不同的多个未合成图像。显示控制部分显示通过合成未合成图像获得的显示图像。
根据本发明的图像处理方法用于将视频提供给穿戴在用户头部上以供使用的显示设备。图像处理方法包括:生成要被合成以获得将要显示在显示设备上的显示图像的、具有不同分辨率的多个未合成图像的步骤;以及将每个未合成图像传输给显示设备的步骤。
根据本发明的程序控制将视频提供给穿戴在用户头部上以供使用的显示设备的图像处理设备。该程序使图像处理设备起图像生成部分和传输部分的作用。图像生成部分生成要被合成以获得将要显示在显示设备上的显示图像的、具有不同分辨率的多个未合成图像。传输部分将每个未合成图像传输给显示设备。该程序可通过存储在计算机可读的、非暂时性的信息存储介质中来提供。
附图说明
图1是示出根据本发明的实施例的视频显示系统的整体配置的框图。
图2是示出根据本发明的实施例的视频显示系统实现的功能的功能性框图。
图3是示出整体图像P0的例子的图。
图4是示出第一部分图像P1的例子的图。
图5是示出第二部分图像P2的例子的图。
图6是示出从图像处理设备传输到显示设备的数据的内容的图。
图7是示出要被显示在显示设备上的帧图像的例子的图。
图8是示出由视频显示系统执行的处理流程的例子的序列图。
图9是示出帧图像内未合成图像之间的典型位置关系的图。
具体实施方式
现在将参考附图描述本发明的实施例。
图1是示出根据本发明的实施例的视频显示系统1的整体配置的框图。如图1所示,视频显示系统1包括图像处理设备10、操作设备20、中继设备30和显示设备40。
图像处理设备10生成并提供将要被显示设备40显示的图像。图像处理设备10可以是,例如,家用游戏机、便携式游戏机、个人计算机、智能手机或平板电脑。如图1所示,图像处理设备10包括控制部分11、存储部分12和接口部分13。
控制部分11包含至少一个处理器,例如中央处理单元(CPU),并且执行存储在存储部分12中的程序以完成各种信息处理。在本实施例中由控制部分11完成的处理的具体例子将在后面描述。存储部分12包括至少一个存储设备,例如随机存取存储器(RAM),并且存储要被控制部分11执行的程序和要被程序处理的数据。
接口部分13是用于操作设备20和中继设备30之间数据通信的接口。图像处理设备10通过接口部分13有线连接或无线地连接到操作设备20和中继设备30。更具体地,接口部分13可包含高清晰度多媒体接口(HDMI)(注册商标)或其它多媒体接口,以便将从图像处理设备10提供的视频和音频传输到中继设备30。此外,接口部分13包含蓝牙(注册商标)、通用串行总线(USB)或其它数据通信接口。通过数据通信接口,图像处理设备10经由中继设备30从显示设备40接收各种信息,并且传输例如控制信号。此外,图像处理设备10通过数据通信接口从操作设备20接收操作信号。
操作设备20是例如用于家用游戏机的控制器或键盘,并且从用户接收操作输入。操作设备20将表示从用户接收到的操作输入的内容的信号传输给图像处理设备10。
中继设备30连接到显示设备40。中继设备30接收从图像处理设备10提供的图像数据,并且将接收到的图像数据传输给显示设备40。在本实例中,例如,中继设备30可根据需要在提供的图像数据上执行校正处理,以消除由显示设备40的光学系统引起的失真,并且输出校正的图像数据。此外,除了图像数据,中继设备30中继音频数据、控制信号以及在图像处理设备10和显示设备40之间交换的各种其它信息。本实施例假设中继设备30无线地向显示设备40传输数据和从显示设备40接收数据。
显示设备40基于从中继设备30接收到的图像数据显示视频,以便允许用户观看所显示的视频。本实施例假定显示设备40穿戴在用户头部上以供使用,并适于允许双眼观看视频。也就是说,显示设备40在用户的右眼和左眼的每个前面形成视频图像。显示设备40可以被配置以便能够基于双目视差显示三维视频图像。如图1所示,显示设备40包括处理单元41、通信接口42、缓冲存储器43、视频显示元件44、光学元件45以及后置相机46。
处理单元41包括例如集成电路,基于通过中继设备30从图像处理设备10接收到的图像数据生成帧图像(显示图像),并将生成的帧图像提供给视频显示元件44。通过以预定帧速率重复该处理,处理单元41使视频显示元件44显示视频。
通信接口42被用来建立与中继设备30的数据通信。通信接口42包括例如用于无线通信的天线和通信电路。由通信接口42从中继设备30接收到的图像数据暂时存储在缓冲存储器43中。处理单元41基于存储在缓冲存储器43中的图像数据生成帧图像。
视频显示元件44例如是有机电致发光(EL)显示面板或液晶显示面板,并且基于从处理单元41提供的视频信号来显示视频。视频显示元件44显示两个视频图像,即左眼视频图像和右眼视频图像。视频显示元件44可以是用于并排显示左和右眼视频图像的单个显示元件,或者是用于在独立的基础上显示视频图像的两个显示元件。此外,例如,公知的智能手机可被用作视频显示元件44。此外,显示设备40可以是将视频图像直接投射到用户视网膜上的视网膜辐照(视网膜投影)显示设备。在这种情况下,视频显示元件44可以包括例如发射光的激光器和扫描发射光的微电子机械系统(MEMS)反射镜。
光学元件45例如是全息光学元件、棱镜或半反射镜。光学元件45设置在用户的眼睛前面,透射或折射从视频显示元件44发射的视频光,并使视频光入射到用户的左和右眼。更具体地,由视频显示元件44显示的左眼视频图像通过光学元件45入射到用户的左眼,并且右眼视频图像通过光学元件45入射到用户的右眼上。利用穿戴在用户头部上的显示设备40,用户能够用左眼观看左眼视频图像,并且用右眼观看右眼视频图像。
后置相机46被设置以便能够从显示设备40捕获后视图像(即,捕获用户的图像),并用来捕获用户的左和右眼的每一个的图像。由后置相机46捕获的图像通过中继设备30传输到图像处理设备10。
现在将参照图2描述由视频显示系统1实现的功能。如图2所示,图像处理设备10功能性地包括兴趣点识别部分51、图像生成部分52和图像数据传输部分53。当控制部分11执行存储在存储部分12中的程序时,这些功能被实现。程序可以通过诸如因特网的通信网络提供给图像处理设备10,或通过存储在诸如光盘的计算机可读信息存储介质提供。同时,显示设备40中的处理单元41功能性地包括时序控制部分54、图像数据选择部分55和显示控制部分56。这些功能中的一些或全部可以由软件实现或由诸如电子电路的硬件实现。
兴趣点识别部分51识别由用户使用显示设备40注视的显示区域内的位置(兴趣点)。更具体地,兴趣点识别部分51从显示设备40获取由后置相机46捕获的图像,并分析所获取的捕获图像以识别用户的注视方向。兴趣点是显示区域内与注视方向相对应的位置。
图像生成部52生成要在显示设备40上显示的图像。作为具体的例子,这里假设由图像生成部分52绘制的图像描绘了布置了各种对象的三维虚拟空间。然而,图像生成部分52不限于上述类型,并且可以绘制各种其它图像。此外,为了简单起见,假设显示设备40显示相同的帧图像作为左眼图像和右眼图像。然而,根据本实施例的视频显示系统1可以将不同的帧图像显示为左和右眼图像,以实现基于视差的三维显示。在这种情况下,图像处理设备10和显示设备40应该并行地对左和右帧图像中的每一个执行下述的处理。
在本实施例中,图像生成部分52为要被显示在显示设备40上的一帧图像生成多个具有不同分辨率的图像。这些图像用这种方式以不同的分辨率绘制相同的目标:分辨率越高,绘制区域越小。如下所述,这些图像在显示设备40中被合成一帧图像,并由视频显示元件44显示。由图像生成部分52生成并最终合成为一帧图像的图像在下文中被称为未合成图像。此外,作为具体的例子,在下文中假设图像生成部分52生成三个不同的未合成图像。按从最低分辨率到最高的顺序,三个不同的未合成图像是整体图像P0、第一部分图像P1和第二部分图像P2。
图3、4和5是示出三种不同的未合成图像的例子的图。如图3所示,整体图像P0在以低于第一部分图像P1和第二部分图像P2的分辨率在显示设备40的整个显示区域中显示的假设下被显示。同时,如图4所示,通过在整体图像P0中以比整体图像P0更高的分辨率绘制部分区域来获得第一部分图像P1。通过以甚至比第一部分图像P1更高的分辨率绘制小于第一部分图像P1的部分区域来获得图5所示的第二部分图像P2。假设第二部分图像P2以与显示设备40上实际显示的帧图像相同的分辨率被显示。
根据兴趣点识别部分51所识别的兴趣点来确定要绘制为第一部分图像P1和第二部分图像P2的区域。更具体地,通过绘制在整体图像P0内围绕兴趣点为中心的区域来获得部分图像。例如,如果穿戴显示设备40的用户注视显示区域中心的右上方的点,则通过绘制整体图像P0中的右上区域来获得第一部分图像P1和第二部分图像P2。图4和5示出了兴趣点位于整体图像P0的中心的情况,并且每个部分图像对应于整体图像P0的中心区域。
如上所述,由图像生成部分52绘制的未合成图像是这样的:目标区域越大,分辨率越低。因此,在整体图像P0、第一部分图像P1和第二部分图像P2中的数据总量小于最终显示的帧图像中的数据量(即,通过以与第二部分图像P2相同的分辨率绘制整体图像P0所覆盖的整个区域获得的图像)。
图像数据传输部分53将由图像生成部分52生成的未合成图像传输给中继设备30。在这种情况下,图像数据传输部分53在它们未合成时分别传输整体图像P0、第一部分图像P1和第二部分图像P2。这确保了为了显示一帧图像而从图像处理设备10传输到显示设备40的数据量小于当高分辨率、合成的帧图像被传输时的数据量。
在本实施例中,不是生成未合成图像的图像处理设备10,而是显示设备40合成未合成图像以生成要被实际显示的帧图像。因此,假设图像数据传输部分53连同未合成图像数据一起传输附加信息。附加信息包括指示显示设备40应如何合成未合成图像的各种信息项。
更具体地,在传输未合成图像之前,图像数据传输部分53将指示帧图像内未合成图像的位置的附加信息、帧图像内未合成图像的大小、放大率以及处理未合成图像所需的其它参数附加到每一个未合成图像。图6是示出从图像数据传输部分53传输的数据的内容的示意图。图6示出了附加到未合成图像上的上述附加信息。图6中的主导坐标是指示帧图像内未合成图像的位置的附加信息的例子。主导坐标表示帧图像内未合成图像的左上像素的位置坐标。
从图像数据传输部分53传输的图像数据通过中继设备30输入到显示设备40。显示设备40的通信接口42从中继设备30接收未合成图像数据,并将接收到的未合成图像数据临时存储在缓冲存储器43中。缓冲存储器43按原样存储通信接口42接收到的未合成图像数据。因此,缓冲存储器43不需要具有足够的容量来存储由视频显示元件44显示的一帧图像的全部。
时序控制部分54向图像数据选择部分55和显示控制部分56提供用于控制帧图像显示的时序的同步信号。图像数据选择部分55和显示控制部分56以从时序控制部分54提供的同步信号中导出的时序运行,从而彼此同步地执行处理。
图像数据选择部分55和显示控制部分56合作来执行合成从图像处理设备10接收到的未合成图像并生成要被显示的帧图像的处理。更具体地,图像数据选择部分55确定用于确定帧图像中每个像素的像素值的未合成图像。基本上,图像数据选择部分55从覆盖感兴趣的像素位置的未合成图像中选择最高分辨率的未合成图像,并使用所选择的最高分辨率的未合成图像。例如,对于在帧图像的中心对应于第二部分图像P2的区域内的像素,选择并使用第二部分图像P2。相反地,对于未被第一部分图像P1和第二部分图像P2所覆盖的帧图像的外围区域,选择并使用整体图像P0。图像数据选择部分55参照由图像数据传输部分53与未合成图像一起传输的附加信息中包含的位置和大小信息做出上述选择。然后,对于帧图像中的每个像素,图像数据选择部分55从缓冲存储器43中读取所选的未合成图像中对应像素上的像素值信息,并将读取的像素值信息输出到显示控制部分56。
根据由图像数据选择部分55选择的未合成图像上的图像数据,显示控制部分56确定帧图像中的每个像素的像素值。然后,显示控制部分56向视频显示元件44提供用于显示包括确定的像素值的帧图像的视频信号。因此,视频显示元件44能够显示通过合成未合成图像获得的帧图像。在合成未合成图像之前,显示控制部分56放大低分辨率的未合成图像。这种放大的放大率由例如图6所示的附加信息中的放大率参数确定。
当合成不同的未合成图像时,显示控制部分56可以这种方式执行图像处理,例如,使未合成图像之间的边界模糊和难以区分。当要执行这样的图像处理时,可以通过使用从图像数据传输部分53传输的附加信息中包含的参数来确定图像处理的细节。
图7示出了通过合成图3至5中示例的三个不同的未合成图像获得的帧图像的例子。帧图像具有与第二部分图像P2相同的分辨率作为整体;然而,图像的外围部分通过放大低分辨率的整体图像P0获得。同时,基于高分辨率的第二部分图像P2生成估计要被用户注视的区域。因此,用户感觉到帧图像以高分辨率显示。
现在将参照图8的流程图描述由视频显示系统1执行的来显示一帧图像的过程的流程。
首先,显示设备40将由后置相机46捕获的图像传输到图像处理设备10(步骤S1)。然后,图像处理设备中的兴趣点识别部分51通过使用在步骤S1中传输的捕获图像识别用户的兴趣点(步骤S2)。
接下来,图像生成部分52通过使用步骤S2中识别出的兴趣点上的信息生成三个不同的未合成图像(步骤S3)。随后。图像数据传输部分53将附加信息附加到生成的三个不同的未合成图像上,并且将由此生成的图像的组合和附加信息传输给显示设备40(步骤S4)。
显示设备40的通信接口42将步骤S4中传输的未合成图像上的图像数据存储在缓冲存储器43中(步骤S5)。然后,处理单元41通过合成步骤S5中存储在缓冲存储器43中的三个不同的未合成图像生成帧图像(步骤S6),并且使视频显示元件44显示生成的帧图像(步骤S7)。
视频显示系统1通过重复执行上述处理来更新帧图像来显示视频。流程图假定每次帧图像被更新时,由后置相机46捕获的图像从显示设备40传输到图像处理设备10以更新兴趣点。然而,兴趣点识别部分51可以可替代地以较长的时间间隔更新兴趣点。在这种替代情况下,不需要每次更新帧图像时都传输由后置相机46捕获的图像。因此,步骤S1和S2较低频率地执行。
如上所述,根据本实施例的视频显示系统1被配置以使图像处理设备10传输具有不同分辨率的多个不同的未合成图像,以使显示设备40合成未合成图像以获得和显示帧图像。结果,与从图像处理设备10向显示设备40传输合成的帧图像的情况相比,可以减少要被传输以显示一帧图像的数据量。作为结果,即使在图像处理设备10和显示设备40之间没有提供大的通信带宽,显示设备40也能够以相对高的帧速率显示表示高分辨率感兴趣区域的视频。
上述描述假定第一部分图像P1和第二部分图像P2是具有与整体图像P0相同形状但与整体图像P0的尺寸不同的矩形图像。然而,部分图像不限于这样的形状,并且可以具有与整体显示区域不同的正方形形状、圆形形状或其它形状。此外,图像处理设备10可从多个候选中选择部分图像形状。在这种情况下,附加信息包括指定部分图像形状的信息。显示设备40参考这种附加信息,以识别帧图像的什么区域对应于接收到的部分图像。同时,整体图像P0不限于矩形形状,并且可以基于显示设备40的显示特性而具有圆形形状或其它形状。
上述描述假定帧图像内的部分图像的位置基于由用户注视的兴趣点来确定。因此,当用户的注视方向改变时,在整体图像内的部分图像的位置也相应地改变。然而,本实施例不限于这样的配置。兴趣点可以可替代地是一个固定点,例如显示区域的中心。在这种情况下,不需要兴趣点识别部分51。
上述描述假定要被合成以获得一帧图像的未合成图像包括两个部分图像。然而,可替代地,可包括一个部分图像或三个或更多部分图像。在任何情况下,可以用这样的方式(部分图像的分辨率越高,帧图像内的对应区域越小)通过确定每个部分图像的分辨率和尺寸来减少要传输的数据量。
上述描述假定在完全接收到三个未合成图像之后执行合成过程。然而,可替代地,处理单元41可以在通信接口42接收未合成图像的同时,在未合成图像的接收到的部分上执行合成过程。在这种情况下,在将未合成图像的主要部分存储在缓冲存储器43中的时候,处理单元41获取并合成所存储的部分,并将由此得到的部分作为视频信号提供给视频显示元件44。当接收到未合成图像的后续部分时,通信接口42用接收到的后续部分重写由处理单元41处理的部分,并存储由此得到的部分。当执行这种并行处理时,缓冲存储器43仅有必要具有用于存储未合成图像的某些部分的足够的容量。也就是说,缓冲存储器43不需要用于存储所有未合成图像上的全部数据的容量。
当要实现上述并行处理时,优选的是,图像数据传输部分53将每个未合成图像划分成多个传输单元(以下称为块),并在各个块的基础上传输图像数据。这里,假设一个具体的例子,处理单元41通过将帧图像中的每一个横向排列的像素行(线)作为处理单元,从最高上边线开始,并依次朝最低下边线运行,逐步生成帧图像。在这种情况下,如果兴趣点位于显示区域的中心或下方,则如图7所示,基于整体图像P0生成帧图像的最高线,从而在帧图像生成开始之后,不立即使用第一部分图像P1和第二部分图像P2上的数据。随后,当位于和超出位置坐标Y2的线要被生成时,使用整体图像P0和第一部分图像P1上的数据,并且当位于和超出位置坐标Y1的线要被生成时,需要所有未合成图像上的数据。因此,图像数据传输部分53将每个未合成图像划分成多个块,并按照帧图像合成处理所需的顺序传输各个块。在这种情况下,每个块可以对应于每个合成图像中的一个或多个横向排列的像素行。图像数据传输部分53顺序地将每个部分图像的块传输到显示设备40。更具体地,例如,图像数据传输部分53首先传输形成整体图像P0的最高部分的块(对应于位置坐标Y3到Y2的块),然后传输对应于位置坐标Y2至Y1的整体图像P0和第一部分图像P1的块,随后传输对应于和超出位置坐标Y1的每个未合成图像的块。以这种方式,显示设备40能够在接收到部分图像上的数据的同时开始生成并显示从上部开始的帧图像。
此外,在上述情况下优选的是,图像数据传输部分53根据兴趣点的变化改变各个块传输的顺序。作为具体实例,当兴趣点从中心向上移动时,第一部分图像P1和第二部分图像P2相对于整体图像P0的位置也向上移动。图9示出了在上述情况中通过合成三个不同的未合成图像而获得的帧图像的例子。当兴趣点如上所述向上移动时,与该移动之前的时间点相比,在帧图像生成开始之后,第一部分图像P1和第二部分图像P2的上部的块立即被需要。因此,当兴趣点向上移动时,优先地传输这些块。如上所述的运动控制使得无延迟地生成帧图像成为可能。
如果需要多个不同的未合成图像来在帧图像内生成一条线,则可以优先传输低分辨率的未合成图像。例如,如果在图7的例子中的位置坐标Y2到Y1之间的部分要进行合成,则基本上需要整体图像P0和第一部分图像P1的对应块。然而,优先地传输整体图像P0的对应块,然后传输对应于相同位置的第一部分图像P1的块。因此,当第一部分图像P1的对应块由于例如通信延迟而不及时传输时,使用整体图像P0使得即使在低分辨率低下也可以生成和显示帧图像成为可能。
上述描述假定图像生成部分52本身绘制描绘三维空间的未合成图像。然而,可替代地,图像生成部分52不限于上述类型,并且可以基于准备好的高分辨率图像生成未合成图像。例如,如果视频数据可用,其包括与显示设备40上要显示的帧图像具有相同分辨率的帧图像,则图像生成部分52生成具有比现有帧图像整体分辨率相当低的图像作为整体图像P0。此外,将通过裁剪帧图像的预定区域略微降低分辨率而获得的图像作为第一部分图像P1来处理,并且将通过裁剪比第一部分图像P1所用的更小的预定区域而获得的图像作为具有不变的分辨率的第二部分图像P2来处理。图像数据传输部分53将上述方式生成的每个未合成图像传输到显示设备40。因此,即使当要再现高分辨率视频时,也可以减少从图像处理设备10向显示设备40传输的图像数据的量。
上述描述假定中继设备30无线通信地连接到显示设备40。然而,本发明的实施例不限于这样的配置。可替代地,图像处理设备10可以通过各种通信链路连接到显示设备40。此外,并不总是需要中继设备30。图像处理设备10可直接地连接到显示设备40。
[参考符号列表]
1 视频显示系统
10 图像处理设备
11 控制部分
12 存储部分
13 接口部分
30 中继设备
40 显示设备
41 处理单元
42 通信接口
43 缓冲存储器
44 视频显示元件
45 光学元件
51 兴趣点识别部分
52 图像生成部分
53 图像数据传输部分
54 时序控制部分
55 图像数据选择部分
56 显示控制部分。
Claims (8)
1.一种视频显示系统,包括:
显示设备,其穿戴在用户头部上以供使用;以及
图像处理设备,其提供要被显示在所述显示设备上的视频,
其中,所述图像处理设备包括:
图像生成部分,其生成要被所述显示设备用于显示的、具有不同分辨率的多个未合成图像,以及
传输部分,其将每个所述未合成图像传输给所述显示设备,并且
所述显示设备包括:
接收部分,其接收从所述图像处理设备传输的所述未合成图像,以及
显示控制部分,其显示通过合成所述未合成图像得到的显示图像,
其中所述多个未合成图像具有不同的尺寸,并且具有兴趣点周围的重叠区域的图像信息,并且
其中所述显示图像包括每个未合成图像的至少一部分,并且分辨率低于最高分辨率的部分被放大,并且各部分之间的边界被模糊,并且
其中所述未合成图像中的数据总量小于通过以最小未合成图像的分辨率绘制最大未合成图像而获得的图像中的数据总量。
2.根据权利要求1所述的视频显示系统,其中,
所述未合成图像包括对应于所述显示图像内的部分区域的部分图像,
所述传输部分将所述部分图像和识别所述部分图像在所述显示图像内对应位置的附加信息传输到所述显示设备,并且
所述显示控制部分通过以所述部分图像对应于由所述附加信息识别的位置的这种方式,合成所述未合成图像来生成所述显示图像。
3.根据权利要求2所述的视频显示系统,其中,
所述图像处理设备还包括识别兴趣点的兴趣点识别部分,所述兴趣点在所述显示设备的显示区域内并且被用户注视,并且
所述图像生成部分以所述部分图像对应于基于所述兴趣点确定的显示图像内的位置的这种方式,生成所述部分图像。
4.根据权利要求3所述的视频显示系统,其中,
所述传输部分将每个所述未合成图像划分成多个传输单元,通过每个传输单元将图像传输给显示设备,并且根据所述兴趣点改变所述传输单元传输的顺序,所述传输单元形成每个所述未合成图像。
5.一种图像处理设备,其将视频提供给穿戴在用户头部上以供使用的显示设备,所述图像处理设备包括:
图像生成部分,其生成具有不同分辨率的多个未合成图像,所述未合成图像要被合成以获得要在所述显示设备上显示的显示图像;以及
传输部分,其将每个所述未合成图像传输给所述显示设备,
其中所述多个未合成图像具有不同的尺寸,并且具有兴趣点周围的重叠区域的图像信息,并且
其中所述显示图像包括每个未合成图像的至少一部分,并且分辨率低于最高分辨率的部分被放大,并且各部分之间的边界被模糊,并且
其中所述未合成图像中的数据总量小于通过以最小未合成图像的分辨率绘制最大未合成图像而获得的图像中的数据总量。
6.一种显示设备,其穿戴在用户头部上以供使用,并且连接到将视频提供给所述显示设备的图像处理设备,所述显示设备包括:
接收部分,其接收从所述图像处理设备传输的且分辨率不同的多个未合成图像;以及
显示控制部分,其显示通过合成所述未合成图像得到的显示图像,
其中所述多个未合成图像具有不同的尺寸,并且具有兴趣点周围的重叠区域的图像信息,并且
其中所述显示图像包括每个未合成图像的至少一部分,并且分辨率低于最高分辨率的部分被放大,并且各部分之间的边界被模糊,并且
其中所述未合成图像中的数据总量小于通过以最小未合成图像的分辨率绘制最大未合成图像而获得的图像中的数据总量。
7.一种图像处理方法,其用于将视频提供给穿戴在用户头部上以供使用的显示设备,所述图像处理方法包括:
生成要被合成以获得将要在所述显示设备上显示的显示图像的、具有不同分辨率的多个未合成图像的步骤;以及
将每个所述未合成图像传输给所述显示设备的步骤,
其中所述多个未合成图像具有不同的尺寸,并且具有兴趣点周围的重叠区域的图像信息,并且
其中所述显示图像包括每个未合成图像的至少一部分,并且分辨率低于最高分辨率的部分被放大,并且各部分之间的边界被模糊,并且
其中所述未合成图像中的数据总量小于通过以最小未合成图像的分辨率绘制最大未合成图像而获得的图像中的数据总量。
8.一种其上存储有程序的非暂时性计算机可读介质,其中所述程序由计算机执行,以用于控制将视频提供给穿戴在用户头部上以供使用的显示设备的图像处理设备,所述程序使所述图像处理设备起以下作用:
图像生成部分,其生成要被合成以获得将要在所述显示设备上显示的显示图像的、具有不同分辨率的多个未合成图像;以及
传输部分,其将每个所述未合成图像传输给所述显示设备,
其中所述多个未合成图像具有不同的尺寸,并且具有兴趣点周围的重叠区域的图像信息,并且
其中所述显示图像包括每个未合成图像的至少一部分,并且分辨率低于最高分辨率的部分被放大,并且各部分之间的边界被模糊,并且
其中所述未合成图像中的数据总量小于通过以最小未合成图像的分辨率绘制最大未合成图像而获得的图像中的数据总量。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016-022622 | 2016-02-09 | ||
JP2016022622 | 2016-02-09 | ||
PCT/JP2017/004065 WO2017138458A1 (ja) | 2016-02-09 | 2017-02-03 | 映像表示システム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108605148A CN108605148A (zh) | 2018-09-28 |
CN108605148B true CN108605148B (zh) | 2022-02-11 |
Family
ID=59563286
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201780009524.9A Active CN108605148B (zh) | 2016-02-09 | 2017-02-03 | 视频显示系统 |
Country Status (6)
Country | Link |
---|---|
US (2) | US10810701B2 (zh) |
EP (1) | EP3416392A4 (zh) |
JP (2) | JP6563043B2 (zh) |
KR (1) | KR20180102125A (zh) |
CN (1) | CN108605148B (zh) |
WO (1) | WO2017138458A1 (zh) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10672104B2 (en) * | 2014-12-22 | 2020-06-02 | Interdigital Ce Patent Holdings, Sas | Method and apparatus for generating an extrapolated image based on object detection |
EP3416392A4 (en) * | 2016-02-09 | 2019-09-18 | Sony Interactive Entertainment Inc. | VIDEO DISPLAY SYSTEM |
WO2018148565A1 (en) * | 2017-02-09 | 2018-08-16 | Wove, Inc. | Method for managing data, imaging, and information computing in smart devices |
US11240482B2 (en) * | 2017-11-21 | 2022-02-01 | Sony Corporation | Information processing device, information processing method, and computer program |
KR20210138739A (ko) * | 2019-09-27 | 2021-11-19 | 애플 인크. | 애디티브 디스플레이들을 갖는 관리 디바이스들 |
JP2021057770A (ja) * | 2019-09-30 | 2021-04-08 | 株式会社ソニー・インタラクティブエンタテインメント | 画像データ転送装置および画像圧縮方法 |
JP7491676B2 (ja) * | 2019-09-30 | 2024-05-28 | 株式会社ソニー・インタラクティブエンタテインメント | 画像データ転送装置および画像圧縮方法 |
JP7496677B2 (ja) * | 2019-09-30 | 2024-06-07 | 株式会社ソニー・インタラクティブエンタテインメント | 画像データ転送装置、画像表示システム、および画像圧縮方法 |
CN113163214A (zh) * | 2020-01-22 | 2021-07-23 | 华为技术有限公司 | 一种视频处理方法及其装置 |
TWI736328B (zh) * | 2020-06-19 | 2021-08-11 | 宏碁股份有限公司 | 頭戴式顯示裝置及應用其之畫面顯示方法 |
US20220270539A1 (en) * | 2021-02-22 | 2022-08-25 | Novatek Microelectronics Corp. | Display driver integrated circuit, image processor, and operation method thereof |
CN117378002A (zh) | 2021-06-03 | 2024-01-09 | 索尼半导体解决方案公司 | 显示装置、显示系统及显示驱动方法 |
JPWO2023084950A1 (zh) | 2021-11-10 | 2023-05-19 | ||
WO2024084819A1 (ja) * | 2022-10-21 | 2024-04-25 | パナソニックIpマネジメント株式会社 | 画像生成装置 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003333593A (ja) * | 2002-05-15 | 2003-11-21 | Fuji Photo Film Co Ltd | 画像データ送信装置および画像データ受信装置 |
CN101002471A (zh) * | 2004-08-13 | 2007-07-18 | 庆熙大学校产学协力团 | 对图像编码的方法和设备及对图像数据解码的方法和设备 |
KR100751290B1 (ko) * | 2006-03-31 | 2007-08-23 | 한국과학기술연구원 | 헤드 마운티드 디스플레이용 영상 시스템 |
Family Cites Families (25)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5320534A (en) * | 1990-11-05 | 1994-06-14 | The United States Of America As Represented By The Secretary Of The Air Force | Helmet mounted area of interest (HMAoI) for the display for advanced research and training (DART) |
JPH09233471A (ja) | 1996-02-27 | 1997-09-05 | Fujitsu Ltd | 画像情報圧縮符号化装置 |
US6417867B1 (en) * | 1999-05-27 | 2002-07-09 | Sharp Laboratories Of America, Inc. | Image downscaling using peripheral vision area localization |
US7081870B2 (en) | 2001-05-09 | 2006-07-25 | Hewlett-Packard Development Company, L.P. | Wearable display and method of displaying images using a wearable display |
US6985529B1 (en) | 2002-01-07 | 2006-01-10 | Apple Computer, Inc. | Generation and use of masks in MPEG video encoding to indicate non-zero entries in transformed macroblocks |
JP2004056335A (ja) * | 2002-07-18 | 2004-02-19 | Sony Corp | 情報処理装置および方法、表示装置および方法、並びにプログラム |
US7495638B2 (en) * | 2003-05-13 | 2009-02-24 | Research Triangle Institute | Visual display with increased field of view |
JP2006054830A (ja) | 2004-08-16 | 2006-02-23 | Sony Corp | 画像圧縮通信方法及び装置 |
CN101120593A (zh) | 2005-04-13 | 2008-02-06 | 诺基亚公司 | 可扩展性信息的编码、存储和信号发送 |
KR101255226B1 (ko) | 2005-09-26 | 2013-04-16 | 한국과학기술원 | 스케일러블 비디오 코딩에서 다중 roi 설정, 복원을위한 장치 및 방법 |
JP2007174568A (ja) * | 2005-12-26 | 2007-07-05 | Sanyo Electric Co Ltd | 符号化方法 |
JP2007235314A (ja) * | 2006-02-28 | 2007-09-13 | Sanyo Electric Co Ltd | 符号化方法 |
JP2007274621A (ja) * | 2006-03-31 | 2007-10-18 | Victor Co Of Japan Ltd | 画像伝送システム及び画像伝送方法 |
JP5194776B2 (ja) * | 2007-12-21 | 2013-05-08 | 株式会社リコー | 情報表示システム、情報表示方法およびプログラム |
US8493390B2 (en) | 2010-12-08 | 2013-07-23 | Sony Computer Entertainment America, Inc. | Adaptive displays using gaze tracking |
US8184069B1 (en) * | 2011-06-20 | 2012-05-22 | Google Inc. | Systems and methods for adaptive transmission of data |
JP6007600B2 (ja) | 2012-06-07 | 2016-10-12 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
US10514541B2 (en) | 2012-12-27 | 2019-12-24 | Microsoft Technology Licensing, Llc | Display update time reduction for a near-eye display |
JP6112878B2 (ja) | 2013-01-28 | 2017-04-12 | オリンパス株式会社 | ウェアラブル型表示装置及びプログラム |
US9727991B2 (en) * | 2013-03-01 | 2017-08-08 | Microsoft Technology Licensing, Llc | Foveated image rendering |
CN105075271A (zh) * | 2013-04-08 | 2015-11-18 | 索尼公司 | 利用shvc的关注区域可伸缩性 |
WO2015015584A1 (ja) * | 2013-07-31 | 2015-02-05 | 日立マクセル株式会社 | 映像伝送システム、送信装置、および受信装置 |
US9451162B2 (en) | 2013-08-21 | 2016-09-20 | Jaunt Inc. | Camera array including camera modules |
JP2016012843A (ja) | 2014-06-30 | 2016-01-21 | 株式会社リコー | 伝送管理システム、伝送システム、伝送管理方法、伝送方法、及びプログラム |
EP3416392A4 (en) | 2016-02-09 | 2019-09-18 | Sony Interactive Entertainment Inc. | VIDEO DISPLAY SYSTEM |
-
2017
- 2017-02-03 EP EP17750181.4A patent/EP3416392A4/en active Pending
- 2017-02-03 WO PCT/JP2017/004065 patent/WO2017138458A1/ja active Application Filing
- 2017-02-03 JP JP2017566919A patent/JP6563043B2/ja active Active
- 2017-02-03 CN CN201780009524.9A patent/CN108605148B/zh active Active
- 2017-02-03 US US16/060,999 patent/US10810701B2/en active Active
- 2017-02-03 KR KR1020187022916A patent/KR20180102125A/ko not_active Application Discontinuation
-
2019
- 2019-07-23 JP JP2019135407A patent/JP2019197224A/ja active Pending
-
2020
- 2020-08-13 US US16/992,208 patent/US11270410B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2003333593A (ja) * | 2002-05-15 | 2003-11-21 | Fuji Photo Film Co Ltd | 画像データ送信装置および画像データ受信装置 |
CN101002471A (zh) * | 2004-08-13 | 2007-07-18 | 庆熙大学校产学协力团 | 对图像编码的方法和设备及对图像数据解码的方法和设备 |
KR100751290B1 (ko) * | 2006-03-31 | 2007-08-23 | 한국과학기술연구원 | 헤드 마운티드 디스플레이용 영상 시스템 |
Also Published As
Publication number | Publication date |
---|---|
EP3416392A1 (en) | 2018-12-19 |
JP2019197224A (ja) | 2019-11-14 |
WO2017138458A1 (ja) | 2017-08-17 |
US10810701B2 (en) | 2020-10-20 |
JPWO2017138458A1 (ja) | 2018-09-13 |
US20180365800A1 (en) | 2018-12-20 |
US20200372607A1 (en) | 2020-11-26 |
JP6563043B2 (ja) | 2019-08-21 |
US11270410B2 (en) | 2022-03-08 |
KR20180102125A (ko) | 2018-09-14 |
CN108605148A (zh) | 2018-09-28 |
EP3416392A4 (en) | 2019-09-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108605148B (zh) | 视频显示系统 | |
AU2021286370B2 (en) | Continuous time warp and binocular time warp for virtual and augmented reality display systems and methods | |
EP3757727B1 (en) | Image re-projection for foveated rendering | |
US10404911B2 (en) | Image pickup apparatus, information processing apparatus, display apparatus, information processing system, image data sending method, image displaying method, and computer program for displaying synthesized images from a plurality of resolutions | |
CN110537208B (zh) | 头戴式显示器和方法 | |
CN115176282A (zh) | 图像处理装置、生成3d模型的方法、学习方法以及程序 | |
CN113168820A (zh) | 显示终端、显示控制系统以及显示控制方法 | |
CN114860062A (zh) | 图像的显示方法、装置、可读介质和电子设备 | |
EP4036690A1 (en) | Information processing device, information processing method, server device, and program | |
JP5560964B2 (ja) | 画像処理装置、画像処理方法、投影装置及びプログラム | |
NZ791691A (en) | Continuous time warp and binocular time warp for virtual and augmented reality display systems and methods | |
NZ751028B2 (en) | Continuous time warp and binocular time warp for virtual and augmented reality display systems and methods |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |