JP6464647B2 - Moving image processing method, moving image transmission apparatus, moving image processing system, and moving image processing program - Google Patents
Moving image processing method, moving image transmission apparatus, moving image processing system, and moving image processing program Download PDFInfo
- Publication number
- JP6464647B2 JP6464647B2 JP2014203194A JP2014203194A JP6464647B2 JP 6464647 B2 JP6464647 B2 JP 6464647B2 JP 2014203194 A JP2014203194 A JP 2014203194A JP 2014203194 A JP2014203194 A JP 2014203194A JP 6464647 B2 JP6464647 B2 JP 6464647B2
- Authority
- JP
- Japan
- Prior art keywords
- data
- terminal device
- moving image
- image data
- transmission
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Compression Or Coding Systems Of Tv Signals (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
Description
本明細書で言及する実施例は、動画像処理方法、動画像処理システムおよび動画像処理プログラムに関する。 Embodiments referred to in this specification relate to a moving image processing method, a moving image processing system, and a moving image processing program.
近年、例えば、WiFi(Wireless Fidelity)等の無線LAN(Local Area Network)を介して、地上デジタル放送等のテレビ放送をスマートフォンやタブレット等の端末装置に伝送(送信)するWiFiチューナが実用化されている。 In recent years, for example, WiFi tuners that transmit (transmit) television broadcasts such as digital terrestrial broadcasts to terminal devices such as smartphones and tablets via wireless LAN (Local Area Network) such as WiFi (Wireless Fidelity) have been put into practical use. Yes.
さらに、このようなWiFiチューナは、無線ルータと一体化されてモバイルWi−Fiルータとしても製品化されている。また、伝送するテレビ放送は、地上デジタル放送に限定されるものではなく、BS(broadcasting satellite)放送やCS(Communication Satellite)放送、或いは、ローカル放送等であってもよい。 Further, such a WiFi tuner is integrated with a wireless router and is also commercialized as a mobile WiFi router. Further, the television broadcast to be transmitted is not limited to the terrestrial digital broadcast, but may be a BS (broadcasting satellite) broadcast, a CS (Communication Satellite) broadcast, a local broadcast, or the like.
なお、本明細書では、動画像処理装置の例としてWiFiチューナを説明するが、WiFiを利用してデータを伝送するものに限定されず、他の様々な無線方式を利用するものであってもよく、さらに、有線によりデータを伝送するものであってもよい。 In this specification, a WiFi tuner is described as an example of a moving image processing apparatus. However, the present invention is not limited to transmitting data using WiFi, and may use other various wireless systems. In addition, data may be transmitted by wire.
ところで、地上デジタル放送は、例えば、MPEG−2(Moving Picture Experts Group phase 2)によりデジタルデータ化されて放送されている。これを、一般的なテレビ受像機(例えば、専用テレビ)で視聴する場合、チューナにより放送波を受信してMPEG−2のデジタルデータを取り出し、MPEG−2のデコーダ装置により、デコードして映像(ビデオ)および音声(オーディオ)の再生を行う。 By the way, terrestrial digital broadcasting is broadcast as digital data by, for example, MPEG-2 (Moving Picture Experts Group phase 2). When this is viewed on a general television receiver (for example, a dedicated television), the broadcast wave is received by the tuner, the MPEG-2 digital data is taken out, and the video ( Play video and audio (audio).
具体的に、例えば、日本国におけるテレビ放送は、地上デジタル放送であれば16Mbps、また、BSデジタル放送であれば25Mbpsというように、伝送するための帯域が確保されている。 Specifically, for example, in the case of television broadcasting in Japan, a band for transmission is secured such as 16 Mbps for terrestrial digital broadcasting and 25 Mbps for BS digital broadcasting.
一方、無線LANも含め、インターネット系のネットワーク(回線)において、帯域を確保する技術も提案されているが、通常のデータ伝送は、ベストエフォート(Best Effort)型の回線を使用するものであり、伝送帯域(伝送能力)は保証されていない。 On the other hand, techniques for securing bandwidth in Internet-based networks (lines), including wireless LANs, have also been proposed, but normal data transmission uses Best Effort type lines, The transmission band (transmission capability) is not guaranteed.
そのため、ネットワークの平均的な伝送能力が、例えば、地上デジタル放送の16MbpsやBSデジタル放送の25Mbpsよりも十分高ければ、無線LAN等でも伝送は可能であるが、不十分であれば、伝送するのが困難となる。 Therefore, if the average transmission capability of the network is sufficiently higher than, for example, 16 Mbps for terrestrial digital broadcasting or 25 Mbps for BS digital broadcasting, transmission is possible even with a wireless LAN or the like. It becomes difficult.
そこで、例えば、WiFiチューナ等の製品は、例えば、チューナにより放送波を受信してMPEG−2のデジタルデータを取り出した後、再度、H.264等のさらに圧縮率の高い方式でエンコードし直して(トランスコードして)、テレビ放送の伝送を行う。 Therefore, for example, a product such as a WiFi tuner receives, for example, a broadcast wave by a tuner and takes out digital data of MPEG-2, and then again H.264. It is re-encoded (transcoded) by a method with a higher compression ratio such as H.264, and then the television broadcast is transmitted.
すなわち、WiFiチューナ等の製品は、WiFi(無線LAN)等のネットワークに十分に圧縮されたデータを伝送し、伝送先におけるタブレット等の端末装置でデコードして映像および音声の再生を行っている。 That is, products such as WiFi tuners transmit data that is sufficiently compressed to a network such as WiFi (wireless LAN), and are decoded by a terminal device such as a tablet at the transmission destination to reproduce video and audio.
なお、MPEG−2のデジタルデータをH.264にトランスコードするのは、単なる一例であり、例えば、H.264による高画質のデータを、同じH.264の規格であっても、画質の低下は許容してより高い圧縮率でトランスコードする場合等もある。 MPEG-2 digital data is converted to H.264. Transcoding to H.264 is merely an example. H.264 high-quality data is the same as H.264. Even in the H.264 standard, deterioration in image quality is allowed and transcoding may be performed at a higher compression rate.
ところで、従来、動画像処理方法、動画像処理システムおよび動画像処理プログラムとしては、様々なものが提案されている。 By the way, conventionally, various types of moving image processing methods, moving image processing systems, and moving image processing programs have been proposed.
上述したように、例えば、WiFiチューナは、伝送帯域が保証されていない回線を利用して地上デジタル放送等を端末装置に伝送するため、伝送帯域の変化に対しても安定してデータを伝送するために、送信および受信側に大容量のバッファが設けられている。 As described above, for example, the WiFi tuner transmits digital terrestrial broadcasting or the like to the terminal device using a line whose transmission band is not guaranteed, and thus stably transmits data even when the transmission band changes. Therefore, a large-capacity buffer is provided on the transmission and reception sides.
ところで、ユーザが、上述したWiFiチューナおよび無線LANを介して、端末装置により地上デジタル放送等を視聴する場合、表示開始の遅れが大きな問題となっている。この表示開始の遅れは、例えば、デジタル放送のチャンネルの切り替えに要する時間だけでなく、送信および受信側における大容量バッファに起因して生じている。その結果、ユーザは、例えば、チャンネルの切り替え操作を行う度に、視聴を長時間待たされることにもなっている。 By the way, when a user views digital terrestrial broadcasting or the like with a terminal device via the above-described WiFi tuner and wireless LAN, a delay in display start is a serious problem. This delay in display start is caused not only by the time required for switching the channel of digital broadcasting, but also by a large-capacity buffer on the transmission and reception sides. As a result, for example, each time a user performs a channel switching operation, the user is expected to wait for a long time.
一実施形態によれば、送信装置が、動画像データに基づいて生成した第1画像データをベストエフォート型の回線を介して端末装置に送信する動画像処理方法が提供される。前記送信装置は、前記第1画像データを前記端末装置に送信した後でダミーデータを生成して前記端末装置に送信する。前記ダミーデータは少なくとも前記端末装置内の受信バッファの容量に相当し、且つ、前記ダミーデータは前記端末装置での表示対象データではない。 According to an embodiment, there is provided a moving image processing method in which a transmitting device transmits first image data generated based on moving image data to a terminal device via a best effort type line. The transmission device generates dummy data after transmitting the first image data to the terminal device, and transmits the dummy data to the terminal device. The dummy data corresponds to at least the capacity of the reception buffer in the terminal device , and the dummy data is not display target data in the terminal device.
開示の動画像処理方法、動画像処理システムおよび動画像処理プログラムは、最初の画像が表示されるまでの待ち時間を短縮することができるという効果を奏する。 The disclosed moving image processing method, moving image processing system, and moving image processing program have an effect of reducing the waiting time until the first image is displayed.
まず、本実施例の動画像処理方法、動画像処理システムおよび動画像処理プログラムを詳述する前に、図1〜図14を参照して、動画像処理装置が適用される動画像処理システムの一例およびその動作、並びに、動画像処理方法、動画像処理システムおよび動画像処理プログラムの例およびその問題点を説明する。 First, before detailed description of the moving image processing method, moving image processing system, and moving image processing program of the present embodiment, referring to FIGS. 1 to 14, the moving image processing system to which the moving image processing apparatus is applied. An example and an operation thereof, an example of a moving image processing method, a moving image processing system and a moving image processing program, and problems thereof will be described.
図1は、動画像処理装置が適用される動画像処理システムの一例を模式的に示す図である。図1に示されるように、動画像処理システムは、WiFiチューナ1(送信装置),無線LAN(WiFi)2,タブレット等の端末装置3,ルータ4およびアンテナ5を含む。
FIG. 1 is a diagram schematically illustrating an example of a moving image processing system to which a moving image processing apparatus is applied. As shown in FIG. 1, the moving image processing system includes a WiFi tuner 1 (transmission device), a wireless LAN (WiFi) 2, a terminal device such as a
前述したように、WiFiチューナ1は、例えば、アンテナ5を介してBS放送や地上デジタル放送等を受信し、スマートフォンやタブレット等の端末装置3に送信する。すなわち、WiFiチューナ1は、例えば、MPEG−2によりデジタルデータ化された放送を、より圧縮率の高いH.264等のデジタルデータにトランスコードし、WiFi等の無線LAN2を介して端末装置3に送信する。
As described above, the
また、WiFiチューナ1は、ルータ4を介してインターネット6に接続されており、例えば、YouTube(登録商標)やニコニコ動画(登録商標)等の動画サイトからも映像データをダウンロードして、端末装置3に送信できるようになっている。
The
ところで、WiFi等の無線LAN(無線回線)2は、通常、ベストエフォート型の回線(ネットワーク)であり、伝送帯域は保証されておらず、回線の状態によって、伝送能力(伝送帯域)は、大きく変化する。 By the way, a wireless LAN (wireless line) 2 such as WiFi is usually a best-effort line (network), the transmission band is not guaranteed, and the transmission capability (transmission band) is large depending on the state of the line. Change.
図2は、図1に示す動画像処理システムの一例およびその動作を説明するための図であり、図2(a)は、動画像処理システムの全体構成を示す。また、図2(b)は、図2(a)に示す動画像処理システムにおいて、安定して伝送(送信)できている状態の動作を説明するためのものであり、図2(c)は、ネットワークの伝送能力が一時的に下がった状態の動作を説明するためのものである。 FIG. 2 is a diagram for explaining an example of the moving image processing system shown in FIG. 1 and its operation, and FIG. 2 (a) shows the overall configuration of the moving image processing system. FIG. 2 (b) is for explaining the operation of the moving image processing system shown in FIG. 2 (a) in a state where transmission (transmission) is stable. FIG. 2 (c) This is for explaining the operation when the transmission capability of the network is temporarily lowered.
図2(a)に示されるように、動画像処理システムにおいて、WiFiチューナ1は、チューナ11,トランスコーダ12,送信バッファ13およびLAN(送信)14を含む。また、端末装置3は、LAN(受信)31,受信バッファ32,デコーダ33およびディスプレイ(表示装置)34を含む。
As shown in FIG. 2A, in the moving image processing system, the
チューナ11は、例えば、アンテナ5を介してBS放送や地上デジタル放送等を受信し、例えば、MPEG−2によりデジタルデータ化された放送を再生してトランスコーダ12に出力する。
The
トランスコーダ12は、チューナ11からのMPEG−2のデジタルデータを、例えば、より圧縮率の高いH.264等のデジタルデータにトランスコードして送信バッファ13に出力する。
The
送信バッファ13は、無線LAN(ネットワーク)2の伝送能力が一時的に下がってトランスコーダ12から一定のビットレートで入力するデータを伝送しきれない場合に、ネットワーク2の伝送能力が回復するまでデータを一時的に溜めておくためのものである。
When the transmission capability of the wireless LAN (network) 2 is temporarily lowered and the data input from the
LAN(送信)14は、送信バッファ13からのデータを、ネットワーク2を介して端末装置3のLAN(受信)31に送信するためのもので、例えば、ルータ4を介してインターネット(6)からも映像データをダウンロードして送信できるようになっている。なお、LAN(受信)31は、例えば、送受信可能なWiFi等の無線LAN装置の受信機能をしようしてデータを受け取っている様子を示す。
The LAN (transmission) 14 is for transmitting data from the
受信バッファ32は、一定時間分のデータを溜めておくことができ、ネットワーク2の伝送能力が一時的に下がってデータが伝送されなくなった場合でも、一定時間は、映像および音声の再生が続けられるようにするためのものである。そして、この一定時間の間にネットワーク2の伝送能力が回復してデータが伝送さるようになれば、映像および音声が途切れることなく再生を継続することになる。
The
デコーダ33は、受信バッファ32からのデータ(例えば、H.264等のデジタルデータ)を受け取って映像および音声をデコードし、映像をディスプレイ34に表示させると共に、音声をスピーカ(図示しない)から出力させる。
The
ここで、受信バッファ32は、例えば、パーソナルコンピュータ(PC)でYouTube(登録商標)等の動画サイトからも映像データをダウンロードして視聴する場合、円滑に再生されるように、最初に一定のバッファリングを行うのと同様のものである。
Here, for example, when the video data is downloaded and viewed from a video site such as YouTube (registered trademark) on a personal computer (PC), the
ただし、ネットワークが十分な伝送能力を持たず、バッファリングしたデータを再生しきる間に次のデータの充填が間に合わない場合でも、動画サイト等であれば、バッファの再充填処理が行われて再生される。すなわち、バッファのデータが枯渇して再生が止まった場合でも、その停止した画像の続きから再生される。 However, even if the network does not have sufficient transmission capacity and the next data cannot be filled in time for the buffered data to be played back, if it is a video site or the like, the buffer is refilled and played back. The That is, even when the buffer data is depleted and playback stops, playback is continued from the stopped image.
これは、動画サイトによるサービスでは、コンテンツが予めサーバ側に蓄積されており、PC側へのデータ伝送が滞った場合、単に、サーバからのデータ伝送を止めておき、ネットワークが回復した段階で、続きからデータ伝送を再開するだけでよいからである。 This is because, in the service provided by the video site, if the content is stored in advance on the server side and the data transmission to the PC side is stagnant, the data transmission from the server is simply stopped and the network is restored. This is because it is only necessary to resume data transmission from the next.
これに対して、WiFiチューナ1のような用途では、データ伝送が滞った場合でも、チューナ11からのTV放送のデータは流れ込み続け、トランスコーダ12によるデータも生成され続ける。そのため、例えば、YouTube(登録商標)等の動画サイトのサービスのように、単に、データ伝送を止めるといった単純な対応では問題が生じることになる。
On the other hand, in applications such as the
仮に、トランスコーダ12によるトランスコード処理を一時的に停止させて対応した場合、データ伝送が回復してトランスコード処理を再開しても、その間の実際の時間的な途切れが発生することになる。そのため、このような途切れの発生を極力回避するために、送信側(WiFiチューナ1)にも一定時間分のバッファ(送信バッファ13)が設けられている。
If the transcoding process by the
まず、図2(b)に示されるように、安定して伝送できている状態(通常の運用状態)において、例えば、チューナ11からのMPEG−2のデジタルデータは、トランスコーダ12によって、より圧縮率の高いH.264のデジタルデータにトランスコードされる。
First, as shown in FIG. 2B, in a state where transmission is stable (normal operation state), for example, MPEG-2 digital data from the
さらに、トランスコーダ12からのデジタルデータ(H.264)は、送信バッファ13およびLAN(送信)14を介してネットワーク2に出力される。ここで、通常の運用状態において、送信バッファ13は、エンプティ(空)気味で動作している。
Further, digital data (H.264) from the
さらに、ネットワーク2からのデジタルデータ(H.264)は、LAN(受信)31および受信バッファ32を介してデコーダ33に入力され、デコードされた映像および音声がディスプレイ34等から出力される。ここで、通常の運用状態において、受信バッファ32は、フル(満)気味で動作している。
Further, digital data (H.264) from the
すなわち、図2(b)において、矢印のハッチング部分の幅が、データの伝送能力を示し、送信バッファ13および受信バッファ32におけるハッチング部分の領域が、バッファリング(格納)しているデータ量を示す。なお、送信バッファ13および受信バッファ32の全体(箱)の大きさが、データを格納できる最大バッファ量を示す。
That is, in FIG. 2B, the width of the hatched portion of the arrow indicates the data transmission capability, and the hatched area in the
これに対して、図2(c)に示されるように、ネットワーク2におけるデータ量およびLAN31から受信バッファ32へのデータ量が小さく(ハッチング部分の幅が細く)なる。このとき、送信バッファ13に格納されるデータは増加し、逆に、受信バッファ32に格納されるデータは減少する。
On the other hand, as shown in FIG. 2C, the amount of data in the
図3は、図2に示す動画像処理システムにおけるネットワーク2の伝送能力とデータ量の推移を説明するための図であり、横軸に時間を取り、縦軸にデータ量を取って、各部の入出力データ量およびバッファ内のデータ量の推移の一例を示すものである。
FIG. 3 is a diagram for explaining the transition of the transmission capacity and data amount of the
図3は、ネットワーク(無線LAN,回線)2が安定してデータを伝送できている状態(定常状態)の期間P11ら、期間P12でネットワークの伝送能力が一時的に下がった状態となり、その後、期間P13で元の安定状態(過渡状態)に戻る様子を示している。 FIG. 3 shows a state in which the transmission capability of the network is temporarily lowered in the period P12 from the period P11 in a state where the network (wireless LAN, line) 2 can stably transmit data (steady state), and then in the period P12. A state is shown in which the state returns to the original stable state (transient state) in the period P13.
すなわち、期間P11から期間P12になり、ネットワーク2の伝送能力が一時的に下がった状態になると、トランスコーダ12から単位時間あたりに出力されるデータ量よりもネットワークに送信できるデータ量(LAN(送信)14の送信データ量)が低くなる。
That is, when the transmission capacity of the
このとき、送信側(WiFiチューナ1側)では、送信しきれないデータは、一時的に送信バッファ13内に溜まっていくため、期間P12において、送信バッファ13内のデータ量は、徐々に増大する。
At this time, data that cannot be transmitted is temporarily accumulated in the
一方、受信側(端末装置3側)では、ネットワーク2から受信するデータ量(LAN(受信)31の受信データ量)が減るため、期間P12において、受信バッファ32内に溜められたデータ量は、徐々に減少する。
On the other hand, on the receiving side (
ここで、デコーダ33が単位時間あたりに受け取る入力データ量が受信バッファ32により維持されている間、デコーダ33は、途切れることなく動画像を再生することが可能である。
Here, while the amount of input data received by the
なお、図3の例は、送信バッファ13内のデータ量があふれ、或いは、受信バッファ32内のデータ量が枯渇する前に、ネットワーク2の伝送能力が定常状態戻る場合を示している。
The example of FIG. 3 shows a case where the transmission capacity of the
そのため、期間P12から期間P13になると、ネットワーク2の伝送能力が一時的に下がって転送できなかったデータが通常より多くネットワーク2で伝送され、送信バッファ13内のデータ量は徐々に減少(受信バッファ32内のデータ量は徐々に増加)する。
Therefore, when the period P12 is changed to the period P13, the transmission capacity of the
ここで、ネットワーク2は、ベストエフォート型の回線であるため、期間P13におけるLAN(送信)14の送信データ量およびLAN(受信)31の受信データ量は、期間P11におけるデータ量よりも大きい状態でデータ伝送を行う。
Here, since the
そして、送信バッファ13および受信バッファ32のデータ量が本来の状態に戻れば、LAN(送信)14およびLAN(受信)31のデータ量も期間P11の定常状態に戻ることになる。
When the data amounts of the
なお、ネットワーク2の伝送能力の低下が長く続いて、受信バッファ32のデータが枯渇した場合、デコーダ33にはデコートする入力データが与えられず、再生(動画像)が途切れることになる。また、送信バッファ13がフル(一定容量)になった場合も、トランスコーダ12の動作を一時停止するかデータを破棄することになり、やはり再生時に動画像が途切れることになる。
If the transmission capacity of the
このような動画像の途切れを避けるためには、受信バッファ32および送信バッファ13の容量を大きく設定するのが好ましい。ネットワークのトラフィックは運用状況によっても変わるが、通常、受信バッファ32および送信バッファ13には、例えば、数秒〜十数秒程度の動画像データを保持することができる容量を持たせている。
In order to avoid such interruption of moving images, it is preferable to set the capacities of the
さらに、例えば、平均的な伝送能力の低下が長時間に及ぶような場合、バッファの容量がいくらあっても対応が難しいため、伝送能力に合わせてトランスコーダ12の生成ビットレートを下げる等により対応することになる。
Furthermore, for example, when the average transmission capacity declines over a long period of time, it is difficult to cope with any buffer capacity. For this reason, the bit rate of the
ただし、トランスコーダ12での各種処理でバッファリングしている関係上、生成ビットレートの変更指示に対して実際のデータが減少するのは、例えば、数秒程度の時間が掛かるため、送信バッファ13には、さらに、数秒程度以上の容量を持たせている。
However, because the buffering is performed in various processes in the
ところで、近年、アナログTV(テレビ放送)からデジタルTVになって、チャンネル切り替えに時間が掛かるようになったのが問題視されている。また、端末装置3によりネットワーク2を介してWiFiチューナ1からの放送を再生する場合には、さらに、上述した受信バッファ32にデータが溜まるまで待たされることになる。
By the way, in recent years, it has been regarded as a problem that the channel switching takes time from analog TV (television broadcasting) to digital TV. Further, when the
すなわち、端末装置3により第1チャンネルから第2チャンネルにチャンネルを切り替えた場合、例えば、受信バッファ32のデータ量が一定量になるまで、新たな第2チャンネルの画像は表示されず、さらに、長時間待たされることになる。
That is, when the channel is switched from the first channel to the second channel by the
具体的に、WiFiチューナ1およびネットワーク2を介してデジタルTVを視聴する場合、端末装置3でチャンネルを切り替えると、例えば、通常のデジタルTVの切り替えに要する時間に加え、さらに、数秒〜十数秒程度の時間待たされることになる。
Specifically, when a digital TV is viewed via the
このチャンネル切り替え時に待たされる時間において、端末装置3のディスプレイ34には、例えば、黒画面か表示され、或いは、チャンネル切り替え前の最後の画面が残ることになる。
In the time waited at the time of channel switching, for example, a black screen is displayed on the
或いは、砂時計のアニメーション等と共に、チャンネル切り替え中の表示や別途取得した切り替え先の番組情報等を表示するなどして、チャンネル切り替えの指示を受け付けたことをユーザにフィードバックするための画面を出すことも考えられる。しかしながら、この場合も、チャンネル切り替え後の画面表示までには、数秒〜十数秒程度の時間が掛かることになる。 Alternatively, a screen for feedback to the user that a channel switching instruction has been accepted may be displayed by displaying a display during channel switching or separately acquired program information of the switching destination together with an hourglass animation or the like. Conceivable. However, also in this case, it takes about several seconds to several tens of seconds until the screen is displayed after the channel is switched.
図4は、関連技術の動画像処理装置の一例におけるトランスコーダおよびストリームの一例を示す図である。すなわち、図4(a)は、トランスコーダ12の一例の詳細をチューナ11および送信バッファ13と共に示し、図4(b)は、トランスコーダ12から出力されるストリーム(トランスポートストリーム:TS(Transport Stream))の一例を示す。
FIG. 4 is a diagram illustrating an example of a transcoder and a stream in an example of a related-art moving image processing apparatus. 4A shows details of an example of the
図4(a)に示されるように、トランスコーダ12は、全体制御部(演算処理装置)121,デマルチプレクサ部(DEMUX)122,デコーダ部123,メモリ124,エンコーダ部125およびマルチプレクサ部(MUX)126を含む。
As shown in FIG. 4A, the
デマルチプレクサ部122は、PSI(Program Specific Information)解析部20を含み、デコーダ部123は、ビデオ処理部31'およびオーディオ処理部32'を含み、そして、エンコーダ部125は、ビデオ処理部51およびオーディオ処理部52を含む。
The
全体制御部121は、デマルチプレクサ部122およびデコーダ部123を制御し、例えば、チューナ11からのMPEG−2のデジタルデータから画像データおよび音声データを取り出してメモリ124に格納する。
The
また、全体制御部121は、エンコーダ部125およびマルチプレクサ部126を制御し、メモリ124から読み出した画像データおよび音声データを、例えば、MPEG−2よりも高圧縮率のH.264のデジタルデータに変換して送信バッファ13に出力する。
In addition, the
すなわち、トランスコーダ12は、例えば、チューナ11からのMPEG−2のデジタルデータを、WiFi等のネットワーク2でも伝送可能な、より高い圧縮率で圧縮したH.264等のデジタルデータに変換して、ネットワーク2に出力する。
That is, the
図4(b)に示されるように、トランスコーダ12からのストリームは、例えば、PAT(Program Association Table),PMT(Program Map Table),PCR(Program Clock Reference),PAT,PMT,PCR,I-pic(Intra-coded Picture),…と配列される。
As shown in FIG. 4B, the stream from the
さらに、ストリームは、例えば、…,PCR,B-pic(Bidirectionally predictive-coded picture),B-pic,P-pic(Predictive-coded picture),B-pic,B-pic,…と配列される。 Furthermore, the stream is arranged in, for example,..., PCR, B-pic (Bidirectionally predictive-coded picture), B-pic, P-pic (Predictive-coded picture), B-pic, B-pic,.
例えば、端末装置3が図4(b)に示されるデータを受け取る場合、先頭のI−ピクチャ(I-pic)が端末装置3のデコーダ33に渡るのは、例えば、端末装置3の受信バッファ32のサイズ(一定の容量)に相当するデータが伝送された後になる。
For example, when the
そのため、端末装置3によりチャンネルが切り替えられた場合、受信バッファ32のデータ量が一定量になるまで、新たなチャンネルの画像(I−ピクチャ)はデコーダ33に入力されず、新たなチャンネルの画像を表示するまで長時間待たされることになる。
Therefore, when the channel is switched by the
ここで、例えば、第1チャンネルから第2チャンネルにチャンネルを切り替えたとき、受信バッファ32には、先頭のI−ピクチャが格納された後、例えば、トランスコーダ12により処理された第2チャンネルのデータが所定の転送レートで入力される。
Here, for example, when the channel is switched from the first channel to the second channel, after the first I-picture is stored in the
すなわち、WiFiチューナ1から端末装置3に対して、ベストエフォート型のネットワーク(回線)2を介してデータ伝送する場合であっても、例えば、MPEG−2をH,264に変換するトランスコーダ12の出力に基づいたデータ量のデータが伝送される。
That is, even when data is transmitted from the
図5は、図4に示すトランスコーダにおけるマルチプレクサ部の一例を示すブロック図であり、マルチプレクサ部126を、エンコーダ部125と共に示すものである。図5に示されるように、マルチプレクサ部126は、FIFO(First-In First-Out)バッファ61,62、STC(System Time Clock)用カウンタ63、ビデオTS(Transport Stream)パケット生成部64およびオーディオTSパケット生成部65を含む。
FIG. 5 is a block diagram illustrating an example of a multiplexer unit in the transcoder illustrated in FIG. 4, and illustrates the
さらに、マルチプレクサ部126は、PAT生成部66、PMT生成部67、PCR生成部68、ヌル(NULL)パケット生成部69、多重化対象決定部70および多重化対象選択部71を含む。
Further, the
ビデオTSパケット生成部64は、ビデオTS用多重化時刻カウンタ640を含み、ビデオデータにおけるパケット分割,TSヘッダ付加および多重化時刻算出を行う。オーディオTSパケット生成部65は、オーディオTS用多重化時刻カウンタ650を含み、オーディオデータにおけるパケット分割,TSヘッダ付加および多重化時刻算出を行う。
The video TS
PAT生成部66は、PAT用多重化時刻カウンタ660を含み、PMT生成部67は、PMT用多重化時刻カウンタ670を含む。また、PCR生成部68は、PCR用多重化時刻カウンタ680を含み、NULLパケット生成部69は、ヌルパケット用多重化時刻カウンタ690を含む。
The
STC用カウンタ63は、多重化マスタークロックCLKmmを受け取り、初期値の設定後、例えば、27MHzの多重化マスタークロックCLKmmでカウントアップするカウンタである。このSTC用カウンタ63の出力信号は、各生成部の多重化時刻カウンタ640,650,…,690に入力され、システム時刻が与えられることになる。
The
ビデオTSパケット生成部64は、FIFOバッファ61を介して入力されるエンコーダ125のビデオ処理部51からのビデオPES(Packetized Elementary Stream)データ(VD−PES)を受け取る。
The video TS
ビデオTS用多重化時刻カウンタ640は、ビデオ処理部51から送られてくるビデオPES単位の多重化開始時刻情報を初期値として、ビデオPESをTSパケットに分解した際の、TSパケット毎の多重化開始時刻を管理する。これにより、ビデオTSパケット生成部64により生成されるビデオTS(VD−TS)は、カウントアップ量27MHzを基準にして、ビデオのビットレートに対応した値になる。
The video TS multiplexing
具体的に、ビデオのビットレートが20Mbpsならば、TSパケットのペイロードのデータ量は184byteなので、1秒間に、TSパケット数は、20M[bps]÷(184[byte]×8[bit])≒13586.9[個]となる。 Specifically, if the video bit rate is 20 Mbps, the data amount of the payload of the TS packet is 184 bytes, so the number of TS packets per second is 20 M [bps] / (184 [byte] × 8 [bit]) ≈ It becomes 13586.9 [pieces].
すなわち、27MHz単位で見た場合の各TSパケットの周期は、27M[Hz]÷13586.9≒1987.2[cycle]となり、これが、カウントアップ量となる。実際には、少数点以下を扱うのは難しいため、例えば、分子と分母の形で管理してカウントアップするが、本実施例との関連が薄いので、その詳細については省略する。 That is, the period of each TS packet when viewed in units of 27 MHz is 27M [Hz] ÷ 13586.9≈1987.2 [cycle], which is the count-up amount. Actually, since it is difficult to handle the decimal point or less, for example, it is managed and counted up in the form of a numerator and a denominator.
オーディオTSパケット生成部65は、FIFOバッファ62を介して入力されるエンコーダ125のオーディオ処理部52からのオーディオPESデータ(AD−PES)を受け取る。
The audio
オーディオTS用多重化時刻カウンタ650は、オーディオ処理部52から送られてくるオーディオPES単位の多重化開始時刻情報を初期値として、オーディオPESをTSパケットに分解した際の、TSパケット毎の多重化開始時刻を管理する。これにより、オーディオTSパケット生成部65により生成されるオーディオTS(AD−TS)は、カウントアップ量27MHzを基準にして、オーディオのビットレートに対応した値になる。
The audio TS multiplexing
なお、PAT用多重化時刻カウンタ660,PMT用多重化時刻カウンタ670およびPCR用多重化時刻カウンタ680は、初期値の設定後、各TSパケットの挿入周期(規格上は100msec以下)に応じた値がカウントアップ量となる。具体的に、99msecの周期ならば、99m[sec]÷(1/27M[Hz])≒2673000[cycle]ずつカウントアップすることになる。
Note that the PAT multiplexing
また、ヌルパケット用多重化時刻カウンタ690は、初期値の設定後、TSのシステムレートに応じた値がカウントアップ量となる。具体的に、TSのシステムレートが25Mbpsならば、TSパケットのデータ量は188byteなので、27M[Hz]÷(25M[bps]÷(188[byte]×8[bit]))≒1624.32[cycle]ずつカウントアップすることになる。
In addition, the null packet multiplexing
そして、ビデオTSパケット生成部64,オーディオTSパケット生成部65,PAT生成部66,PMT生成部67,PCR生成部68およびNULLパケット生成部69は、それぞれのTSパケットを生成して多重化対象選択部71に出力する。
Then, the video
このとき、各生成部64〜69は、それぞれの多重化時刻カウンタ640〜690により、対応するTSパケットの多重化開始時刻を算出する。なお、算出した多重化開始時刻は、STC用カウンタ63から出力されるシステム時刻と比較され、システム時刻が多重化開始時刻以上になったら、多重化要求信号をバリッド(Valid:有効)にする。
At this time, each of the generating
多重化対象決定部70は、NULLパケット生成部69からの要求信号(多重化要求信号)がバリッドになる毎に、他の生成部(パケット生成部)64〜68からの要求信号をチェックする。
The multiplexing
ここで、NULLパケット生成部69からのバリッドの要求信号以外に、複数の生成部64〜68からの要求信号がバリッドであった場合には、優先順位に従って、どれか1つの生成部を選択し、多重化対象選択信号SSmoにその生成部を選択するよう指定する。
Here, in addition to the valid request signal from the NULL
なお、優先順位の一例としては、PCR生成部68が最優先で、以下、PMT生成部67,PAT生成部68等のPSI情報、そして、ビデオTSパケット生成部64,オーディオTSパケット生成部65の順番にすることが考えられる。
As an example of the priority order, the
一方、NULLパケット生成部69からの要求信号だけがバリッドで、他の生成部64〜68からの要求信号が全てインバリッド(Invalid:無効)の場合には、NULLパケット挿入モードであれば、多重化対象選択信号SSmoとしてNULLパケットを選択する。また、NULLパケット挿入モードでなければ、何も多重化しないため、多重化対象選択信号SSmoとしてパケット無効を選択する。
On the other hand, if only the request signal from the NULL
そして、NULLパケット生成部69以外の生成部64〜68の要求信号がバリッドであれば、その生成部のパケット出力を選択する。ここで、NULLパケット挿入モードか否かは、例えば、NULLパケット生成部69に入力するNULLパケット挿入モード指定信号MSnpにより指定される。
If the request signals of the
多重化対象決定部70により選択した結果は、多重化対象選択信号SSmoとして多重化対象選択部71に出力すると共に、選択した生成部64〜68に対する多重化アクノリッジ信号(ACK)としてバリッドパルスを出力する。ただし、NULLパケット生成部69に対しては、NULLパケットを選択したか否かに関わらず、多重化アクノリッジ信号としてバリッドパルスを出力する。
The result selected by the multiplexing
各生成部64〜68は、多重化アクノリッジ信号のバリッドパルスを受け取ったら、多重化要求信号をインバリッドにすると共に、その生成部の内部に設けられた多重化時刻カウンタ640〜680をカウントアップする。
When each of the
なお、PCR生成部68は、TSパケットのPCRフィールドに正確な時刻を入れるために、多重化アクノリッジ信号のバリッドパルスを受け付けた時点で、STC用カウンタ63からのシステム時刻の値を取り込み、TSパケットのPCRフィールドに書き込む。
Note that the
図6および図7は、図4および図5に示すトランスコーダを適用した場合におけるチャンネル切り替え時の動作を説明するための図である。ここで、図6(a)は、端末装置(WiFiチューナの受信装置)3のユーザが定常状態で視聴している状況を説明するための図である。 6 and 7 are diagrams for explaining the operation at the time of channel switching when the transcoder shown in FIGS. 4 and 5 is applied. Here, FIG. 6A is a diagram for explaining a situation in which the user of the terminal device (WiFi tuner receiving device) 3 is viewing in a steady state.
また、図6(b)は、ユーザがチャンネルの切り替えを指示した状況を説明するための図であり、図6(c)は、ユーザがチャンネルの切り替えを指示した直後の状況を説明するための図である。 FIG. 6B is a diagram for explaining a situation in which the user has instructed channel switching. FIG. 6C is a diagram for explaining the situation immediately after the user has instructed channel switching. FIG.
さらに、図7(a),図7(b)および図7(c)は、ユーザがチャンネルの切り替えを指示した直後の図6(c)に続く状況を説明するための図であり、図7(d)は、切り替え後のチャンネルにより、ユーザが定常状態で視聴している状況を説明するための図である。図6(a)〜図7(d)において、受信バッファ32中の参照符号F(n),F(n+1),F(n+2),F(n+3),…,F(m)は、符号化された各映像フレームに対応するデータを示す。 Further, FIGS. 7 (a), 7 (b) and 7 (c) are diagrams for explaining the situation following FIG. 6 (c) immediately after the user instructs the channel switching. (d) is a figure for demonstrating the condition where the user is watching in a steady state by the channel after switching. In FIG. 6 (a) to FIG. 7 (d), reference symbols F (n), F (n + 1), F (n + 2), F (n + 3),. m) indicates data corresponding to each encoded video frame.
以下の説明では、映像表示の時間順序と対応する符号化されたデータの順番は同じものとしているが、実際の符号化では、例えば、リオーダ処理が行われ映像表示の順番とストリームの順番が変わることもある。 In the following description, the order of encoded data corresponding to the time order of video display is the same. However, in actual encoding, for example, reorder processing is performed, and the order of video display and the order of streams are changed. Sometimes.
まず、図6(a)に示されるように、ユーザが端末装置3のディスプレイ34を介して、所定のチャンネル(第1チャンネル)のテレビ放送を視聴している場合、送信バッファ13はエンプティ気味で動作し、受信バッファ32は、フル気味で動作している。
First, as shown in FIG. 6A, when the user is watching a television broadcast of a predetermined channel (first channel) via the
すなわち、ディスプレイ34には、受信バッファ32から順に出力されてデコーダ33でデコードされた映像(動画像)が表示され、ユーザは、第1チャンネルのテレビ放送を視聴することになる。
That is, the
次に、図6(b)に示されるように、ユーザが端末装置3を操作して視聴するチャンネルを第1チャンネルから第2チャンネルに切り替える場合、ユーザは、例えば、端末装置3の制御部35を介してチャンネル切り替えを指示する。
Next, as illustrated in FIG. 6B, when the user switches the channel to be viewed by operating the
端末装置3において、制御部35は、LAN(受信)31,受信バッファ32およびディスプレイ34を制御すると共に、ネットワーク(回線:WiFi)2を介してWiFiチューナ1の制御部を制御する。
In the
すなわち、制御部35は、端末装置3の各部に対するチャンネルの切り替え指示および受信バッファ32に対するクリア指示を行い、さらに、WiFiチューナ1の各部に対するチャンネル切り替えの指示および送信バッファ13に対するクリア指示を行う。これを受けて、WiFiチューナ1および端末装置3の各部は、第1チャンネルから第2チャンネルに切り替えた後のデータ処理の準備を開始する。
That is, the
ここで、例えば、送信バッファ13および受信バッファ32のクリアを行わずに、チューナ11だけ制御してチャンネルを切り替えた場合、例えば、受信バッファ32中には、第1チャンネルに関する数秒〜数十秒分のデータが蓄えられている。
Here, for example, when the channel is switched by controlling only the
そのため、ユーザが第2チャンネルへの切り替えを指示したにも関わらず、切り替え前の第1チャンネルの放送が数秒〜数十秒程度ディスプレイに表示され、ユーザに対して切り替え指示が受け付けられなかったのではないかという心配を与えることになる。 Therefore, even though the user has instructed switching to the second channel, the broadcast of the first channel before switching was displayed on the display for several seconds to several tens of seconds, and the switching instruction was not accepted for the user. It will give you worries.
そのため、ユーザが第1チャンネルから第2チャンネルへの切り替え指示を行った場合、送信バッファ13および受信バッファ32に格納されているデータを破棄し、新たなデータのバッファリングを行う。なお、ディスプレイ34には、第2チャンネルの動画が表示されるまで、例えば、黒画面や第1チャンネルの最後の画面が表示される。
Therefore, when the user gives an instruction to switch from the first channel to the second channel, the data stored in the
その後、送信バッファ13および受信バッファ32がクリアされ、チューナ11によるチャンネル切り替えが行われると、新たな第2チャンネルに関するデータが処理され、送信バッファ13および受信バッファ32に格納される。
After that, when the
すなわち、図6(c)に示されるように、第2チャンネルに関するデータがチューナ11からトランスコーダ12に入力され、第2チャンネルのテレビ放送の最初の有効映像(画像)に対する符号化データF(1)がネットワーク2を介して受信バッファ32に送られる。
That is, as shown in FIG. 6 (c), data relating to the second channel is input from the
ただし、受信バッファ32は、この時点では空となっているため、符号化データF(1)が届いても、そのデータF(1)を直ちにデコーダ33に出力せず、一定のデータ量を格納(バッファリング)した後、データF(1)をデコーダ33に出力する。
However, since the
すなわち、図7(a)〜図7(d)に示されるように、受信バッファ32には、データF(1)に続く、データF(2),F(3),…,F(m),…)が順に入力され、バッファリングされる。そして、受信バッファ32に有効なデータが一定容量(例えば、数秒〜数十秒分:F(2),F(3),…,F(m),F(m+1))だけ溜まると、データF(1)が押し出されて、デコーダ33に入力される。
That is, as shown in FIGS. 7A to 7D, the
その後、図7(d)(図6(a))と同様に、ディスプレイ34には、受信バッファ32に一時的に格納されたデータF(2),F(3),…が順に出力されてデコーダ33でデコードされ、ディスプレイ34には、第2チャンネルのテレビ放送の映像が表示されることになる。
Thereafter, similarly to FIG. 7D (FIG. 6A), data F (2), F (3),... Temporarily stored in the
なお、図6(a)および図7(d)に示されるように、ユーザが端末装置3のディスプレイ34を介して、所定のチャンネルのテレビ放送を視聴している場合、送信バッファ13はエンプティ気味で動作し、受信バッファ32は、フル気味で動作している。
As shown in FIGS. 6A and 7D, when the user is watching a television broadcast of a predetermined channel via the
図8は、図6および図7に示すチャンネル切り替え時におけるデータ量の推移を説明するための図であり、横軸に時間を取り、縦軸にデータ量を取って、各部の入出力データ量およびバッファ内のデータ量の推移の一例を示すものである。 FIG. 8 is a diagram for explaining the transition of the data amount at the time of channel switching shown in FIGS. 6 and 7, where time is taken on the horizontal axis and data amount is taken on the vertical axis, and the input / output data amount of each part. 4 shows an example of the transition of the data amount in the buffer.
すなわち、図8は、例えば、ユーザが端末装置3により第1チェンネルのテレビ放送を視聴している定常状態の期間P21から、期間P22で他の第2チャンネルに切り替えたときのデータ量の推移を示す。
That is, FIG. 8 shows, for example, the change in the amount of data when the user switches from the steady state period P21 in which the user watches the first channel TV broadcast using the
ここで、図8における期間P21は、前述した図6(a)に相当し、期間P22は、図6(b)に相当し、期間P23は、図6(c)および図7(a)〜図7(d)に相当し、そして、期間P24は、図7(d)に相当する。 Here, the period P21 in FIG. 8 corresponds to FIG. 6A described above, the period P22 corresponds to FIG. 6B, and the period P23 corresponds to FIG. 6C and FIG. This corresponds to FIG. 7D, and the period P24 corresponds to FIG.
図8に示されるように、例えば、期間P22(期間P22の最初のタイミング)で、ユーザが端末装置3を操作して視聴するチャンネルを第1チャンネルから第2チャンネルに切り替えた場合、ユーザは、第2チャンネルの画像を直ちに確認することは困難である。
As shown in FIG. 8, for example, when the user switches the channel to be viewed by operating the
例えば、ユーザが第2チャンネルのテレビ放送を視聴できるようになるのは、チャンネル切り替えでバッファをクリアし、受信バッファ32に一定のデータが溜まる期間P23の後、期間P24でデコーダ33が動作を開始してからである。
For example, the user can view the TV broadcast of the second channel because the buffer is cleared by switching the channel, and after a period P23 in which a certain amount of data is accumulated in the
例えば、チャンネルが切り替えられた場合、ある程度(数秒〜数十秒分)のデータが受信バッファ32に溜まるまで、待たされ、それから、デコーダ33にデータが入力されて動作が開始し、新たな第2チャンネルの内容がディスプレイ34に表示される。
For example, when the channel is switched, it is waited until a certain amount of data (several seconds to several tens of seconds) is accumulated in the
そのため、例えば、端末装置3を介してWiFiチューナ1によるテレビ放送を視聴するユーザは、デジタル放送になってチャンネル切り替えのレスポンスが遅くなったのに加え、受信バッファ32等へのバッファリングのための時間だけ待たされることになる。
For this reason, for example, a user who views a television broadcast by the
その結果、ユーザは、チャンネルの切り替え操作を行ってから、新たなチャンネルの放送を視聴できるまで、例えば、数秒〜数十秒程度待たされることになる。このような、ユーザの待たされ感を軽減するために、例えば、砂時計等のアイコンや、EPG(Electronic program guide:電子番組表)等の情報を表示することも考えられるが、根本的な解決策とはなっていない。 As a result, the user waits for several seconds to several tens of seconds, for example, until the user can watch the broadcast of the new channel after performing the channel switching operation. In order to reduce the user's feeling of waiting, it may be possible to display information such as an hourglass icon or an EPG (Electronic program guide). It is not.
また、明確な視聴したい番組がなくていくつかのチャンネルを切り替える、或いは、視聴している番組があってもCM(Commercial Message)に切り替わった際に、他のチャンネルに興味を引く番組がないか確認するザッピングと呼ばれる行為がしばしば行われる。 Also, if there are no programs that you want to watch clearly and you switch between several channels, or if there are programs that you are watching, there are programs that are interested in other channels when switching to CM (Commercial Message) An act called zapping to confirm is often performed.
このとき、チャンネル切り替えに要する時間が僅かであれば、次々にチャンネル切り替えを行って、軽快にザッピング等を行うことができる。しかしながら、上述したようなWiFiチューナによるテレビ放送の受信では、チャンネル切り替えのたびに数秒〜数十秒待たされることになる。 At this time, if the time required for channel switching is short, channel switching can be performed one after another to perform zapping and the like lightly. However, in the reception of a television broadcast by the WiFi tuner as described above, it is necessary to wait several seconds to several tens of seconds every time the channel is switched.
ところで、チャンネル切り替えの際に、切り替え先のチャンネルを視聴する意図が明確であれば、再生までにある程度の時間待たされても負担感は少ない。しかしながら、ザッピング等を行う場合、チャンネルの切り替えのたびに数秒〜数十秒待たされ、さらに、待たされた後のチャンネルでも興味のない内容が放送されていると、徒労感が大きく、ザッピングという行為自体が事実上困難となってしまう。 By the way, at the time of channel switching, if the intention to view the switching destination channel is clear, there is little sense of burden even if waiting for a certain period of time before playback. However, when performing zapping, etc., each time the channel is switched, the user waits for several seconds to several tens of seconds. Further, if the content after the wait is uninteresting is broadcast, there is a great sense of labor. It becomes practically difficult.
次に、図9〜図14を参照して、図4および図5に示すトランスコーダにおける各処理(全体制御処理,ビデオデコード処理,オーディオデコード処理,ビデオトランスコード処理,オーディオトランスコード処理および多重化処理)の一例を説明する。 Next, referring to FIGS. 9 to 14, each process (overall control processing, video decoding processing, audio decoding processing, video transcoding processing, audio transcoding processing and multiplexing in the transcoder shown in FIGS. 4 and 5 is performed. An example of processing will be described.
図9は、図4および図5に示すトランスコーダの全体制御部による全体制御処理の一例を説明するためのフローチャートである。図9に示されるように、全体制御部121による全体制御処理が開始すると、ステップST10において、各部の内部状態初期化し、ステップST11に進んで、デマルチプレクサ部122が動作を開始(ストリームの取り込みを開始)する。
FIG. 9 is a flowchart for explaining an example of overall control processing by the overall controller of the transcoder shown in FIGS. 4 and 5. As shown in FIG. 9, when the overall control process by the
さらに、ステップST12に進んで、デマルチプレクサ部122のPSI解析処理部20によるPSI解析処理の完了を待ち、ステップST13に進んで、ビデオPID(パケット識別子)が確定したか否かを判定する。
Further, the process proceeds to step ST12, waits for the completion of the PSI analysis processing by the PSI
ステップST13において、ビデオPIDが確定した(YES)と判定すると、ステップST17に進んで、デコーダ部123のビデオ処理部31'によるビデオ処理を開始すると共に、マルチプレクサ部126の処理を開始してステップST14に進む。また、ステップST13において、ビデオPIDが確定していない(NO)と判定すると、そのままステップST14に進んで、オーディオPIDが確定したか否かを判定する。
If it is determined in step ST13 that the video PID has been confirmed (YES), the process proceeds to step ST17, where the video processing by the
ステップST14において、オーディオPIDが確定した(YES)と判定すると、ステップST18に進んで、デコーダ部123のオーディオ処理部32'によるオーディオ処理を開始してステップST15に進む。また、ステップST14において、オーディオPIDが確定していない(NO)と判定すると、そのままステップST15に進んで、次のユーザによるアクションを待つ。
If it is determined in step ST14 that the audio PID has been confirmed (YES), the process proceeds to step ST18, where the audio processing by the
そして、ステップST16に進んで、ユーザによるアクションがチャンネルの切り替えか否かを判定し、チャンネルの切り替えである(YES)と判定すると、ステップST19に進んで、各処理部を強制的に停止し、ステップST10に戻って同様の処理を行う。なお、ステップST16において、ユーザによるアクションがチャンネルの切り替えではない(NO)と判定した場合、本実施例と関連が薄いので、その処理の説明は省略する。 Then, the process proceeds to step ST16, where it is determined whether or not the action by the user is channel switching. When it is determined that the channel is switched (YES), the process proceeds to step ST19, and each processing unit is forcibly stopped. Returning to step ST10, the same processing is performed. If it is determined in step ST16 that the user action is not channel switching (NO), the process is not described because it is not related to the present embodiment.
図10は、図4および図5に示すトランスコーダのデコーダ部によるビデオデコード処理の一例を説明するためのフローチャートである。図10に示されるように、デコーダ部123(ビデオ処理部31')によるビデオデコード処理が開始すると、ステップST20において、ビデオ処理部31'を初期化して内部状態の初期化を行い、ステップST21に進む。
FIG. 10 is a flowchart for explaining an example of video decoding processing by the decoder unit of the transcoder shown in FIGS. 4 and 5. As shown in FIG. 10, when the video decoding process by the decoder unit 123 (
ステップST21では、デマルチプレクサ部122からのビデオストリームの取り込みをチェックし、ステップST22に進んで、1ピクチャ分のストリーム(データ)の取り込みが完了したか否かを判定する。
In step ST21, the capturing of the video stream from the
ステップST22において、1ピクチャ分のストリームの取り込みが完了していない(NO)と判定すると、ステップST21に戻ってチェックを行い、1ピクチャ分のストリームの取り込みが完了したと判定するまで、同様の処理を繰り返す。 If it is determined in step ST22 that the capture of the stream for one picture has not been completed (NO), the process returns to step ST21 to check, and the same processing is performed until it is determined that the capture of the stream for one picture has been completed. repeat.
また、ステップST22において、1ピクチャ分のストリームの取り込みが完了した(YES)と判定すると、ステップST23に進み、1ピクチャ分のストリームのデコード処理を実行する。さらに、ステップST24に進んで、デコードしたピクチャがI−ピクチャだったか否かを判定する。 In step ST22, if it is determined that the fetch of the stream for one picture is completed (YES), the process proceeds to step ST23, and the stream decoding process for one picture is executed. Furthermore, it progresses to step ST24 and it is determined whether the decoded picture was an I-picture.
ステップST24において、デコードしたピクチャがI−ピクチャではなかった(NO)と判定すると、ステップST20に戻って同様の処理を繰り返し、I−ピクチャであった(YES)と判定すると、ステップST25に進んで、ビデオ先頭発見フラグをセットする。 If it is determined in step ST24 that the decoded picture is not an I-picture (NO), the process returns to step ST20 and the same processing is repeated. If it is determined that the decoded picture is an I-picture (YES), the process proceeds to step ST25. Set the video head discovery flag.
さらに、ステップST26において、先頭のI−ピクチャのデコードした画像データを、エンコーダ部125に送ってトランスコード処理を開始した後、ステップST27に進んで、ビデオストリームの取り込みチェックを行い、ステップST28に進む。
Further, in step ST26, the decoded image data of the first I-picture is sent to the
ステップST28では、前述したステップST22と同様に、1ピクチャ分のストリームの取り込みが完了したか否かを判定する。ステップST28において、1ピクチャ分のストリームの取り込みが完了していない(NO)と判定すると、ステップST27に戻って同様の処理を繰り返し、また、1ピクチャ分のストリームの取り込みが完了した(YES)と判定すると、ステップST29に進む。 In step ST28, as in step ST22 described above, it is determined whether or not the fetch of the stream for one picture has been completed. If it is determined in step ST28 that the fetching of the stream for one picture is not completed (NO), the process returns to step ST27 and the same processing is repeated, and the fetching of the stream for one picture is completed (YES). If determined, the process proceeds to step ST29.
ステップST29において、1ピクチャ分のストリームのデコード処理を実行し、ステップST30に進んで、デコードしたピクチャは、クローズドB−ピクチャ,I−ピクチャまたはP−ピクチャだったか否かを判定する。ここで、クローズドB−ピクチャ(Closed-B-Picture)は、前方に対する参照を行わないB−ピクチャである。 In step ST29, the decoding process of the stream for one picture is executed, and the process proceeds to step ST30, where it is determined whether or not the decoded picture is a closed B-picture, I-picture or P-picture. Here, the closed B-picture is a B-picture that does not refer to the front.
ステップST30において、デコードしたピクチャがクローズドB−ピクチャ,I−ピクチャおよびP−ピクチャの何れでもなかったと判定する(NO)と、ステップST31に進む。ステップST31において、先頭のI−ピクチャのデコードした画像データを、エンコーダ部125に送ってトランスコード処理を実行し、ステップST27に戻って同様の処理を繰り返す。
If it is determined in step ST30 that the decoded picture is not a closed B-picture, I-picture, or P-picture (NO), the process proceeds to step ST31. In step ST31, the decoded image data of the leading I-picture is sent to the
一方、ステップST30で、デコードしたピクチャがクローズドB−ピクチャ,I−ピクチャまたはP−ピクチャであった(YES)と判定すると、ステップST35に進む。ステップST35において、デコードした画像データを、エンコーダ部125に送ってトランスコード処理を実行した後、ステップST32に進んで、デマルチプレクサ部122からのビデオストリームの取り込みをチェックし、ステップST33に進む。
On the other hand, if it is determined in step ST30 that the decoded picture is a closed B-picture, I-picture, or P-picture (YES), the process proceeds to step ST35. In step ST35, the decoded image data is sent to the
ステップST33において、1ピクチャ分のストリームの取り込みが完了していない(NO)と判定すると、ステップST32に戻り、1ピクチャ分のストリームの取り込みが完了したと判定するまで、同様の処理を繰り返す。 If it is determined in step ST33 that the fetching of the stream for one picture is not completed (NO), the process returns to step ST32 and the same processing is repeated until it is determined that the fetching of the stream for one picture is completed.
また、ステップST33において、1ピクチャ分のストリームの取り込みが完了した(YES)と判定すると、ステップST34に進み、1ピクチャ分のストリームのデコード処理を実行する。さらに、前述したステップST35に進んで同様の処理を繰り返し、ビデオデコード処理(ビデオトランスコード処理)を継続する。 If it is determined in step ST33 that the fetching of the stream for one picture is completed (YES), the process proceeds to step ST34, and the decoding process of the stream for one picture is executed. Furthermore, it progresses to step ST35 mentioned above, the same process is repeated, and a video decoding process (video transcode process) is continued.
図11は、図4および図5に示すトランスコーダのデコーダ部によるオーディオデコード処理の一例を説明するためのフローチャートである。図11に示されるように、デコーダ部123(オーディオ処理部32')によるオーディオデコード処理が開始すると、ステップST40において、オーディオ処理部32'を初期化して内部状態の初期化を行い、ステップST41に進む。
FIG. 11 is a flowchart for explaining an example of audio decoding processing by the decoder unit of the transcoder shown in FIGS. 4 and 5. As shown in FIG. 11, when the audio decoding process by the decoder unit 123 (
ステップST41では、デマルチプレクサ部122からのオーディオストリームの取り込みをチェックし、ステップST42に進んで、1AAU(Audio Access Unit:オーディオ復号単位)分のストリーム(データ)の取り込みが完了したか否かを判定する。
In step ST41, the audio stream acquisition from the
ステップST42において、1AAU分のストリームの取り込みが完了していない(NO)と判定すると、ステップST41に戻ってチェックを行い、1AAU分のストリームの取り込みが完了したと判定するまで、同様の処理を繰り返す。 If it is determined in step ST42 that the capture of the stream for 1 AAU is not completed (NO), the process returns to step ST41 and the same process is repeated until it is determined that the capture of the stream for 1 AAU is completed. .
また、ステップST42において、1AAU分のストリームの取り込みが完了した(YES)と判定すると、ステップST43に進み、ビデオ先頭発見フラグをチェックし、ステップST44に進んで、ビデオ先頭が発見済みか否かを判定する。 In step ST42, if it is determined that the capture of the stream for one AAU is completed (YES), the process proceeds to step ST43, the video head discovery flag is checked, and the process proceeds to step ST44 to determine whether the video head has been found. judge.
ステップST44において、ビデオ先頭が発見済みではない(NO)と判定すると、ステップST47に進み、取り込んだ1AAU分のデータを破棄して、ステップST41に戻り、ビデオ先頭が発見済みであると判定されるまで同様の処理を繰り返す。 If it is determined in step ST44 that the video head has not been found (NO), the process proceeds to step ST47, the captured data for 1 AAU is discarded, and the process returns to step ST41 to determine that the video head has been found. Repeat the same process until.
一方、ステップST44で、ビデオ先頭が発見済みである(YES)と判定すると、ステップST45に進み、1AAU分のデコードを実行した後、ステップST46に進んで、デコードした音声データをエンコーダ部125に送ってトランスコード処理を開始する。
On the other hand, if it is determined in step ST44 that the beginning of the video has been found (YES), the process proceeds to step ST45, after decoding for 1 AAU, the process proceeds to step ST46, and the decoded audio data is sent to the
さらに、ステップST48に進んで、オーディオストリームの取り込みをチェックした後、ステップST49において、1AAU分のストリームの取り込みが完了したか否かを判定する。 Further, the process proceeds to step ST48, and after checking the audio stream capturing, it is determined in step ST49 whether or not the capturing of the stream for one AAU is completed.
ステップST49において、1AAU分のストリームの取り込みが完了していない(NO)と判定すると、ステップST48に戻ってチェックを行い、1AAU分のストリームの取り込みが完了したと判定するまで、同様の処理を繰り返す。 If it is determined in step ST49 that the capture of the stream for 1 AAU has not been completed (NO), the process returns to step ST48 to check, and the same processing is repeated until it is determined that the capture of the stream for 1 AAU is completed. .
また、ステップST49において、1AAU分のストリームの取り込みが完了した(YES)と判定すると、ステップST50に進み、1AAU分のデコード処理を実行し、ステップST51に進む。 Further, if it is determined in step ST49 that the capture of the stream for 1 AAU is completed (YES), the process proceeds to step ST50, the decoding process for 1 AAU is executed, and the process proceeds to step ST51.
ステップST51では、デコードした音声データをエンコーダ部125に送ってトランスコード処理を実行し、さらに、前述したステップST48に戻って、オーディオデコード処理(オーディオトランスコード処理)を継続する。
In step ST51, the decoded audio data is sent to the
図12は、図4および図5に示すトランスコーダのエンコーダ部によるビデオトランスコード処理の一例を説明するためのフローチャートである。図12に示されるように、エンコーダ部125(ビデオ処理部51)によるビデオトランスコード処理が開始すると、ステップST60において、ビデオ処理部51を初期化して内部状態の初期化を行い、ステップST61に進む。
FIG. 12 is a flowchart for explaining an example of video transcoding processing by the encoder unit of the transcoder shown in FIGS. 4 and 5. As shown in FIG. 12, when video transcoding processing by the encoder unit 125 (video processing unit 51) starts, in step ST60, the
ステップST61では、画像データをチェックし、ステップST62に進んで、画像データがあるか否かを判定する。ステップST62において、画像データがない(NO)と判定すると、ステップST61に戻ってチェックを行い、画像データがあると判定するまで、同様の処理を繰り返す。 In step ST61, the image data is checked, and the process proceeds to step ST62 to determine whether there is image data. If it is determined in step ST62 that there is no image data (NO), the process returns to step ST61 to check, and the same processing is repeated until it is determined that there is image data.
一方、ステップST62において、画像データがある(YES)と判定すると、ステップST63に進んで、画像データのビデオエンコード(トランスコード)を実行し、さらに、ステップST64に進む。 On the other hand, if it is determined in step ST62 that there is image data (YES), the process proceeds to step ST63, video encoding (transcoding) of the image data is executed, and the process further proceeds to step ST64.
ステップST64では、トランスコードしたビデオストリームをマルチプレクサ部126に送った後、ステップST61に戻って同様の処理を繰り返し、ビデオトランスコード処理を継続する。
In step ST64, after the transcoded video stream is sent to the
図13は、図4および図5に示すトランスコーダのエンコーダ部によるオーディオトランスコード処理の一例を説明するためのフローチャートである。図13に示されるように、エンコーダ部125(オーディオ処理部52)によるオーディオトランスコード処理が開始すると、ステップST70において、オーディオ処理部52を初期化して内部状態の初期化を行い、ステップST71に進む。
FIG. 13 is a flowchart for explaining an example of audio transcoding processing by the encoder unit of the transcoder shown in FIGS. 4 and 5. As shown in FIG. 13, when the audio transcoding process by the encoder unit 125 (audio processing unit 52) is started, in step ST70, the
ステップST71では、音声データをチェックし、ステップST72に進んで、音声データがあるか否かを判定する。ステップST72において、音声データがない(NO)と判定すると、ステップST71に戻ってチェックを行い、音声データがあると判定するまで、同様の処理を繰り返す。 In step ST71, the audio data is checked, and the process proceeds to step ST72 to determine whether there is audio data. If it is determined in step ST72 that there is no audio data (NO), the process returns to step ST71 to check, and the same processing is repeated until it is determined that there is audio data.
一方、ステップST72において、音声データがある(YES)と判定すると、ステップST73に進んで、音声データのオーディオエンコード(トランスコード)を実行し、さらに、ステップST74に進む。 On the other hand, if it is determined in step ST72 that there is audio data (YES), the process proceeds to step ST73, audio encoding (transcoding) of the audio data is executed, and the process further proceeds to step ST74.
ステップST74では、トランスコードしたオーディオストリームをマルチプレクサ部126に送った後、ステップST71に戻って同様の処理を繰り返し、オーディオトランスコード処理を継続する。
In step ST74, after the transcoded audio stream is sent to the
図14は、図4および図5に示すトランスコーダにおけるマルチプレクサ部による多重化処理の一例を説明するためのフローチャートである。図14に示されるように、マルチプレクサ部126による多重化処理が開始すると、ステップST80において、ビデオ先頭発見フラグをチェックし、ステップST81に進んで、ビデオ先頭が発見済みか否かを判定する。
FIG. 14 is a flowchart for explaining an example of multiplexing processing by the multiplexer unit in the transcoder shown in FIGS. 4 and 5. As shown in FIG. 14, when the multiplexing process by the
ステップST81において、ビデオ先頭が発見済みではない(NO)と判定すると、ステップST80に戻り、ビデオ先頭が発見済みであると判定されるまで同様の処理を繰り返す。そして、ステップST81において、ビデオ先頭が発見済みである(YES)と判定すると、ステップST82に進み、トランスコード済みのデータをチェックした後、ステップST83に進んで、データがあるか否かを判定する。 If it is determined in step ST81 that the video head has not been found (NO), the process returns to step ST80, and the same processing is repeated until it is determined that the video head has been found. If it is determined in step ST81 that the beginning of the video has been found (YES), the process proceeds to step ST82, and after checking the transcoded data, the process proceeds to step ST83 to determine whether there is data. .
ステップST83において、データがない(NO)と判定すると、ステップST82に戻り、データがあると判定されるまで同様の処理を繰り返す。そして、ステップST83において、データがある(YES)と判定すると、ステップST84に進んで、ビデオのストリームデータか否かを判定する。 If it is determined in step ST83 that there is no data (NO), the process returns to step ST82, and the same processing is repeated until it is determined that there is data. If it is determined in step ST83 that there is data (YES), the process proceeds to step ST84 to determine whether the data is video stream data.
ステップST84において、ビデオのストリームデータではない(NO)と判定すると、ステップST87に進んで、トランスコード済みのデータを破棄した後、ステップST82に戻り、同様の処理を繰り返す。 If it is determined in step ST84 that the data is not video stream data (NO), the process proceeds to step ST87, the transcoded data is discarded, the process returns to step ST82, and the same processing is repeated.
一方、ステップST84で、ビデオのストリームデータである(YES)と判定すると、ステップST85に進んで、先頭ピクチャのPTS(Presentation Time Stamp)およびDTS(Decode Time Stamp)を取り込み、先頭ピクチャの多重化開始時刻を計算する。さらに、ステップST85において、計算された先頭ピクチャの多重化開始時刻をSTC(System Time Clock)にセットし、STC用カウンタ63のカウントを開始する。
On the other hand, if it is determined in step ST84 that the data is video stream data (YES), the process proceeds to step ST85, where the PTS (Presentation Time Stamp) and DTS (Decode Time Stamp) of the leading picture are captured, and the multiplexing of the leading picture is started. Calculate the time. Further, in step ST85, the calculated multiplexing start time of the first picture is set to STC (System Time Clock), and counting of the
そして、ステップST86に進んで、STCに従ってビデオストリーム,オーディオストリームおよびPSI(Program Specific Information)ストリームの多重化を開始する。なお、ステップST86以降の処理は、本実施例と関連が薄いので、その説明は省略する。 Then, the process proceeds to step ST86, and multiplexing of the video stream, the audio stream, and the PSI (Program Specific Information) stream is started according to the STC. In addition, since the process after step ST86 has little relation with a present Example, the description is abbreviate | omitted.
以下、動画像処理方法、動画像処理システムおよび動画像処理プログラムの実施例を、添付図面を参照して詳述する。図15は、本実施例に係る動画像処理システム(動画像処理装置)におけるトランスコーダおよびストリームの一例を示す図である。すなわち、図15(a)は、トランスコーダ12の一実施例の詳細をチューナ11および送信バッファ13と共に示し、図15(b)は、トランスコーダ12から出力されるストリーム(トランスポートストリーム)の一例を示す。
Embodiments of a moving image processing method, a moving image processing system, and a moving image processing program will be described in detail below with reference to the accompanying drawings. FIG. 15 is a diagram illustrating an example of a transcoder and a stream in the moving image processing system (moving image processing apparatus) according to the present embodiment. 15A shows details of an embodiment of the
図15(a)と前述した図4(a)の比較から明らかなように、本実施例の動画像処理装置におけるトランスコーダ12は、マルチプレクサ部(MUX)126は、強制NULL生成部(ダミーデータ生成部)60を含む。
As apparent from the comparison between FIG. 15A and FIG. 4A described above, the
強制NULL生成部60は、例えば、チャンネルが切り替えられ、切り替え後のチャンネルの動画像データにおける先頭にI−ピクチャが生成された後、回線(ネットワーク)2の最大伝送能力に基づいてNULLデータ(ダミーデータ)を強制的に生成する。なお、詳細は、後に詳述する。
For example, after the channel is switched and an I-picture is generated at the head of the moving image data of the channel after the switching, the forced
なお、全体制御部121,デマルチプレクサ部(DEMUX)122,デコーダ部123,メモリ124およびエンコーダ部125は、実質的に、それぞれ図4(a)を参照して説明したものに相当する。
The
すなわち、デマルチプレクサ部122は、PSI解析部20を含み、デコーダ部123は、ビデオ処理部31'およびオーディオ処理部32'を含み、そして、エンコーダ部125は、ビデオ処理部51およびオーディオ処理部52を含む。
That is, the
全体制御部121は、デマルチプレクサ部122およびデコーダ部123を制御し、例えば、チューナ11からのMPEG−2のデジタルデータから画像データおよび音声データを取り出してメモリ124に格納する。
The
また、全体制御部121は、エンコーダ部125およびマルチプレクサ部126を制御し、メモリ124から読み出した画像データおよび音声データを、例えば、MPEG−2よりも高圧縮率のH.264のデジタルデータに変換して送信バッファ13に出力する。
In addition, the
すなわち、トランスコーダ12は、例えば、チューナ11からのMPEG−2のデジタルデータを、WiFi等のネットワーク2でも伝送可能な、より高い圧縮率で圧縮したH.264等のデジタルデータに変換して、ネットワーク2に出力する。
That is, the
図15(b)に示されるように、トランスコーダ12からのストリームは、例えば、PAT,PMT,PCR,PAT,PMT,PCR,I-pic,PCR,P-pic,…,P-pic,NULL(ヌルデータ、ダミーデータ),I-pic,B-pic,B-pic,…と配列される。
As shown in FIG. 15B, the stream from the
本実施例の動画像処理装置(トランスコーダ12)は、例えば、マルチプレクサ部126に設けた強制NULL生成部60により、チャンネル切り替え後の先頭のI−ピクチャの後に、NULLパケット(ダミーデータ)を生成して出力する。
The moving image processing apparatus (transcoder 12) of the present embodiment generates, for example, a NULL packet (dummy data) after the first I-picture after channel switching by the forced
すなわち、図15(b)に示されるように、トランスコーダ12は、PAT,PMT,PCRを2回以上挿入して、受信側(端末装置3の(デコーダ33)でPID解析が正しく行われるようにしている。
That is, as shown in FIG. 15B, the
ここで、トランスコーダ12は、先頭のI−ピクチャ(先頭I−pic)を、DTS=PTSとしてリオーダなしで再生されるようにして出力する。すなわち、リオーダ処理を行うことにより、圧縮率を高くしてデータ量を低減することが可能であるが、本実施例では、端末装置3において、先頭I−picの画像を直ちに再生できるように、リオーダ処理は行わない。具体的に、PCR(PTS)として、先頭I−picの後、再生開始時刻に到達するようにしている。
Here, the
すなわち、例えば、H.264等の動画圧縮では、圧縮効率を上げるために双予測(MPEGでは、双方向予測と呼ばれる)技術が用いられる。そのため、各ピクチャは、圧縮率を向上させるためにリオーダ処理によって順番が入れ替えられ、その結果、圧縮データのピクチャの並び順と、表示の際のピクチャの並び順は必ずしも一致しない。 That is, for example, H.I. In video compression such as H.264, a bi-prediction technique (referred to as bidirectional prediction in MPEG) is used to increase compression efficiency. Therefore, the order of the pictures is changed by reorder processing in order to improve the compression rate. As a result, the arrangement order of the pictures in the compressed data does not necessarily match the arrangement order of the pictures at the time of display.
本実施例では、例えば、チャンネルを切り替えた後の先頭I-picによる画像を最短時間で表示させるため、多少の圧縮率が低下しても、リオーダ処理を適用せずに、デコーダ33が先頭I-picを受け取ったら直ちにデコードして画像を表示できるようにしている。
In the present embodiment, for example, since the first I-pic image after the channel switching is displayed in the shortest time, the
さらに、先頭I-picのデータの後に、I-picを前参照するだけのP−ピクチャ(P-pic)を複数枚数挿入する。この挿入するP-picの枚数は、例えば、1秒分(30ピクチャ)程度を目安として予め設定される。 Further, a plurality of P-pictures (P-pics) that only refer to the I-pic are inserted after the first I-pic data. The number of P-pics to be inserted is set in advance, for example, about 1 second (30 pictures).
なお、挿入するP-picの枚数は、例えば、そのシステムに適用される送信バッファ13および受信バッファ32の容量に応じて、容量が大きい場合には枚数を増加し、容量が小さい場合には枚数を減少するといった調整を行ってもよい。或いは、元ストリームのリオーダ枚数(B−ピクチャ(B-pic)の枚数)やPCRとI-picのPTSの差等に基づいて、挿入するP-picの枚数を調整することもできる。
The number of P-pics to be inserted depends on the capacity of the
そして、受信側(受信バッファ32)の容量に相当するデータ分のNULLパケットを挿入することで、に先頭I-picが受信バッファ32からデコーダ33速やかに渡るようにしている。
Then, by inserting a NULL packet corresponding to the capacity of the receiving side (receiving buffer 32), the leading I-pic is quickly passed from the receiving
このように、図15(b)に示されるように、本実施例のトランスコーダ12では、トランスコードの開始時の先頭のI−ピクチャ(先頭I−pic)の後、前参照するだけのP−ピクチャを複数枚分挿入する。そして、強制NULL生成部60により生成されたNULLパケットが、回線(ネットワーク)の最大伝送能力に基づいて端末装置3に伝送(送信)される。
In this way, as shown in FIG. 15B, the
これにより、端末装置3における受信バッファ32は、NULLパケットにより埋められることになり、短時間で先頭のI−ピクチャのデータがデコーダ33に入力され、端末装置3のディスプレイ34には、短時間で画像が表示されることになる。
As a result, the
すなわち、例えば、図4(a)および図4(b)を参照して説明した動画像処理装置では、先頭のI−ピクチャ以後のデータ(ピクチャストリーム)は、設定ビットレートに従って生成される。 That is, for example, in the moving image processing apparatus described with reference to FIGS. 4A and 4B, data (picture stream) after the first I-picture is generated according to the set bit rate.
そのため、受信バッファ32がフル(一定容量)になって先頭I-picがデコーダに送られるまで、受信バッファのサイズ(数秒〜数十秒)の時間を要するが、本実施例によれば、NULLパケットにより、受信バッファ32を強制的にフル状態とすることができる。
Therefore, it takes time of the size of the reception buffer (several seconds to several tens of seconds) until the
これにより、先頭I-picが短時間でデコーダ33に送られ、速やかに先頭I-picの表示が実現される。すなわち、最初の画像が表示されるまでの待ち時間を短縮することができる。
As a result, the leading I-pic is sent to the
なお、2番目のI-pic以降は、通常通りにトランスコードされたデータが受信バッファ32に溜まってからになる。そのため、2番目のI-pic以降の画像が表示されるまでには、受信バッファ32のサイズに対応した時間を要するが、先頭のピクチャの表示がされているため、待たされている感は大幅に緩和される。
After the second I-pic, data transcoded as usual is accumulated in the
ここで、ディスプレイ34に表示される画像は、例えば、切り替え後のチャンネルにおける放送の先頭I-pic(静止画)であるが、例えば、ザッピングを行う場合には、チャンネル切り替え後の静止画を確認すれば十分な場合が多いと考えられる。
Here, the image displayed on the
さらに、本実施例の動画像処理装置(動画像処理システム)の適用は、端末装置3自体に対する新たな改良や変更を行わなくてもよいため、端末装置3は、そのまま使用することが可能となる。すなわち、本実施例によれば、端末装置の構成を変更することなく、最初の画像が表示されるまでの待ち時間を短縮することができる。
Furthermore, since the application of the moving image processing apparatus (moving image processing system) of the present embodiment does not require new improvements or changes to the
図16は、図15に示すトランスコーダにおけるマルチプレクサ部の一例を示すブロック図である。図16と前述した図5の比較から明らかなように、本実施例におけるトランスコーダ12は、オアゲート127を含む。
FIG. 16 is a block diagram showing an example of a multiplexer unit in the transcoder shown in FIG. As is clear from the comparison between FIG. 16 and FIG. 5 described above, the
オアゲート127は、NULLパケット挿入モードか否かを指定するNULLパケット挿入モード指定信号MSnpと、NULLパケット強制挿入モードを指定するNULLパケット強制挿入モード指定信号MSicを受け取り、その論理和信号を出力する。
The OR
ここで、オアゲート127の出力信号は、ヌル(NULL)パケット生成部69に入力され、また、NULLパケット強制挿入モード指定信号MSicは、STC用カウンタ63'にも入力される。すなわち、STC用カウンタ63'は、後に詳述するように、NULLパケット強制挿入モード指定信号MSicに基づく高速モード機能を有している。
Here, the output signal of the
なお、FIFOバッファ61,62、ビデオTSパケット生成部64,オーディオTSパケット生成部65およびPAT生成部66の構成および動作は、図5を参照したのと同様であり,その説明は省略する。また、PMT生成部67,PCR生成部68,多重化対象決定部70および多重化対象選択部71の構成および動作も、図5を参照したのと同様であり,その説明は省略する。
The configurations and operations of the FIFO buffers 61 and 62, the video
本実施例のマルチプレクサ部126において、NULLパケット生成部69は、NULLパケット強制挿入モード指定信号MSicが入力された場合、NULLパケット挿入モード指定信号MSnpに関わらず、NULLパケットを強制挿入するようになっている。なお、NULLパケット生成部69の構成および動作自体は、図5を参照したのと同様である。
In the
また、STC用カウンタ63'には、高速モード機能が付加されており、強制NULLパケット挿入モードが指定(信号MSicが入力)された場合、STC用カウンタ63'は、通常の動作よりも高速の動作が可能な高速モードとなる。
The
すなわち、本実施例におけるSTC用カウンタ63'には、例えば、1ずつカウントアップしてシステム時刻(STC:System Time Clock)を生成する通常モードと、予め設定された数(カウントアップ値)ずつカウントアップする高速モードを有している。
That is, the
ここで、カウントアップ値の設定は、例えば、送信バッファ13および受信バッファ32の容量、並びに、先頭ピクチャおよび後続のスキップ(Skip-)P−ピクチャをどれくらいの時間で送り込むかに基づいて行われる。
Here, the count-up value is set based on, for example, the capacities of the
具体的に、5秒分の時間に相当するデータを、1フレーム時間を33msecとして送信バッファ13および受信バッファ32に送り込む場合、5sec/33msec≒151.5とり、カウントアップ値は、例えば、151.5等に設定すればよいことになる。
Specifically, when data corresponding to a time of 5 seconds is sent to the
以上において、図15および図16に示すトランスコーダは、単なる例を示すものであり、本実施例が適用されるトランスコーダは、図15および図16に示すものに限定されず、様々な変形および変更が可能なのはいうまでもない。 In the above, the transcoder shown in FIG. 15 and FIG. 16 is merely an example, and the transcoder to which the present embodiment is applied is not limited to that shown in FIG. 15 and FIG. Needless to say, changes are possible.
図17は、図15および図16に示すトランスコーダを適用した場合におけるチャンネル切り替え時の動作を説明するための図であり、前述した図7に相当するものである。なお、端末装置(WiFiチューナの受信装置)3のユーザが定常状態で視聴している状況は、図6(a)を参照して説明したのと同様である。 FIG. 17 is a diagram for explaining the operation at the time of channel switching when the transcoder shown in FIGS. 15 and 16 is applied, and corresponds to FIG. 7 described above. The situation in which the user of the terminal device (WiFi tuner receiving device) 3 is viewing in a steady state is the same as described with reference to FIG.
さらに、ユーザがチャンネルの切り替えを指示した状況、並びに、ユーザがチャンネルの切り替えを指示した直後の状況も、図6(b)並びに図6(c)を参照して説明したのと同様である。 Further, the situation in which the user has instructed to switch channels and the situation immediately after the user has instructed to switch channels are the same as described with reference to FIGS. 6B and 6C.
すなわち、図17(a),図17(b)および図17(c)は、本実施例の動画像処理装置(トランスコーダ)により、ユーザがチャンネルの切り替えを指示した直後の図6(c)に続く状況を説明するためのものである。なお、切り替え後のチャンネルにより、ユーザが定常状態で視聴している状況は、図7(d)を参照して説明したのと同様である。 That is, FIG. 17A, FIG. 17B, and FIG. 17C show FIG. 6C immediately after the user instructs switching of the channel by the moving image processing apparatus (transcoder) of the present embodiment. This is to explain the situation that follows. Note that the situation in which the user is viewing in a steady state by the channel after switching is the same as described with reference to FIG.
図17(a)〜図17(c)において、受信バッファ32中の参照符号F(1),F(2),F(3)は、符号化された各映像フレームに対応するデータを示し、NULLは、トランスポートストリームのヌルパケットを示す。
17 (a) to 17 (c), reference codes F (1), F (2), and F (3) in the
なお、F(1)は、例えば、ユーザが第1チャンネルから第2チャンネルへの切り替え指示を行った場合、切り替え後の第2チャンネルのテレビ放送の最初の有効映像(先頭のI−ピクチャ:先頭I-pic)に対する符号化データに対応する。 Note that F (1) is the first effective video (first I-picture: first head) of the second channel television broadcast after switching, for example, when the user gives an instruction to switch from the first channel to the second channel. Corresponds to encoded data for I-pic).
また、上述したように、本実施例では、切り替え後の第2チャンネルのテレビ放送の先頭I-picを、端末装置3のディスプレイ34に短時間で表示可能とするために、先頭I-picに対してはリオーダ処理を行わないようになっている。
In addition, as described above, in this embodiment, the first I-pic of the second channel TV broadcast after switching is displayed in the first I-pic in order to be able to be displayed on the
まず、前述した図6(c)のように、例えば、第2チャンネルのテレビ放送の先頭I-picに対する符号化データF(1)がネットワーク2を介して受信バッファ32に送られる。その後、図17(a)に示されように、トランスコーダ12は、ヌルパケット(ダミーデータ)NULLを強制的に生成し、ネットワーク2を介して受信バッファ32に伝送する。
First, as shown in FIG. 6C described above, for example, encoded data F (1) for the leading I-pic of the second channel television broadcast is sent to the
なお、図15(b)を参照して説明したように、トランスコーダ12は、先頭I-pic(データF(1))の後に、例えば、端末装置3に対して、先頭I-picによる静止画の表示を継続するための複数のP-picを生成して受信バッファ32に伝送している。
Note that, as described with reference to FIG. 15B, the
また、強制的に挿入するヌルパケットNULLと共に、例えば、タイムスタンプを調整した音声パケットを、ネットワーク2を介して受信バッファ32に伝送すれば、端末装置3(ディスプレイ34)に静止画を表示している間、音声を出力することもできる。
For example, if a null packet NULL to be forcibly inserted and a voice packet whose time stamp is adjusted are transmitted to the
次に、図17(b)に示されるように、受信バッファ32が、ヌルパケットNULLにより満たされるようになると、先頭I-picのデータF(1)がデコーダ33に押し出されることになる。
Next, as shown in FIG. 17B, when the
そして、図17(c)に示されるように、例えば、デコーダ33により、データF(1)の処理が済めば、ディスプレイ34には、先頭I-picによる画像が表示され、ユーザは、その画像を確認することができる。なお、図17(a)〜図17(c)に示されるように、送信バッファ13は、エンプティ(空)気味で動作している。
Then, as shown in FIG. 17 (c), for example, when the processing of the data F (1) is completed by the
ここで、ヌルパケットNULLの伝送量(送信量)は、例えば、ネットワーク2の最大伝送能力に基づいて設定される。すなわち、トランスコーダ12が生成するヌルパケットNULLは、通常通りにトランスコードされたデータよりもはるかに大きいため、受信バッファ32は、ネットワーク2の最大伝送能力に応じた短時間でフル(満)の状態になる。
Here, the transmission amount (transmission amount) of the null packet NULL is set based on the maximum transmission capability of the
また、2番目のI-picのデータF(2)以降の画像が表示されるまでには、受信バッファ32のサイズに対応した時間を要するが、先頭I-picによる画像(静止画)の表示がされているため、待たされている感は大幅に緩和される。
In addition, it takes time corresponding to the size of the
また、受信バッファ32に蓄えられたヌルパケットNULLは、デコーダ33に入力されることになるが、デコーダ33は、そのNULLデータを単純に破棄するだけで、何ら問題を生じることはない。
The null packet NULL stored in the
さらに、チャンネル切り替え後の内容が、例えば、CM等で希望のものでなかった場合、数秒〜数十秒も待つことなく、短時間の内に、先頭I-picによる静止画を確認することができるため、ザッピング等も軽快に行うことができる。 Furthermore, if the content after the channel change is not what is desired, for example, in a CM, the still image by the head I-pic can be confirmed within a short time without waiting for several seconds to several tens of seconds. Therefore, zapping and the like can be easily performed.
図18は、図17に示すチャンネル切り替え時におけるデータ量の推移を説明するための図であり、横軸に時間を取り、縦軸にデータ量を取って、各部の入出力データ量およびバッファ内のデータ量の推移の一例を示すものである。 FIG. 18 is a diagram for explaining the transition of the data amount at the time of channel switching shown in FIG. 17. The horizontal axis represents time, the vertical axis represents the data amount, the input / output data amount of each part, and the buffer contents It shows an example of the transition of the data amount.
すなわち、図18は、例えば、ユーザが端末装置3により第1チェンネルのテレビ放送を視聴している定常状態の期間P31から、期間P32で他の第2チャンネルに切り替えたときのデータ量の推移を示す。なお、図18において、クロスハッチングは、ヌルパケットNULL(ダミーデータ)を示す。
That is, FIG. 18 shows, for example, the change in the amount of data when the user switches from the steady state period P31 in which the user watches the first channel television broadcast using the
ここで、図18における期間P31は、前述した図6(a)に相当し、期間P32は、図6(b)に相当し、期間P33は、図6(c)に相当し、期間P34は、上述した図17(a)および図17(b)に相当し、そして、期間P35は、図17(c)に相当する。 Here, the period P31 in FIG. 18 corresponds to FIG. 6A described above, the period P32 corresponds to FIG. 6B, the period P33 corresponds to FIG. 6C, and the period P34 corresponds to FIG. 17 corresponds to FIG. 17A and FIG. 17B described above, and the period P35 corresponds to FIG. 17C.
図18に示されるように、例えば、期間P32(期間P32の最初のタイミング)で、ユーザが端末装置3を操作して視聴するチャンネルを第1チャンネルから第2チャンネルに切り替えた場合、ユーザは、第2チャンネルの画像を直ちに確認することは困難である。
As illustrated in FIG. 18, for example, when the user switches the channel to be viewed by operating the
例えば、ユーザが第2チャンネルのテレビ放送を視聴できるようになるのは、チャンネル切り替えでバッファをクリアし、受信バッファ32に一定のデータが溜まる期間P33,P34の後、期間P35でデコーダ33が動作を開始してからである。ここで、本実施例では、例えば、ヌルパケットNULLにより、ネットワーク2の最大伝送能力に基づいて伝送量で受信バッファ32にデータを溜めることができる。
For example, the user can view the television broadcast of the second channel because the buffer is cleared by switching the channel, and the
すなわち、図8の例では、例えば、テレビ放送といった所定量で与えられるデータを、ピクチャ単位でトランスコードしてネットワーク2に出力するため、間欠的な動作となって受信バッファ32にデータが溜まるには、数秒〜数十秒程度の時間を要する。
That is, in the example of FIG. 8, for example, data given in a predetermined amount such as television broadcasting is transcoded in units of pictures and output to the
これに対して、図18に示されるように、本実施例では、期間P33で、先頭I-picおよび複数のP-pic等によるデータ伝送を行った後、第2チャンネルのデータ量が少なくても、ヌルパケットNULLを使用して受信バッファ32にデータを溜めることができる。
On the other hand, as shown in FIG. 18, in the present embodiment, the data amount of the second channel is small after performing data transmission by the first I-pic and a plurality of P-pics in the period P33. In addition, data can be stored in the
例えば、ネットワーク2の最大伝送能力(データ量)TDmが、通常のストリームのデータ量の10倍であれば、その最大伝送能力に基づいたヌルパケットNULLを伝送することで、1/10の時間で受信バッファ32をフルとすることができる。
For example, if the maximum transmission capacity (data amount) TDm of the
これにより、受信バッファ32から先頭I-picのデータF(1)がデコーダ押し出され、ユーザは、短い待ち時間で先頭I-picによる画像を確認することができる。すなわち、図18の期間P33,P34と、図8の期間P23の比較から明らかなように、本実施例によれば、受信バッファ32にデータが溜まるまでの時間を大幅に短縮することが可能なのが分かる。
As a result, the head I-pic data F (1) is pushed out from the
以上において、本実施例におけるダミーデータとしては、トランスポートストリーム(TS)のNULLパケットを始め、デコード対象外のPIDを持ったTSパケット等のデコーダ33によるデコード処理に影響を与えず破棄されるものであれば、何でもよい。また、上述した説明では、TSパケットを使用しているが、デコーダ33側の処理に影響を与えることなく破棄されるデータであれば、TSパケットに限定されるものではない。
In the above, the dummy data in this embodiment is discarded without affecting the decoding process by the
次に、図19〜図21を参照して、図16に示すトランスコーダにおける各処理(ビデオデコード処理,ビデオトランスコード処理および多重化処理)の一例を説明する。なお、トランスコーダ12における全体制御処理,デコーダ部123におけるオーディオデコード処理,エンコーダ部125におけるオーディオトランスコード処理は、それぞれ図9,図11および図13を参照して説明したのと同様であり、その説明は省略する。
Next, an example of each process (video decoding process, video transcoding process, and multiplexing process) in the transcoder shown in FIG. 16 will be described with reference to FIGS. The overall control process in the
図19は、図15および図16に示すトランスコーダのデコーダ部によるビデオデコード処理の一例を説明するためのフローチャートであり、前述した図10に対応するものである。 FIG. 19 is a flowchart for explaining an example of video decoding processing by the decoder unit of the transcoder shown in FIGS. 15 and 16, and corresponds to FIG. 10 described above.
ここで、図19と前述した図10の比較から明らかなように、図19において、ステップST20〜ST24およびステップST27〜ST35は、図10と同様の処理を行うものである。 Here, as is clear from the comparison between FIG. 19 and FIG. 10 described above, in FIG. 19, steps ST20 to ST24 and steps ST27 to ST35 perform the same processing as in FIG.
すなわち、図19に示されるように、ステップST24において、デコードしたピクチャがI−ピクチャであった(YES)と判定すると、図10におけるステップST25の代わりに、ステップST200に進む。 That is, as shown in FIG. 19, if it is determined in step ST24 that the decoded picture is an I-picture (YES), the process proceeds to step ST200 instead of step ST25 in FIG.
ステップST200において、ビデオ先頭発見フラグをセットし、先頭のI−ピクチャの本来のPTS,DTSを、内部レジスタorgPTS,orgDTSに退避し(PTS:=orgPTS,DTS:=orgDTS)、ステップST201に進む。 In step ST200, the video head discovery flag is set, and the original PTS and DTS of the head I-picture are saved in the internal registers orgPTS and orgDTS (PTS: = orgPTS, DTS: = orgDTS), and the process proceeds to step ST201.
ステップST201では、先頭のI−ピクチャの本来のPTS,DTSを、PreTime分変更(タイムスタンプを変更)し、デコードした画像データをエンコーダ部125に送って、トランスコードを開始する(PTS:DTS:=orgPTS−PreTime)。
In Step ST201, the original PTS and DTS of the first I-picture are changed by PreTime (time stamp is changed), the decoded image data is sent to the
ここで、PreTimeの値は、例えば、受信バッファ32の容量から想定される遅延時間を考慮し、予めパラメータとしてレジスタに設定しておくのが好ましい。ただし、端末装置3から表示開始タイミング(先頭のI−ピクチャを表示するタイミング)を、WiFiチューナ1(送信装置:トランスコーダ12)へフィードバックするような仕組みを導入し、遅延量をキャリブレーションするようにしてもよい。
Here, the value of PreTime is preferably set in advance in a register as a parameter in consideration of, for example, a delay time assumed from the capacity of the
さらに、ステップST202に進んで、先頭のI−ピクチャのPTS,DTSを本来のPTS,DTSに戻し、デコードした画像データをエンコーダ部125に送って、トランスコードを実行し、ステップST27に進む。なお、ステップST27以降の処理は、図10を参照して説明したのと同様である。
Further, the process proceeds to step ST202, the PTS and DTS of the leading I-picture are returned to the original PTS and DTS, the decoded image data is sent to the
図20は、図15および図16に示すトランスコーダのエンコーダ部によるビデオトランスコード処理の一例を説明するためのフローチャートであり、前述した図12に対応するものである。 FIG. 20 is a flowchart for explaining an example of video transcoding processing by the encoder unit of the transcoder shown in FIGS. 15 and 16, and corresponds to FIG. 12 described above.
ここで、図20と前述した図12の比較から明らかなように、図20において、ステップST60およびST61〜ST64(ST61'〜ST64')は、図12におけるステップST60およびST61〜ST64と同様の処理を行うものである。 Here, as is clear from the comparison between FIG. 20 and FIG. 12 described above, in FIG. 20, steps ST60 and ST61 to ST64 (ST61 ′ to ST64 ′) are the same processes as steps ST60 and ST61 to ST64 in FIG. Is to do.
すなわち、図20に示されるように、ステップST64において、トランスコードしたビデオストリームをマルチプレクサ部126に送った後、ステップST61に戻る代わりに、ステップST600に進む。
That is, as shown in FIG. 20, after the transcoded video stream is sent to the
ステップST600では、PTS,DTSを、addTime:=33.3msec.として更新し(PTS:=DTS:=PTS+33.3msec.,count=33.3msec.)、ステップST601に進む。 In Step ST600, PTS and DTS are set to addTime: = 33.3 msec. (PTS: = DTS: = PTS + 33.3 msec., Count = 33.3 msec.), The process proceeds to step ST601.
ステップST601において、PTS,DTSを更新し(offsetTime:=offsetTime+addTime,PTS:=DTS:=PTS+offsetTime)、ステップST602に進む。 In step ST601, PTS and DTS are updated (offsetTime: = offsetTime + addTime, PTS: = DTS: = PTS + offsetTime), and the process proceeds to step ST602.
ステップST602では、offsetTime<PreTimeが成立するか否かを判定する。ステップST602において、offsetTime<PreTimeが成立する(YES)と判定すると、ステップST603に進む。 In step ST602, it is determined whether offsetTime <PreTime is satisfied. If it is determined in step ST602 that offsetTime <PreTime is satisfied (YES), the process proceeds to step ST603.
ステップST603において、更新したPTS,DTSにてskip-P−ピクチャのビデオストリームをマルチプレクサ部126に送った後、ステップST601に戻る。一方、ステップST602において、offsetTime<PreTimeが成立しない(NO)と判定すると、ステップST61'に進む。なお、ステップST61'〜ST64'の処理は、ステップST61〜ST64の処理と同様である。
In step ST603, the skip-P-picture video stream is sent to the
すなわち、ステップST61'では、画像データをチェックし、ステップST62'に進んで、画像データがあるか否かを判定する。ステップST62'において、画像データがない(NO)と判定すると、ステップST61'に戻ってチェックを行い、画像データがあると判定するまで、同様の処理を繰り返す。 That is, in step ST61 ′, the image data is checked, and the process proceeds to step ST62 ′ to determine whether there is image data. If it is determined in step ST62 ′ that there is no image data (NO), the process returns to step ST61 ′ for checking, and the same processing is repeated until it is determined that there is image data.
一方、ステップST62'において、画像データがある(YES)と判定すると、ステップST63'に進んで、画像データのビデオエンコード(トランスコード)を実行し、さらに、ステップST64'に進む。 On the other hand, if it is determined in step ST62 ′ that there is image data (YES), the process proceeds to step ST63 ′, video encoding (transcoding) of the image data is executed, and the process further proceeds to step ST64 ′.
ステップST64'では、トランスコードしたビデオストリームをマルチプレクサ部126に送った後、ステップST61'に戻って同様の処理を繰り返し、ビデオトランスコード処理を継続する。
In step ST64 ′, the transcoded video stream is sent to the
図21は、図15および図16に示すトランスコーダにおけるマルチプレクサ部による多重化処理の一例を説明するためのフローチャートであり、前述した図14に対応するものである。ここで、図21と前述した図14の比較から明らかなように、図21において、ステップST80〜ST85およびST86は、図12と同様の処理を行うものである。 FIG. 21 is a flowchart for explaining an example of multiplexing processing by the multiplexer unit in the transcoder shown in FIGS. 15 and 16, and corresponds to FIG. 14 described above. Here, as is clear from the comparison between FIG. 21 and FIG. 14 described above, in FIG. 21, steps ST80 to ST85 and ST86 perform the same processing as in FIG.
すなわち、図21に示されるように、ステップST85において、先頭ピクチャのPTSおよびDTSを取り込み、先頭ピクチャの多重化開始時刻を計算し、先頭ピクチャの多重化開始時刻をSTCにセットし、STC用カウンタ63のカウントを開始する。そして、図14におけるステップST86に進む代わりに、ステップST800に進む。 That is, as shown in FIG. 21, in step ST85, the PTS and DTS of the leading picture are taken in, the multiplexing start time of the leading picture is calculated, the multiplexing start time of the leading picture is set in the STC, and the STC counter Start counting 63. And it progresses to step ST800 instead of progressing to step ST86 in FIG.
ステップST800では、NULL強制挿入モードを設定し、デオストリーム,オーディオストリームおよびPSIストリームの多重化を開始するし、ステップST801に進んで、ビデオ先頭およびskip-P−ピクチャの全多重化の完了をチェックする。 In Step ST800, a NULL forced insertion mode is set, multiplexing of the video stream, audio stream, and PSI stream is started, and the process proceeds to Step ST801 to check completion of full multiplexing of the video head and skip-P-picture. To do.
さらに、ステップST802に進んで、多重化が完了したか否かを判定する。ステップST802において、多重化が完了していない(NO)と判定すると、ステップST801に戻り、多重化が完了したと判定するまで処理を繰り返す。 Furthermore, it progresses to step ST802 and it is determined whether multiplexing was completed. If it is determined in step ST802 that multiplexing has not been completed (NO), the process returns to step ST801, and the processing is repeated until it is determined that multiplexing has been completed.
また、ステップST802において、多重化が完了した(YES)と判定すると、ステップST803に進んで、送信バッファ13がチェックし、ステップST804に進んで、送信バッファ13がフルか否かを判定する。
If it is determined in step ST802 that multiplexing has been completed (YES), the process proceeds to step ST803, the
ステップST804において、送信バッファ13がフルではない(NO)と判定すると、ステップST803に進んで戻り、送信バッファ13がフルになったと判定するまで処理を繰り返す。
If it is determined in step ST804 that the
そして、ステップST804において、送信バッファ13がフルになった(YES)と判定すると、ステップST805に進み、通常モードに設定し、ビデオストリーム,オーディオストリームおよびPSIストリームの通常の多重化を再開する。なお、ステップST805以降の処理は、本実施例と関連が薄いので、その説明は省略する。
If it is determined in step ST804 that the
以上、実施形態を説明したが、ここに記載したすべての例や条件は、発明および技術に適用する発明の概念の理解を助ける目的で記載されたものであり、特に記載された例や条件は発明の範囲を制限することを意図するものではない。また、明細書のそのような記載は、発明の利点および欠点を示すものでもない。発明の実施形態を詳細に記載したが、各種の変更、置き換え、変形が発明の精神および範囲を逸脱することなく行えることが理解されるべきである。 Although the embodiment has been described above, all examples and conditions described herein are described for the purpose of helping understanding of the concept of the invention applied to the invention and the technology. It is not intended to limit the scope of the invention. Nor does such a description of the specification indicate an advantage or disadvantage of the invention. Although embodiments of the invention have been described in detail, it should be understood that various changes, substitutions and modifications can be made without departing from the spirit and scope of the invention.
以上の実施例を含む実施形態に関し、さらに、以下の付記を開示する。
(付記1)
送信装置が、動画像データに基づいて生成した第1画像データをベストエフォート型の回線を介して端末装置に送信し、
前記送信装置が、前記第1画像データを前記端末装置に送信した後でダミーデータを生成して前記端末装置に送信し、
前記端末装置が、前記送信装置から送信された前記第1画像データおよび前記ダミーデータを受信バッファに格納し、前記受信バッファに格納した順に表示装置に表示する、
ことを特徴とする動画像処理方法。
Regarding the embodiment including the above examples, the following supplementary notes are further disclosed.
(Appendix 1)
The transmitting device transmits the first image data generated based on the moving image data to the terminal device via a best effort type line,
The transmission device generates dummy data after transmitting the first image data to the terminal device and transmits the dummy data to the terminal device,
The terminal device stores the first image data and the dummy data transmitted from the transmission device in a reception buffer, and displays them on the display device in the order of storage in the reception buffer.
And a moving image processing method.
(付記2)
前記ダミーデータの送信量は、前記回線の最大伝送能力に基づいて規定される、
ことを特徴とする付記1に記載の動画像処理方法。
(Appendix 2)
The transmission amount of the dummy data is defined based on the maximum transmission capacity of the line.
The moving image processing method according to
(付記3)
前記送信装置が、
前記第1画像データおよび前記ダミーデータを前記端末装置に送信した後、前記動画像データに基づいて前記第1画像データに続く第2画像データを生成し、前記端末装置に送信する、
ことを特徴とする付記1または付記2に記載の動画像処理方法。
(Appendix 3)
The transmitting device is
After transmitting the first image data and the dummy data to the terminal device, generating second image data following the first image data based on the moving image data, and transmitting the second image data to the terminal device;
The moving image processing method according to
(付記4)
前記表示装置は、
前記第2画像データによる動画像を表示するまで、前記第1画像データによる静止画を継続して表示する、
ことを特徴とする付記3に記載の動画像処理方法。
(Appendix 4)
The display device
Until the moving image based on the second image data is displayed, the still image based on the first image data is continuously displayed.
The moving image processing method according to
(付記5)
前記動画像データは、テレビ放送のビデオデータであり、
前記送信装置は、前記端末装置により、前記テレビ放送における第1チャンネルが第2チャンネルに切り替えられた場合に、前記第1画像データを前記端末装置に送信する、
ことを特徴とする付記1乃至付記4のいずれか1項に記載の動画像処理方法。
(Appendix 5)
The moving image data is video data of a television broadcast,
The transmission device transmits the first image data to the terminal device when the terminal device switches the first channel in the television broadcast to the second channel.
The moving image processing method according to any one of
(付記6)
前記動画像データは、I−ピクチャ,P−ピクチャおよびB−ピクチャを含み、
前記送信装置は、前記第2チャンネルに関するビデオデータの先頭のI−ピクチャに基づいて前記第1画像データを生成する、
ことを特徴とする付記5に記載の動画像処理方法。
(Appendix 6)
The moving image data includes an I-picture, a P-picture, and a B-picture,
The transmitting device generates the first image data based on a leading I-picture of video data related to the second channel;
The moving image processing method according to
(付記7)
前記送信装置は、前記第1画像データを送信した後、前記先頭のI−ピクチャを参照する複数のP−ピクチャを前記端末装置に送信する、
ことを特徴とする付記6に記載の動画像処理方法。
(Appendix 7)
The transmitting apparatus transmits a plurality of P-pictures referring to the first I-picture to the terminal apparatus after transmitting the first image data.
The moving image processing method according to appendix 6, wherein:
(付記8)
前記送信装置は、前記第1チャンネルが前記第2チャンネルに切り替えられた場合に、前記第2チャンネルに関するビデオデータの先頭のI−ピクチャを受信したことに応じて前記第1画像データを生成する、
ことを特徴とする付記5または付記6に記載の動画像処理方法。
(Appendix 8)
When the first channel is switched to the second channel, the transmission device generates the first image data in response to receiving the first I-picture of video data related to the second channel.
The moving image processing method according to
(付記9)
前記回線は、無線回線である、
ことを特徴とする付記1乃至付記8のいずれか1項に記載の動画像処理方法。
(Appendix 9)
The line is a wireless line;
9. The moving image processing method according to any one of
(付記10)
前記ダミーデータは、トランスポートストリームのヌルパケットである、
ことを特徴とする付記1乃至付記9のいずれか1項に記載の動画像処理方法。
(Appendix 10)
The dummy data is a null packet of a transport stream,
The moving image processing method according to any one of
(付記11)
動画像データに基づいて第1画像データを生成し、ベストエフォート型の回線を介して前記第1画像データを送信し、前記第1画像データを送信した後でダミーデータを生成して送信する送信装置と、
前記送信装置から送信された前記第1画像データおよび前記ダミーデータを受信バッファに格納し、前記受信バッファに格納したデータを格納した順に表示装置に表示する端末装置と、を含む、
ことを特徴とする動画像処理システム。
(Appendix 11)
Transmission that generates first image data based on moving image data, transmits the first image data via a best-effort line, and generates and transmits dummy data after transmitting the first image data. Equipment,
A terminal device that stores the first image data and the dummy data transmitted from the transmission device in a reception buffer, and displays the data stored in the reception buffer on a display device in the order of storage,
A moving image processing system.
(付記12)
前記送信装置は、
前記動画像データに基づいて前記第1画像データを生成する画像生成部と、
前記ダミーデータを生成するダミーデータ生成部と、を含む、
ことを特徴とする付記11に記載の動画像処理システム。
(Appendix 12)
The transmitter is
An image generation unit for generating the first image data based on the moving image data;
Including a dummy data generation unit for generating the dummy data,
The moving image processing system according to
(付記13)
前記端末装置は、
前記送信装置から送信された前記第1画像データおよび前記ダミーデータが格納される受信バッファと、
前記前記受信バッファに格納されたデータが格納された順に表示される表示装置と、を含む、
ことを特徴とする付記11または付記12に記載の動画像処理システム。
(Appendix 13)
The terminal device
A reception buffer for storing the first image data and the dummy data transmitted from the transmission device;
A display device that displays the data stored in the reception buffer in the order in which they are stored,
13. The moving image processing system according to
(付記14)
前記動画像データは、テレビ放送のビデオデータであり、
前記送信装置は、前記端末装置により、前記テレビ放送における第1チャンネルが第2チャンネルに切り替えられた場合に、前記第1画像データを前記端末装置に送信する、
ことを特徴とする付記11乃至付記13のいずれか1項に記載の動画像処理システム。
(Appendix 14)
The moving image data is video data of a television broadcast,
The transmission device transmits the first image data to the terminal device when the terminal device switches the first channel in the television broadcast to the second channel.
14. The moving image processing system according to any one of
(付記15)
前記動画像データは、I−ピクチャ,P−ピクチャおよびB−ピクチャを含み、
前記送信装置は、前記第2チャンネルに関するビデオデータの先頭のI−ピクチャに基づいて前記第1画像データを生成する、
ことを特徴とする付記14に記載の動画像処理システム。
(Appendix 15)
The moving image data includes an I-picture, a P-picture, and a B-picture,
The transmitting device generates the first image data based on a leading I-picture of video data related to the second channel;
15. The moving image processing system according to
(付記16)
前記送信装置は、前記第1画像データを送信した後、前記先頭のI−ピクチャを参照する複数のP−ピクチャを前記端末装置に送信する、
ことを特徴とする付記15に記載の動画像処理システム。
(Appendix 16)
The transmitting apparatus transmits a plurality of P-pictures referring to the first I-picture to the terminal apparatus after transmitting the first image data.
The moving image processing system according to
(付記17)
前記送信装置は、前記第1チャンネルが前記第2チャンネルに切り替えられた場合に、前記第2チャンネルに関するビデオデータの先頭のI−ピクチャを受信したことに応じて前記第1画像データを生成する、
ことを特徴とする付記15または付記16に記載の動画像処理システム。
(Appendix 17)
When the first channel is switched to the second channel, the transmission device generates the first image data in response to receiving the first I-picture of video data related to the second channel.
The moving image processing system according to
(付記18)
前記回線は、無線回線である、
ことを特徴とする付記11乃至付記17のいずれか1項に記載の動画像処理システム。
(Appendix 18)
The line is a wireless line;
18. The moving image processing system according to any one of
(付記19)
前記ダミーデータは、トランスポートストリームのヌルパケットである、
ことを特徴とする付記11乃至付記18のいずれか1項に記載の動画像処理システム。
(Appendix 19)
The dummy data is a null packet of a transport stream,
The moving image processing system according to any one of
(付記20)
演算処理装置に、
送信装置が、動画像データに基づいて生成した第1画像データをベストエフォート型の回線を介して端末装置に送信し、
前記送信装置が、前記第1画像データを前記端末装置に送信した後でダミーデータを生成して前記端末装置に送信し、
前記端末装置が、前記送信装置から送信された前記第1画像データおよび前記ダミーデータを受信バッファに格納し、前記受信バッファに格納した順に表示装置に表示する、のを実行させる、
ことを特徴とする動画像処理プログラム。
(Appendix 20)
In the arithmetic processing unit,
The transmitting device transmits the first image data generated based on the moving image data to the terminal device via a best effort type line,
The transmission device generates dummy data after transmitting the first image data to the terminal device and transmits the dummy data to the terminal device,
The terminal device stores the first image data and the dummy data transmitted from the transmission device in a reception buffer, and displays them on a display device in the order stored in the reception buffer.
A moving image processing program.
1 WiFiチューナ(送信装置)
2 回線(ネットワーク,無線LAN,WiFi)
3 端末装置(受信装置)
4 ルータ
5 アンテナ
6 インターネット
11 チューナ
12 トランスコーダ
13 送信バッファ
14 LAN(送信)
31 LAN(受信)
32 受信バッファ
33 デコーダ
34 ディスプレイ(表示装置)
60 強制NULL生成部(ダミーデータ生成部)
61,62 FIFOバッファ
63 STC用カウンタ
64 ビデオTSパケット生成部
65 オーディオTSパケット生成部
66 PAT生成部
67 PMT生成部
68 PCR生成部
69 ヌルパケット生成部
70 多重化対象決定部
71 多重化対象選択部
121 全体制御部
122 デマルチプレクサ部(DEMUX)
123 デコーダ部
124 メモリ
125 エンコーダ部
126 マルチプレクサ部(MUX)
1 WiFi tuner (transmitter)
2 lines (network, wireless LAN, WiFi)
3 Terminal device (receiving device)
4
31 LAN (Reception)
32
60 Forced NULL generator (dummy data generator)
61, 62
123
Claims (16)
前記送信装置が、前記第1画像データを前記端末装置に送信した後でダミーデータを生成して前記端末装置に送信し、
前記ダミーデータは少なくとも前記端末装置内の受信バッファの容量に相当し、且つ、前記ダミーデータは前記端末装置での表示対象データではない、
ことを特徴とする動画像処理方法。 The transmitting device transmits the first image data generated based on the moving image data to the terminal device via a best effort type line,
The transmission device generates dummy data after transmitting the first image data to the terminal device and transmits the dummy data to the terminal device,
The dummy data corresponds to at least a capacity of a reception buffer in the terminal device , and the dummy data is not display target data in the terminal device.
And a moving image processing method.
前記送信装置が、前記第1画像データを前記端末装置に送信した後でダミーデータを生成して前記端末装置に送信し、
前記ダミーデータは、前記端末装置での表示対象データではなく、
前記ダミーデータの送信量は、前記回線の最大伝送能力に基づいて規定される、
ことを特徴とする動画像処理方法。 The transmitting device transmits the first image data generated based on the moving image data to the terminal device via a best effort type line,
The transmission device generates dummy data after transmitting the first image data to the terminal device and transmits the dummy data to the terminal device,
The dummy data is not display target data in the terminal device,
The transmission amount of the dummy data is defined based on the maximum transmission capacity of the line.
And a moving image processing method.
ことを特徴とする請求項1または請求項2に記載の動画像処理方法。 The terminal device receives the transmitted dummy data, so that the time from when the first image data is transmitted from the transmission device to when the first image data is displayed on the terminal device is Controlled to be shorter than the case of not receiving dummy data,
The moving image processing method according to claim 1, wherein the moving image processing method is performed.
前記第1画像データおよび前記ダミーデータを前記端末装置に送信した後、前記動画像データに基づいて前記第1画像データに続く第2画像データを生成し、前記端末装置に送信する、
ことを特徴とする請求項1乃至請求項3のいずれか1項に記載の動画像処理方法。 The transmitting device is
After transmitting the first image data and the dummy data to the terminal device, generating second image data following the first image data based on the moving image data, and transmitting the second image data to the terminal device;
The moving image processing method according to claim 1, wherein the moving image processing method is performed.
前記送信装置は、前記端末装置により、前記テレビ放送における第1チャンネルが第2チャンネルに切り替えられた場合に、前記第1画像データを前記端末装置に送信する、
ことを特徴とする請求項1乃至請求項4のいずれか1項に記載の動画像処理方法。 The moving image data is video data of a television broadcast,
The transmission device transmits the first image data to the terminal device when the terminal device switches the first channel in the television broadcast to the second channel.
5. The moving image processing method according to claim 1, wherein the moving image processing method is performed.
前記送信装置は、前記第2チャンネルに関するビデオデータの先頭のI−ピクチャに基づいて前記第1画像データを生成する、
ことを特徴とする請求項5に記載の動画像処理方法。 The moving image data includes an I-picture, a P-picture, and a B-picture,
The transmitting device generates the first image data based on a leading I-picture of video data related to the second channel;
The moving image processing method according to claim 5.
ことを特徴とする請求項6に記載の動画像処理方法。 When the first channel is switched to the second channel, the transmission device generates the first image data in response to receiving the first I-picture of video data related to the second channel.
The moving image processing method according to claim 6.
ことを特徴とする請求項1乃至請求項7のいずれか1項に記載の動画像処理方法。 The terminal device receives the first image data and the dummy data transmitted from the transmission device via the line;
The moving image processing method according to claim 1, wherein:
前記ダミーデータは少なくとも前記端末装置内の受信バッファの容量に相当し、且つ、前記ダミーデータは前記端末装置での表示対象データではない、
ことを特徴とする送信装置。 First image data is generated based on moving image data, the first image data is transmitted to a terminal device via a best effort type line, and dummy data is generated after transmitting the first image data. A transmitting device for moving images to be transmitted to the terminal device,
The dummy data corresponds to at least a capacity of a reception buffer in the terminal device , and the dummy data is not display target data in the terminal device.
A transmission apparatus characterized by the above.
前記ダミーデータは、前記端末装置での表示対象データではなく、
前記ダミーデータの送信量は、前記回線の最大伝送能力に基づいて規定される、
ことを特徴とする送信装置。 First image data is generated based on moving image data, the first image data is transmitted to a terminal device via a best effort type line, and dummy data is generated after transmitting the first image data. A transmission device for transmitting to the terminal device,
The dummy data is not display target data in the terminal device,
The transmission amount of the dummy data is defined based on the maximum transmission capacity of the line.
A transmission apparatus characterized by the above.
ことを特徴とする請求項9または請求項10に記載の送信装置。 The terminal device receives the transmitted dummy data, so that the time from when the first image data is transmitted from the transmission device to when the first image data is displayed on the terminal device is Controlled to be shorter than the case of not receiving dummy data,
The transmission device according to claim 9 or 10, wherein
前記動画像データに基づいて前記第1画像データを生成する画像生成部と、
前記ダミーデータを生成するダミーデータ生成部と、を含む、
ことを特徴とする請求項9乃至請求項11のいずれか1項に記載の送信装置。 The transmitter is
An image generation unit for generating the first image data based on the moving image data;
Including a dummy data generation unit for generating the dummy data,
12. The transmission apparatus according to claim 9, wherein the transmission apparatus is any one of claims 9 to 11.
前記送信装置から送信された前記第1画像データおよび前記ダミーデータを受信バッファに格納し、前記受信バッファに格納したデータを格納した順に表示装置に表示する端末装置と、を含む、
ことを特徴とする動画像処理システム。 A transmission device according to any one of claims 9 to 12,
A terminal device that stores the first image data and the dummy data transmitted from the transmission device in a reception buffer, and displays the data stored in the reception buffer on a display device in the order of storage,
A moving image processing system.
前記送信装置から送信された前記第1画像データおよび前記ダミーデータが格納される受信バッファと、
前記受信バッファに格納されたデータが格納された順に表示される表示装置と、を含む、
ことを特徴とする請求項13に記載の動画像処理システム。 The terminal device
A reception buffer for storing the first image data and the dummy data transmitted from the transmission device;
Including a display device which is displayed in the order in which data stored in the reception buffer is stored,
The moving image processing system according to claim 13.
送信装置が、動画像データに基づいて生成した第1画像データをベストエフォート型の回線を介して端末装置に送信し、
前記送信装置が、前記第1画像データを前記端末装置に送信した後でダミーデータを生成して前記端末装置に送信する、のを実行させ、
前記ダミーデータは少なくとも前記端末装置内の受信バッファの容量に相当し、且つ、前記ダミーデータは前記端末装置での表示対象データではない、
ことを特徴とする動画像処理プログラム。 In the arithmetic processing unit,
The transmitting device transmits the first image data generated based on the moving image data to the terminal device via a best effort type line,
The transmission device generates dummy data after transmitting the first image data to the terminal device and transmits the dummy data to the terminal device;
The dummy data corresponds to at least a capacity of a reception buffer in the terminal device , and the dummy data is not display target data in the terminal device.
A moving image processing program.
送信装置が、動画像データに基づいて生成した第1画像データをベストエフォート型の回線を介して端末装置に送信し、
前記送信装置が、前記第1画像データを前記端末装置に送信した後でダミーデータを生成して前記端末装置に送信する、のを実行させ、
前記ダミーデータは、前記端末装置での表示対象データではなく、
前記ダミーデータの送信量は、前記回線の最大伝送能力に基づいて規定される、
ことを特徴とする動画像処理プログラム。 In the arithmetic processing unit,
The transmitting device transmits the first image data generated based on the moving image data to the terminal device via a best effort type line,
The transmission device generates dummy data after transmitting the first image data to the terminal device and transmits the dummy data to the terminal device;
The dummy data is not display target data in the terminal device,
The transmission amount of the dummy data is defined based on the maximum transmission capacity of the line.
A moving image processing program.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014203194A JP6464647B2 (en) | 2014-10-01 | 2014-10-01 | Moving image processing method, moving image transmission apparatus, moving image processing system, and moving image processing program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014203194A JP6464647B2 (en) | 2014-10-01 | 2014-10-01 | Moving image processing method, moving image transmission apparatus, moving image processing system, and moving image processing program |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2016072919A JP2016072919A (en) | 2016-05-09 |
JP6464647B2 true JP6464647B2 (en) | 2019-02-06 |
Family
ID=55867523
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014203194A Active JP6464647B2 (en) | 2014-10-01 | 2014-10-01 | Moving image processing method, moving image transmission apparatus, moving image processing system, and moving image processing program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6464647B2 (en) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI732395B (en) * | 2019-12-20 | 2021-07-01 | 財團法人工業技術研究院 | Reflected light detection module |
Family Cites Families (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8397269B2 (en) * | 2002-08-13 | 2013-03-12 | Microsoft Corporation | Fast digital channel changing |
JP2005204273A (en) * | 2003-12-15 | 2005-07-28 | D & M Holdings Inc | Av system, av device, and image signal outputting method |
JP2006253882A (en) * | 2005-03-09 | 2006-09-21 | Matsushita Electric Ind Co Ltd | Wireless av apparatus |
JP4902258B2 (en) * | 2006-04-27 | 2012-03-21 | 株式会社日立製作所 | Data receiving apparatus and computer-readable storage medium |
JP4994732B2 (en) * | 2006-07-20 | 2012-08-08 | パナソニック株式会社 | Digital TV broadcast wave transmitter |
JP2011119839A (en) * | 2009-12-01 | 2011-06-16 | Sharp Corp | Digital broadcast receiving system, and portable terminal device constituting the system |
JP5743516B2 (en) * | 2010-12-09 | 2015-07-01 | 三菱電機株式会社 | Video display device and video display method |
JP5535267B2 (en) * | 2012-04-16 | 2014-07-02 | 株式会社ソニー・コンピュータエンタテインメント | Server, client device, data distribution method, and data distribution system |
-
2014
- 2014-10-01 JP JP2014203194A patent/JP6464647B2/en active Active
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI732395B (en) * | 2019-12-20 | 2021-07-01 | 財團法人工業技術研究院 | Reflected light detection module |
Also Published As
Publication number | Publication date |
---|---|
JP2016072919A (en) | 2016-05-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5209154B2 (en) | Digital video decoding system, method for sequentially displaying a plurality of video programs and method for predicting the next channel selected by a user | |
JP5133567B2 (en) | Codec change method and apparatus | |
JP5043096B2 (en) | Channel changing method and digital video apparatus | |
EP2757795B1 (en) | Video multiplexing apparatus, video multiplexing method, multiplexed video decoding apparatus, and multiplexed video decoding method | |
CA2792106C (en) | Method and system for inhibiting audio-video synchronization delay | |
JP2000083226A (en) | Buffer mechanism, target system decoder and method for buffering data | |
JP3438223B2 (en) | Multiplexing device and multiplexing method, and transmission device and transmission method | |
US20160337671A1 (en) | Method and apparatus for multiplexing layered coded contents | |
EP2580917B1 (en) | Receiver and method at the receiver for enabling channel change with a single decoder | |
US20060161676A1 (en) | Apparatus for IP streaming capable of smoothing multimedia stream | |
JP4987034B2 (en) | Video display device | |
EP1643772B1 (en) | System, method and apparatus for clean channel change | |
JP4613860B2 (en) | MPEG encoded stream decoding apparatus | |
JP6464647B2 (en) | Moving image processing method, moving image transmission apparatus, moving image processing system, and moving image processing program | |
US10531132B2 (en) | Methods and techniques for reducing latency in changing channels in a digital video environment | |
JP3671969B2 (en) | Data multiplexing method and multiple data decoding method | |
JPH099215A (en) | Data multiplex method, data transmission method, multiplex data decoding method and multiplex data decoder | |
JP4373802B2 (en) | Program transmission method, program transmission apparatus, program transmission system, and program transmission program | |
Murugan | Multiplexing H. 264/AVC Video with MPEG-AAC Audio | |
JP2001144709A (en) | Device and method for transmission and recording medium | |
JP2003284069A (en) | Method and apparatus for decoding multiple data | |
JP2006262465A (en) | Apparatus and method for video synchronization by parsing time stamps from buffered packet |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170911 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180522 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180612 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180727 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180821 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180911 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20181211 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20181224 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 6464647 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |