首页 / 专利库 / 视听技术与设备 / 运动估计 / Moving image coder and control method thereof, and program

Moving image coder and control method thereof, and program

阅读:3发布:2022-01-19

专利汇可以提供Moving image coder and control method thereof, and program专利检索,专利查询,专利分析的服务。并且PROBLEM TO BE SOLVED: To provide a moving image coder and a control method thereof, and a program capable of efficiently utilizing a memory used for moving image coding so as to attain searching of a motion vector with a high efficiency. SOLUTION: A motion detection section 22 detects a motion of an imaging section. The moving image coder is provided with a plurality of frame memories 12 to 17 for storing a plurality of frame data, and a selector 18 selects a frame memory for selecting reference frame data to be referenced when frame data of a coding object are coded from a plurality of the frame memories 12 to 17. A motion estimate unit 19 estimates a motion vector on the basis of the reference frame data stored in the selected frame memory and the frame data of the coding object. The frame data of the coding object are coded by using the estimated motion vector. Then the coded coded-data are outputted. COPYRIGHT: (C)2005,JPO&NCIPI,下面是Moving image coder and control method thereof, and program专利的具体信息内容。

  • 動画像中の複数のフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置であって、
    撮像部の動きを検出する検出手段と、
    前記複数のフレームデータを格納する複数の格納手段と、
    前記検出手段で検出された動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納手段を前記複数の格納手段から選択する選択手段と、
    前記選択手段で選択された格納手段に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定手段と、
    前記推定手段で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化手段と、
    前記符号化手段で符号化された符号化データを出力する出力手段と を備えることを特徴とする動画像符号化装置。
  • 前記検出手段は、前記撮像部で撮影された動画像に基づいて、該撮像部の動きを検出する ことを特徴とする請求項1に記載の動画像符号化装置。
  • 前記選択手段は、前記検出手段で検出された動き情報に基づいて、前記複数の格納手段に対する書込/読出、電力供給を制御する制御手段を備える ことを特徴とする請求項1に記載の動画像符号化装置。
  • 前記撮像部の撮影モードを設定する設定手段を更に備え、
    前記選択手段は、前記設定手段で設定された撮影モードに基づいて、前記複数の格納手段に対する書込/読出、電力供給を制御する制御手段を備える ことを特徴とする請求項1に記載の動画像符号化装置。
  • 前記制御手段は、前記選択手段で選択しない格納手段の電力供給を停止する ことを特徴とする請求項3または請求項4に記載の動画像符号化装置。
  • 前記検出手段で検出された動き情報に基づいて、前記推定手段の動きベクトルの探索範囲を制御する探索範囲制御手段を更に備える ことを特徴とする請求項1に記載の動画像符号化装置。
  • 動画像中の複数のフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置であって、
    撮像部の撮影モードを設定する設定手段と、
    前記複数のフレームデータを格納する複数の格納手段と、
    前記設定手段で設定された撮影モードに基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納手段を前記複数の格納手段から選択する選択手段と、
    前記選択手段で選択された格納手段に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定手段と、
    前記推定手段で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化手段と、
    前記符号化手段で符号化された符号化データを出力する出力手段と を備えることを特徴とする動画像符号化装置。
  • 前記選択手段は、前記複数の格納手段に対する書込/読出、電力供給を制御する制御手段を備える ことを特徴とする請求項7に記載の動画像符号化装置。
  • 前記制御手段は、前記選択手段で選択しない格納手段の電力供給を停止する ことを特徴とする請求項8に記載の動画像符号化装置。
  • 前記検出手段は、前記撮像部で撮影された動画像に基づいて、該撮像部の動きを検出する ことを特徴とする請求項7に記載の動画像符号化装置。
  • 動画像中の複数のフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置であって、
    撮像部を制御する制御情報を入力する入力手段と、
    前記撮像部で撮影された動画像を格納する格納手段と、
    前記入力手段で入力された制御情報に基づいて取得される前記撮像部の動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータ数を設定する設定手段と、
    前記設定手段で設定された参照フレームデータ数の参照フレームデータを取得する取得手段と、
    前記取得手段で取得された参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定手段と、
    前記推定手段で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化手段と、
    前記符号化手段で符号化された符号化データを出力する出力手段と を備えることを特徴とする動画像符号化装置。
  • 前記動き情報に基づいて、前記推定手段の動きベクトルの探索範囲を制御する探索範囲制御手段を更に備える ことを特徴とする請求項11に記載の動画像符号化装置。
  • 動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御方法であって、
    撮像部の動きを検出する検出工程と、
    前記検出工程で検出された動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程と、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程と、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程と、
    前記符号化工程で符号化された符号化データを出力する出力工程と を備えることを特徴とする動画像符号化装置の制御方法。
  • 動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御方法であって、
    撮像部の撮影モードを設定する設定工程と、
    前記設定工程で設定された撮影モードに基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程と、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程と、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程と、
    前記符号化工程で符号化された符号化データを出力する出力工程と を備えることを特徴とする動画像符号化装置の制御方法。
  • 動画像を格納する格納部を有し、前記格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御方法であって、
    撮像部を制御する制御情報を入力する入力工程と、
    前記入力工程で入力された制御情報に基づいて取得される前記撮像部の動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータ数を設定する設定工程と、
    前記設定工程で設定された参照フレームデータ数の参照フレームデータを前記格納部から取得する取得工程と、
    前記取得工程で取得された参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程と、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程と、
    前記符号化工程で符号化された符号化データを出力する出力工程と を備えることを特徴とする動画像符号化装置の制御方法。
  • 動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御を実現するプログラムであって、
    撮像部の動きを検出する検出工程のプログラムコードと、
    前記検出工程で検出された動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程のプログラムコードと、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程のプログラムコードと、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程のプログラムコードと、
    前記符号化工程で符号化された符号化データを出力する出力工程のプログラムコードと を備えることを特徴とするプログラム。
  • 動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御を実現するプログラムであって、
    撮像部の撮影モードを設定する設定工程のプログラムコードと、
    前記設定工程で設定された撮影モードに基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程のプログラムコードと、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程のプログラムコードと、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程のプログラムコードと、
    前記符号化工程で符号化された符号化データを出力する出力工程のプログラムコードと を備えることを特徴とするプログラム。
  • 動画像を格納する格納部を有し、前記格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御を実現するプログラムであって、
    撮像部を制御する制御情報を入力する入力工程のプログラムコードと、
    前記入力工程で入力された制御情報に基づいて取得される前記撮像部の動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータ数を設定する設定工程のプログラムコードと、
    前記設定工程で設定された参照フレームデータ数の参照フレームデータを前記格納部から取得する取得工程のプログラムコードと、
    前記取得工程で取得された参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程のプログラムコードと、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程のプログラムコードと、
    前記符号化工程で符号化された符号化データを出力する出力工程のプログラムコードと を備えることを特徴とするプログラム。
  • 说明书全文

    本発明は、動画像中の複数のフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置及びその制御方法、プログラムに関するものである。

    近年、新しい動画像の符号化方式として、H.264符号化方式が注目されている。 本符号化方式は、ITU−TとISOが共同で開発した符号化方式である。 この新しい標準は、2003年夏に標準化される予定である。

    この新しい符号化方式の特徴は、従来のMPEG−1、2、4符号化方式と異なり、4×4整数変換を用い、イントラ予測も複数用意されている。 また、ループ内フィルタが用いられ、動き補償も7種類のサブブロックで行なわれている。 また、その動き補償の画素精度もMPEG−4符号化方式と同様に、1/4画素精度の動き補償を行なうことができる。 更に、エントロピー符号化としてユニバーサル可変長符号化やコンテキスト適応可変長符号化が用いられている。

    さらに大きな特徴として、MPEG−1、2、4符号化方式では、符号化対象のフレームの前後2枚の参照画像(フレーム)を用いて動き補償を行なっていたが、より多くの参照画像を用いることが可能になっている。 ビットストリームの先頭のヘッダに含まれるnum_ref_frames符号は、最大16の値をとることができる。

    即ち、動き補償において、符号化対象フレームの前後16枚のフレームを参照画像として参照することが可能である。 符号化対象となるマクロブロックは、前述のとおり、最大16フレームの画像に対して、7種類のサブブロックについて1/4画素精度で予測誤差を算出し、予測誤差が最小になるマクロブロックを選択することで符号化効率を大幅に改善することが可能となる。

    ここで、非特許文献1や非特許文献2でも説明されるH. 264符号化方式の従来の動画像符号化装置の構成について、図13を用いて説明する。

    図13は従来の動画像符号化装置の構成を示すブロック図である。

    動画像符号化装置には、画像データがマクロブロック単位で入される。 切替器1000は、イントラ符号化するか否かを切り替え、イントラ符号化の場合はイントラ予測器1001に画像データが入力される。 イントラ予測器1001では、9つのモードで予測を行ない、予測誤差を算出する。

    一方、イントラ符号化以外の場合は、差分器1002に入力され、予測画像との差分を算出して、予測誤差とする。

    変換/量子化器1003は、算出された予測誤差を4×4画素ブロックの整数変換を実行し、得られる係数を量子化する。 量子化結果である量子化係数は、エントロピー符号化器1004で可変長符号化されて出力器1014に出力される。 同時に、量子化結果は逆量子化/逆変換器1005に入力され、予測誤差を復元し、加算器1006で予測画像に加算する。 その結果は、復号画像として、フレームメモリ1007〜1010に適宜格納される。

    動き推定器1011は、フレームメモリ1007〜1010に格納された復号画像と入力画像を比較し、各サブブロック単位で1/4画素精度で動きベクトルを算出する。 動きベクトルと選択したフレーム番号は、動き補償器1012に入力され、該当するフレームメモリから参照画像を読み込み、予測誤差の最も小さい参照画像を選択して予測画像として差分器1002に出力する。

    また、動きベクトルと選択されたフレーム番号は、動き符号化器1013に入力されて符号化され、出力器1014に出力される。 出力器1014は、符号化データを書式に従って整形して出力する。
    「Overview of the H.264/AVC video Coding Standard」(IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY,JULY 2003) 「もたつくMPEG−4を尻目にH.264がいざ発進」(日経エレクトロニクス 2003.7.7号 pp.65〜74)

    しかしながら、上述のH. 264符号化方式のように、複数のフレームを参照する符号化方式では、動き補償を実行するために動きベクトルの探索を実行するが、その計算量は参照画像の枚数が増えるにつれて膨大な計算量が必要になるという課題が生じる。

    また、特に、ビデオカメラ等の撮像装置において、H. 264符号化方式を採用している場合には、そのビデオカメラがパンニングやチルトをする際には、画面全体が大きく変化するため、時間的に離れたフレーム画像のデータの参照が減っても、これを保持しつづけなければならない。

    本発明は上記の課題に鑑みてなされたものであり、動画像符号化に使用するメモリを効率よく利用し、かつ効率の良い動きベクトル探索が可能な動画像符号化装置及びその制御方法、プログラムを提供することを目的とする。

    上記の目的を達成するための本発明による動画像符号化装置は以下の構成を備える。 即ち、
    また、好ましくは、動画像中の複数のフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置であって、
    撮像部の動きを検出する検出手段と、
    前記複数のフレームデータを格納する複数の格納手段と、
    前記検出手段で検出された動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納手段を前記複数の格納手段から選択する選択手段と、
    前記選択手段で選択された格納手段に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定手段と、
    前記推定手段で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化手段と、
    前記符号化手段で符号化された符号化データを出力する出力手段と を備える。

    上記の目的を達成するための本発明による動画像符号化装置は以下の構成を備える。 即ち、
    動画像中の複数のフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置であって、
    撮像部の撮影モードを設定する設定手段と、
    前記複数のフレームデータを格納する複数の格納手段と、
    前記設定手段で設定された撮影モードに基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納手段を前記複数の格納手段から選択する選択手段と、
    前記選択手段で選択された格納手段に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定手段と、
    前記推定手段で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化手段と、
    前記符号化手段で符号化された符号化データを出力する出力手段と を備える。

    上記の目的を達成するための本発明による動画像符号化装置は以下の構成を備える。 即ち、
    動画像中の複数のフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置であって、
    撮像部を制御する制御情報を入力する入力手段と、
    前記撮像部で撮影された動画像を格納する格納手段と、
    前記入力手段で入力された制御情報に基づいて取得される前記撮像部の動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータ数を設定する設定手段と、
    前記設定手段で設定された参照フレームデータ数の参照フレームデータを取得する取得手段と、
    前記取得手段で取得された参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定手段と、
    前記推定手段で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化手段と、
    前記符号化手段で符号化された符号化データを出力する出力手段と を備える。

    上記の目的を達成するための本発明による動画像符号化装置の制御方法は以下の構成を備える。 即ち、
    動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御方法であって、
    撮像部の動きを検出する検出工程と、
    前記検出工程で検出された動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程と、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程と、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程と、
    前記符号化工程で符号化された符号化データを出力する出力工程と を備える。

    上記の目的を達成するための本発明による動画像符号化装置の制御方法は以下の構成を備える。 即ち、
    動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御方法であって、
    撮像部の撮影モードを設定する設定工程と、
    前記設定工程で設定された撮影モードに基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程と、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程と、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程と、
    前記符号化工程で符号化された符号化データを出力する出力工程と を備える。

    上記の目的を達成するための本発明による動画像符号化装置の制御方法は以下の構成を備える。 即ち、
    動画像を格納する格納部を有し、前記格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御方法であって、
    撮像部を制御する制御情報を入力する入力工程と、
    前記入力工程で入力された制御情報に基づいて取得される前記撮像部の動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータ数を設定する設定工程と、
    前記設定工程で設定された参照フレームデータ数の参照フレームデータを前記格納部から取得する取得工程と、
    前記取得工程で取得された参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程と、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程と、
    前記符号化工程で符号化された符号化データを出力する出力工程と を備える。

    上記の目的を達成するための本発明によるプログラムは以下の構成を備える。 即ち、
    動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御を実現するプログラムであって、
    撮像部の動きを検出する検出工程のプログラムコードと、
    前記検出工程で検出された動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程のプログラムコードと、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程のプログラムコードと、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程のプログラムコードと、
    前記符号化工程で符号化された符号化データを出力する出力工程のプログラムコードと を備える。

    上記の目的を達成するための本発明によるプログラムは以下の構成を備える。 即ち、
    動画像中の複数のフレームデータを格納する複数の格納部を有し、前記複数の格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御を実現するプログラムであって、
    撮像部の撮影モードを設定する設定工程のプログラムコードと、
    前記設定工程で設定された撮影モードに基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータを選択するための格納部を前記複数の格納部から選択する選択工程のプログラムコードと、
    前記選択工程で選択された格納部に格納されている参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程のプログラムコードと、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程のプログラムコードと、
    前記符号化工程で符号化された符号化データを出力する出力工程のプログラムコードと を備える。

    上記の目的を達成するための本発明によるプログラムは以下の構成を備える。 即ち、
    動画像を格納する格納部を有し、前記格納部に格納されるフレームデータを参照して、符号化対象のフレームデータに対する動き補償を実行し、前記動画像を符号化する動画像符号化装置の制御を実現するプログラムであって、
    撮像部を制御する制御情報を入力する入力工程のプログラムコードと、
    前記入力工程で入力された制御情報に基づいて取得される前記撮像部の動き情報に基づいて、前記符号化対象のフレームデータを符号化する場合に参照する参照フレームデータ数を設定する設定工程のプログラムコードと、
    前記設定工程で設定された参照フレームデータ数の参照フレームデータを前記格納部から取得する取得工程のプログラムコードと、
    前記取得工程で取得された参照フレームデータと前記符号化対象のフレームデータに基づいて、動きベクトルを推定する推定工程のプログラムコードと、
    前記推定工程で推定された動きベクトルを用いて、前記符号化対象のフレームデータを符号化する符号化工程のプログラムコードと、
    前記符号化工程で符号化された符号化データを出力する出力工程のプログラムコードと を備える。

    本発明によれば、動画像符号化に使用するメモリを効率よく利用し、かつ効率の良い動きベクトル探索が可能な動画像符号化装置及びその制御方法、プログラムを提供できる。

    以下、本発明の実施の形態について図面を用いて詳細に説明する。

    <実施形態1>
    図1は本発明の実施形態1に係る動画像符号化装置の構成を示すブロック図である。

    尚、実施形態1では、動画像符号化装置として、カムコーダを例に挙げて説明する。

    また、実施形態1では、動画像符号化装置が使用する符号化方式として、H. 264符号化方式を例にとって説明するが、これに限定されない。 また、説明を容易にするため、過去のフレームを参照する前方向予測を例に取る。 また、説明を容易にするため、参照フレーム数を最大5フレームとして説明するが、これに限定されない。

    図1において、1は撮像部であり、レンズ等で構成される光学部と光電変換によって画像のディジタル信号を生成する。 2はディジタル信号を記憶するフレームメモリである。 3はフレーム内符号化/フレーム間符号化の符号化モードに応じて、フレームメモリ2からの出力を選択するセレクタである。

    4はH. 264符号化方式によるイントラ予測を実行するイントラ予測器である。 5は動き予測誤差を算出する差分器である。 6は整数型直交変換を実行し、得られる係数を量子化する変換/量子化器である。 10は量子化係数を逆量子化し、整数型逆直交変換を実行する逆量子化/逆変換器である。

    7は変換/量子化器6の量子化結果を符号化するエントロピー符号化器である。 8は記録メディア9に符号化データを記録するための記録器である。 9は符号化データを記録する記録メディアである。 11は逆量子化/逆変換器10より得られた予測誤差と予測値(予測画像)を加算する加算器である。

    12、13、14、15、16、17はフレームメモリであり、局所復号された画像データをフレーム単位で格納する。 18は入出力を制御するセレクタである。

    19は入力画像と復号画像に基づいて、最適な動きベクトルを該当するフレームから抽出する動き推定器である。 20は動き推定器19で算出された動きベクトルと該当するフレーム情報から予測画像を生成する動き補償器である。

    21は算出された動きベクトルと該当するフレーム情報に基づいて、動きの情報を符号化する動き符号化器である。 22は動画像符号化装置の動きをジャイロやセンサー等で検出する動き検出器である。 23は動き検出器22で検出された動画像符号化装置の動きの速度を判定する動き判定器である。

    尚、図1の動画像符号化装置は、更に、当該装置全体を制御するCPU、装置を制御するための各種制御プログラムを記憶するROM、各種制御を実行するための各種データの作業領域及び一時待避領域として機能するRAMを有する。

    次に、図1の動画像符号化装置の動画像符号化動作について、以下に説明する。

    符号化に先立ち、参照に用いることができるフレーム数等を含むヘッダ情報をエントロピー符号化器7が生成し、記録器8を介して記録メディア9に記録する。

    撮像部1による撮影フレームの画像データは、フレームメモリ2に格納され、セレクタ3に入力される。 セレクタ3では、一定間隔でフレーム内符号化を実行し、それ以外はフレーム間符号化を実行するように、その選択動作が制御される。

    最初に、先頭の第1フレームに対してフレーム内符号化を実行する場合について説明する。

    入力されたフレームデータは、マクロブロック単位でイントラ予測器4に入力され、ブロック毎にイントラ予測を実行する。 その予測結果は、変換/量子化器6に入力され、整数型直交変換を実行し、得られる係数を量子化する。 その量子化結果である量子化係数は、エントロピー符号化器7と逆量子化/逆変換器10に入力される。

    エントロピー符号化器7では、入力された量子化結果をエントロピー符号化し、符号化データは記録器8を介して記録メディア9に記録される。

    逆量子化/逆変換器10では、入力された量子化結果から復号画像を得て、加算器11に入力する。 フレーム内符号化では、予測画像はないので、予測値0を加算し、空いているかまたはフレームメモリに記録されている参照画像で最も古い画像データを格納しているフレームメモリに格納する。 最初は、フレームメモリ12〜17のいずれにも、画像データが格納されていないので、フレームメモリ12に格納する。

    続いて、後続の第2フレームに対してフレーム間符号化を実行する場合について説明する。

    動き検出器22は、動画像符号化装置自体の動きを検出する。 例えば、垂直・平方向の動きベクトルMVx、MVyを算出し、これらの2乗和を動画像符号化装置の動きの大きさと定義する。 動き判定器23は、動画像符号化装置の動きの大きさが所定値より大きいか否かを判定する。

    動画像符号化装置の動きの大きさが所定値より大きい場合、動き判定器23は、セレクタ18にフレームメモリ12〜17の内、時間的に新しい2フレームを参照画像とするようにフレームメモリ12〜17の出力を選択する。 一方、動画像符号化装置の動きの大きさが所定値より小さい場合、動き判定器23は、セレクタ18にフレームメモリ12〜17の全ての出力を選択する。

    動き推定器19は、選択されたフレームメモリの内容を読み出し、動きベクトルを算出し、動き補償器20で予測画像を生成し、差分器5に入力する。 セレクタ3は出力に差分器5を選択する。 差分器5は予測誤差を算出し、その算出結果は変換/量子化器6に入力され、整数型直交変換を実行し、得られる係数を量子化する。 その量子化結果である量子化係数は、エントロピー符号化器7と逆量子化/逆変換器10に入力される。

    エントロピー符号化器7では、入力された量子化結果をエントロピー符号化し、符号化データは記録器8を介して記録メディア9に記録される。 また、動き推定器19で算出された動きベクトルは、動き符号化器21で符号化され、符号化データは記録器8を介して記録メディア9に記録される。

    逆量子化/逆変換器10では、入力された量子化結果から予測誤差を得て、加算器11に入力する。 予測誤差に動き補償器20からの予測画像(予測値)を加算し、空いているかまたはフレームメモリに記録されている参照画像で最も古い画像データを格納しているフレームメモリに格納する。

    次に、実施形態1の動画像符号化装置の動画像符号化処理の処理フローについて、図2を用いて説明する。

    図2は本発明の実施形態1に係る動画像符号化装置における動画像符号化処理を示すフローチャートである。

    まず、ステップS1にて、ヘッダ情報を生成して出力する。 ステップS2にて、全てのフレームの符号化が終了したか否かを判定する。 終了している場合(ステップS2でYES)、処理を終了する。 一方、終了していない場合(ステップS2でNO)、ステップS3に進む。

    ステップS3にて、符号化対象のフレームデータを入力する。 ステップS4にて、動画像符号化装置の動きを検出する。

    ステップS5にて、検出した動画像符号化装置の動きの大きさを所定値と比較する。 動きの大きさが所定値以下である場合(ステップS5でNO)、ステップS6に進み、参照フレーム数をM(この場合は、5)に設定する。 一方、動きの大きさが所定値より大きい場合(ステップS5でYES)、ステップS7に進み、参照フレーム数をN(この場合は、2)に設定する。 ここで、常にM>Nである。

    ステップS8にて、符号化対象のフレームデータの符号化モードを判定する。

    符号化モードがフレーム内符号化である場合、ステップS9に進み、入力されたフレームデータに対してフレーム内符号化を実行して、ステップS11に進む。

    一方、符号化モードがフレーム間符号化である場合、ステップS10に進み、参照フレーム数のフレームメモリの画像を参照しながら動き補償を実行して、フレーム間符号化を実行して、ステップS11に進む。

    ステップS11にて、復号画像をフレームメモリの空いているフレームメモリまたは最も時間的に古い画像データが格納されているフレームメモリに格納する。

    ステップS12にて、符号化データを記録メディア9に記録して、次のフレームを処理するために、ステップS2に戻る。

    以上説明したように、実施形態1によれば、撮像部の動きが大きい(激しい)場合、時間的に離れたフレームの参照の頻度が極端に小さくなるため、これを参照しないことで、動き補償に係る演算処理量を大幅に削減することができる。 これにより、処理の高速化を図ることができる。

    尚、実施形態1においては、参照フレーム数を最大5フレームとしたが、これに限定されず、フレームメモリを必要数揃えることで、その他の枚数の参照にも対応できることは明らかである。

    また、実施形態1においては、動きの大きい時の参照フレーム数もこれに限定されない。 さらに、動きの大きさに従って選択するフレーム数を可変にしても構わない。 例えば、動画像符号化装置の動きの大きさに反比例して参照できるフレーム数を決定しても構わないし、その他の基準を用いてももちろん構わない。

    また、実施形態1においては、撮像部1の動きについて、動き検出器22(センサー)を設けて検出したが、入力された画像データに基づいて、撮像部1の動きを検出する構成でも構わない。 例えば、縮小画像を生成して、大まかな動きベクトルを検出したり、画像の数点の動きを検出し、その検出結果を撮像部1の動きとして検出したりする構成でも構わない。

    また、実施形態1においては、前方向予測のみを例にとって説明したが、後方向予測や両方向予測を用いた場合も、フレームメモリを必要数揃えることで対応できることは明らかである。

    また、実施形態1の動画像符号化装置の各種構成要素の一部または全部の機能を、ソフトウェアで記述し、CPU等の演算装置によって処理を実行する構成としてももちろん構わない。

    <実施形態2>
    図3は本発明の実施形態2に係る動画像符号化装置の構成を示すブロック図である。

    尚、図3において、実施形態1の図1と同様の機能を果たす部分に関しては、同じ番号を付与し、説明を省略する。

    図3において、100は動き推定器であり、入力画像とフレームメモリ12〜17中の復号画像データから参照可能なフレームデータを参照して、最適な動きベクトルを該当するフレームデータから抽出する。

    101は動き補償器であり、動き推定器100で算出された動きベクトルと該当するフレーム情報から予測画像を生成する。 102はフレームメモリ12〜17を制御するフレームメモリ制御器であり、フレームメモリ12〜17への書込や読出、電力の供給を制御する。

    次に、図3の動画像符号化装置の動画像符号化動作について、以下に説明する。

    まず、実施形態1と同様に、ヘッダ情報を生成し、記録器8を介して記録メディア9に記録する。

    次に、実施形態1と同様に、撮像部1による撮影フレームの画像データは、フレームメモリ2に格納され、セレクタ3に入力される。

    フレーム内符号化を実行する場合は、実施形態1と全く同様であり、生成された符号化データは記録器8を介して記録メディア9に記録される。

    また、フレームメモリ制御器102の指示に従って、復号画像は、空いているかまたはフレームメモリに記録されている参照画像で最も古い画像データを格納しているフレームメモリに格納する。 即ち、フレームメモリ制御器102は使用していないフレームメモリの1つに電力を供給し、書込可能に設定するか、フレームメモリの中で最も時間の経過したフレームのフレームメモリを書込可能に設定する。

    続いて、フレーム間符号化を実行する場合について説明する。

    実施形態1と同様に、動き検出器22は、動画像符号化装置自体の動きを検出する。 例えば、垂直・水平方向の動きベクトルMVx、MVyを算出し、これらの2乗和を動画像符号化装置の動きの大きさと定義する。 動き判定器23は、動画像符号化装置の動きの大きさが所定値より大きいか否かを判定する。

    動画像符号化装置の動きの大きさが所定値より大きい場合、動き判定器23はフレームメモリ制御器102に対して動画像符号化装置が大きく動いたことを通知する。 この通知を受けた場合、フレームメモリ制御器102は、時間的に新しい2フレームを参照画像とするようにフレームメモリ12〜17の出力を選択するために、フレームメモリ12〜17の2つのフレームメモリを読出可能に設定し、その他の1つのフレームメモリを書込可能に設定し、更に、それ以外のフレームメモリに対して電力の供給を停止する。

    また、動画像符号化装置の動きの大きさが所定値以下である場合、動き判定器23はフレームメモリ制御器102に対して動画像符号化装置が大きく動いていないことを通知する。 この通知を受けた場合、フレームメモリ制御器102は、フレームデータを格納しているフレームメモリを読出可能に設定する。 また、使用していないフレームメモリの1つに電力を供給し、書込可能に設定するか、フレームメモリの中で最も時間の経過したフレームのフレームメモリを書込可能に設定する。

    動き推定器100は、読出可能に設定されているフレームメモリの内容を読み出し、動きベクトルを算出して、動き補償器101で予測画像を生成し、差分器5に入力する。 以下、実施形態1と同様にして、フレーム間符号化を実行し、符号化データは記録器8を介して記録メディア9に記録する。

    逆量子化/逆変換器10では、入力された量子化結果から予測誤差を得て、加算器11に入力する。 予測誤差に動き補償器101からの予測画像を加算し、書込可能に設定されているフレームメモリに格納する。

    次に、実施形態2の動画像符号化装置の動画像符号化処理の処理フローについて、図4〜図6を用いて説明する。

    図4は本発明の実施形態2に係る動画像符号化装置における動画像符号化処理を示すフローチャートである。

    尚、図4において、実施形態1の図2と同様の機能を果たす部分に関しては同じ番号を付与し、説明を省略する。

    実施形態1と同様に、ステップS1〜ステップS4の処理後、ステップS5にて、動きの大きさが所定値以下である場合(ステップS5でNO)、ステップS100に進み、フレームメモリ制御Mを実行する。 一方、動きの大きさが所定値より大きい場合(ステップS5でYES)、ステップS101に進み、フレームメモリ制御Nを実行する。 ここで、常にM>Nである。

    ここで、ステップS100のフレームメモリ制御Mの詳細について、図5を用いて説明する。

    図5は本発明の実施形態2に係るフレームメモリ制御Mの詳細を示すフローチャートである。

    ステップS102にて、参照フレーム数をM(この場合は、5)に設定する。 ステップS103にて、電力が供給されず使用されていない不使用フレームメモリの有無を判定する。 不使用フレームメモリがない場合(ステップS103でNO)、ステップS104に進み、最も時間的に古い画像データ(参照フレーム)が格納されているフレームメモリを書込可能に設定する。

    一方、不使用フレームメモリがある場合(ステップS103でYES)、ステップS105に進み、不使用フレームメモリの1つを選択し、電力を供給して使用できるようにする。 次に、ステップS106にて、ステップS105で使用が可能になったフレームメモリを書込可能に設定する。

    ステップS107にて、残りのフレームメモリで時間的に新しいものから最大M個のフレームメモリを読出可能に設定する。 これで、フレームメモリ制御Mの手順を終了し、図4のステップS8に進む。

    次に、ステップS101のフレームメモリ制御Nの詳細について、図6を用いて説明する。

    図6は本発明の実施形態2に係るフレームメモリ制御Nの詳細を示すフローチャートである。

    ステップS110にて、参照フレーム数をN(この場合は、2)に設定する。

    ステップS111にて、残りのフレームメモリで時間的に新しいものからN個のフレームメモリを読出可能に設定する。 ステップS112にて、残りのフレームメモリのいずれか1つのフレームメモリを書込可能に設定する。

    ステップS113にて、さらに残りのフレームメモリは不使用フレームメモリであるので、それへの電力供給を停止する。 これでメモリ制御Nの手順を終了し、図4のステップS8に進む。

    図4に戻り、以降、実施形態1と同様に、ステップS8〜ステップS10の処理後、ステップS102にて、復号画像をフレームメモリの書込可能に設定されているフレームメモリに格納する。 ステップS12にて、符号化データを記録メディア9に記録して、次のフレームを処理するためにステップS2に戻る。

    以上説明したように、実施形態2によれば、実施形態1で説明した効果に加えて、不使用フレームメモリへの電力供給を停止することで、消費電力を抑えることができる。 そのため、特に、限られた電源で動作している環境においては、その動作時間を延ばすことが可能になる。

    尚、実施形態2においては、参照フレーム数を最大5フレームとしたが、これに限定されず、フレームメモリを必要数を揃えることで、その他の枚数の参照にも対応できることは明らかである。

    また、実施形態2においては、動きの大きい時の参照フレーム数もこれに限定されない。 さらに、動きの大きさに従って選択するフレーム数を可変にしても構わない。 例えば、動画像符号化装置の動きの大きさに反比例して参照できるフレーム数を決定しても構わないし、その他の基準を用いてももちろん構わない。

    また、実施形態2においては前方向予測のみを例にとって説明したが、後方向予測や両方向予測を用いた場合もフレームメモリを必要数揃えることで対応できることは明らかである。

    また、実施形態2の動画像符号化装置の各種構成要素の一部または全部の機能を、ソフトウェアで記述し、CPU等の演算装置によって処理を実行する構成としてももちろん構わない。

    <実施形態3>
    図7は本発明の実施形態3に係る動画像符号化装置の構成を示すブロック図である。

    尚、図7において、実施形態2の図3と同様の機能を果たす部分に関しては、同じ番号を付与し、説明を省略する。

    図7において、200は動画像符号化装置の撮影モードを設定する撮影モード設定器である。 撮影モードには、標準となる「自動モード」の他、スピードの速い被写体を撮影するための「スポーツモード」や、山、海等の風景を撮影するための「風景モード」等があるものとするが、これに限定されない。

    201はフレームメモリ12〜17を制御するフレームメモリ制御器であり、撮影モードに応じて、フレームメモリ12〜17への書込や読出、電力の供給を制御する。 202は撮像部であり、撮影モード設定器200の指示に従って、シャッタースピードや絞り値等を制御することが可能である。

    次に、図7の動画像符号化装置の動画像符号化動作について、以下に説明する。

    まず、不図示のユーザは、撮影を開始する前に撮影モード設定器200を用いて、撮像部202の撮影モードを設定する。 設定された撮影モードは、撮像部202とフレームメモリ制御器201に入力される。 撮像部202は、設定された撮影モードに適したシャッタースピードや絞り値を選択して設定する。

    フレームメモリ制御器201では、「自動モード」が選択された場合、参照フレーム数を3とし、フレームメモリ16及び17は使用せずに電力の供給を停止する。 また、「スポーツモード」が選択された場合、参照フレーム数を1とし、フレームメモリ14〜17は使用せずに電力の供給を停止する。 更に、「風景モード」が選択された場合、参照フレーム数を5とする。

    以下、電源が供給されているフレームメモリを用いて、各フレームをフレーム内符号化またはフレーム間符号化を実行する。

    フレーム内符号化を実行する場合は、電源が供給さているフレームメモリに対して、フレームメモリ制御器201が順番に空いているフレームメモリまたは時間的に最も古いフレームを格納しているフレームメモリを書込可能に設定して、復号画像を格納する。

    フレーム間符号化を実行する場合は、電源が供給さているフレームメモリに対して、フレームメモリ制御器201が順番に空いているフレームメモリまたは時間的に最も古い画像データを格納しているフレームメモリを書込可能に設定し、それ以外を読出可能に設定する。

    尚、フレーム間符号化では、参照フレーム数は各撮影モードで設定されているので、これに従って、動きベクトルを算出し、動き補償を実行する。 生成された符号化データは、記録器8を介して記録メディア9に記録される。 復号画像は、書込可能に設定されているフレームメモリに格納される。

    次に、実施形態3の動画像符号化装置の動画像符号化処理の処理フローについて、図8を用いて説明する。

    図8は本発明の実施形態3に係る動画像符号化装置における動画像符号化処理を示すフローチャートである。

    尚、図8において、実施形態1の図2と同様の機能を果たす部分に関しては同じ番号を付与し、説明を省略する。

    ステップS200にて、撮影モードを設定する。

    尚、図8では、撮影モードとして、「スポーツモード」、「風景モード」及び「自動モード」が存在するものとする。

    ステップS201にて、撮影モードが「スポーツモード」であるか否かを判定する。 「スポーツモード」である場合(ステップS201でYES)、ステップS202に進み、参照フレーム数をN(この場合は、1)に設定する。 次に、ステップS203にて、不使用フレームメモリについて電力供給を停止する。 その後、ステップS1に進む。

    一方、ステップS201において、撮影モードが「スポーツモード」でない場合(ステップS201でNO)、ステップS204に進み、撮影モードが「風景モード」であるか否かを判定する。 「風景モード」である場合、ステップS205に進み、参照フレーム数をP(この場合は、5)に設定する。 その後、ステップS1に進む。

    一方、撮影モードが「風景モード」でない場合(ステップS204でNO)、ステップS206に進み、参照フレーム数をM(この場合は、3)に設定する。 ステップS207にて、不使用フレームメモリについて電力供給を停止する。 その後、ステップS1に進む。 ここで、常にP≧M≧Nである。

    以下、実施形態1と同様に、設定されている参照フレーム数P、M、Nのいずれかに基づいて、ステップS1〜ステップS3及びステップS8〜ステップS12の処理を実行する。

    以上説明したように、実施形態3によれば、撮影モードによって予想される、符号化対象の動画像の動きの大きさに基づいて、参照フレーム数を制御することで、動きに応じて最適な処理を実行することができる。

    また、予め撮影モードに基づいて、参照フレーム数を設定することにより、最適な参照を可能にすることができる。 さらには、不使用フレームメモリに電力の供給を停止することで、消費電力を抑えることができる。 そのため、特に、限られた電源で動作している環境においては、その動作時間を延ばすことが可能になる。

    尚、実施形態3においては、参照フレーム数を最大5フレームとしたが、これに限定されず、フレームメモリを必要数を揃えることで、その他の枚数の参照にも対応できることは明らかである。

    また、実施形態3においては前方向予測のみを例にとって説明したが、後方向予測や両方向予測を用いた場合もフレームメモリを必要数揃えることで対応できることは明らかである。

    また、実施形態3の動画像符号化装置の各種構成要素の一部または全部の機能を、ソフトウェアで記述し、CPU等の演算装置によって処理を実行する構成としてももちろん構わない。

    <実施形態4>
    図9は本発明の実施形態4に係る動画像符号化装置の構成を示すブロック図である。

    図9において、300は装置全体の制御、及び種々の処理を行なう中央演算装置(CPU)、301は本装置の制御に必要なオペレーティングシステム(OS)、ソフトウェア、演算に必要な記憶領域を提供するメモリである。 302は動画像符号化装置を構成する各種構成要素を相互に接続し、データ及び制御信号を転送するバスである。

    303は装置の起動、各種条件の設定、再生の指示を実行するための端末である。 304はソフトウェアを蓄積する記憶装置である。 305は符号化ストリームを蓄積する記憶装置である。 記憶装置304及び305は、動画像符号化装置から切り離して移動できる可搬性記憶媒体で構成することもできる。

    307は動画像を1フレームずつ撮影できるカメラ(撮像部)である。 306はカメラ307のカメラ雲台であり、ソフトウェアによって制御され、カメラ307からの画像データやカメラ307の状態やカメラ雲台306自身の状態をバス302に出力する機能を有する。

    308は画像を表示するモニタである。 310は通信回線であり、LAN、公衆回線、無線回線、放送電波等で構成されている。 309は通信回線310を介してストリームを送受信する通信インターフェース(I/F)である。

    メモリ301には装置全体を制御し、各種ソフトウェアを動作させるためのOSや動作させるソフトウェアが格納され、これに加えて、画像データを格納する画像エリア、生成した符号化データを格納する符号エリア、各種演算や符号化の際のパラメータ等を格納するワーキングエリアが存在する。

    このような構成において、通信回線310を介して外部端末からカメラ307を制御し、カメラ307から撮影した動画像を符号化し、通信回線310を介してその外部端末に送信する処理について説明する。

    ここでは、符号化方式としてH. 264符号化方式を例にとって説明するが、これに限定されず、2フレーム以上の複数フレームを参照して符号化する符号化方式であれば、どのような符号化方式でも構わない。 また、説明を容易にするために、符号化対象のフレームを前後3フレームずつを参照することとするが、これに限定されない。

    処理に先立ち、端末303から装置全体に対して起動が指示され、各構成要素が初期化される。 これにより、記憶装置304に格納されているソフトウェアが、バス302を介してメモリ301に展開され、ソフトウェアが起動される。

    ここで、メモリ301のデータ構成について、図10を用いて説明する。

    図10は本発明の実施形態4に係るメモリのデータ構成を示す図である。

    図10に示すように、メモリ301には、装置全体を制御し、各種ソフトウェアを動作させるためのOS、H. 264符号化方式を実行する動画像符号化ソフトウェア、通信を制御する通信ソフトウェア、カメラ雲台306を制御するカメラ制御ソフトウェアが格納される。 また、画像データを記憶する画像エリア1〜7、符号化データを記憶する符号エリア、ワーキングエリアが構成されている。

    このような構成において、CPU300による動画像符号化装置の制御について、図11を用いて説明する。

    図11は本発明の実施形態4に係る動画像符号化装置が実行する処理を示すフローチャートである。

    ステップS300にて、カメラ制御ソフトウェアを起動し、各部の初期化を実行し、動画像の撮影を開始する。 ステップS301にて、通信ソフトウェアを起動し、通信回線310を介してカメラ制御情報を受信し、符号化データを出力するための準備を実行する。

    ステップS302にて、端末303から処理終了の入力の有無を判定する。 入力がある場合(ステップS302でYES)、ステップS307に進み、通信ソフトウェアを終了する。 次に、ステップS308にて、カメラ制御ソフトウェアを終了した後、全ての処理を終了する。

    一方、ステップS302において、入力がない場合(ステップS302でNO)、ステップS303に進み、通信回線310から通信インターフェース309を介してカメラ制御要求と動画像伝送要求の有無を判定する。 要求がない場合(ステップS303でNO)、ステップS302に戻り、要求があるまで待機する。 一方、要求がある場合(ステップS303でYES)、ステップS304に進む。

    ステップS304にて、動画像符号化ソフトウェアを起動する。 ステップS305にて、符号化と符号化データの送信を実行する。 尚、この処理の詳細については、後述する。 通信の終了を受信したら、ステップS306に進む。 ステップS306にて、符号化ソフトウェアを終了し、ステップS302に戻り、次の指示を待機する。

    次に、ステップS305の処理の詳細について、図12を用いて説明する。

    図12は本発明の実施形態4に係るステップS305の処理の詳細を示すフローチャートである。

    まず、ステップS351にて、ヘッダ情報を生成して、メモリ301上の符号エリアに格納する。 通信ソフトウェアは、符号エリアに符号化データが格納されたら、通信インターフェース309を介して通信回線310に送出し、送出後、符号エリアの該当する領域をクリアする。 以後、特に、符号エリアの符号化データの送信については言及しない。

    ステップS352にて、通信終了要求の有無を判定する。 通信終了要求がある場合(ステップS352でYES)、処理を終了する。 一方、通信終了要求がない場合(ステップS352でNO)、ステップS353に進む。

    ステップS353にて、通信回線310から通信インターフェース309を介してカメラを制御するカメラ制御コマンドを受信していれば、そのコマンドをカメラ雲台306に入力する。 カメラ雲台306は、このカメラ制御コマンドに基づいて、パンニング、チルト、ズーム等の動作を行なう。

    ステップS354にて、カメラ307で撮影されたフレームデータを、カメラ雲台306を介して入力し、メモリ301上の画像エリア1に格納する。

    ステップS355にて、カメラ雲台306からカメラ307の動きに関するデータを取得する。 ここで、カメラ雲台306は、カメラ制御コマンドを受信してからカメラ雲台306を動作させるが、その動きの状態はモータ等の状況を監視することで、カメラ307の動きに関するデータを取得することができる。 取得したデータは、メモリ301上のワーキングエリアに書き込む。

    ステップS356にて、取得したカメラ307の動きに関するデータ(動きの大きさ)と所定値を比較する。

    動きの大きさが所定値以下である場合(ステップS356でNO)、ステップS357に進み、前後の参照フレーム数をM(この場合、は3)に設定する。 次に、ステップS358にて、後述するフレーム間符号化時の動き補償を行なう際の動きベクトルを探索する範囲をm×mとする。 ここでは、mは、例えば、32画素とする。 その後、ステップS361に進む。

    一方、動きの大きさが所定値より大きい場合(ステップS356でYES)、ステップS359に進み、前後の参照フレーム数をN(この場合は、1)に設定する。 ここで、常に、M>Nである。 次に、ステップS360にて、後述するフレーム間符号化時の動き補償を行なう際の動きベクトルを探索する範囲をn×nとする。 ここでは、nは、例えば、55画素とする。 その後、ステップS361に進む。

    ステップS361にて、符号化対象のフレームデータの符号化モードを判定する。

    符号化モードがフレーム内符号化である場合、ステップS362に進み、入力されたフレームデータに対してフレーム内符号化を実行する。 そして、生成した符号化データをメモリ301上の符号エリアに格納した後、ステップS364に進む。

    一方、符号化モードがフレーム間符号化である場合、ステップS363に進み、設定された参照フレーム数の画像エリアの画像を参照しながら、設定された範囲で動きベクトル探索を実行して動き補償を実行することによって、フレーム間符号化を実行する。 そして、生成した符号化データをメモリ301上の符号エリアに格納した後、ステップS364に進む。

    ステップS364にて、復号画像をメモリ301上の画像エリアの空いている画像エリアまたは最も時間的に古い画像データが格納されている画像エリアに格納する。 ステップS365にて、符号エリアに格納された符号化データを、通信インターフェース309を介して通信回線310に送出し、次のフレームを処理するためにステップS352に戻る。

    以上説明したように、実施形態4によれば、カメラの動きが大きい(激しい)場合、時間的に離れたフレームの参照の頻度が極端に小さくなるため、これを参照しないことで、動き補償に係る演算処理量を大幅に削減することができる。 これにより、処理の高速化を図ることができる。

    また、カメラの動きが大きい(激しい)場合、カメラの動きが小さい場合に比べて、動きベクトルの探索範囲を広げることで、正確な動きベクトルの探索を実行することができる。 即ち、参照フレーム数を5フレームから2フレームに減じた時は、その動きベクトルの探索範囲を(3025(55×55)/1024(32×32)) 1/2と広げでも演算量は同じであり、CPUの負担を増やさずに効率よく動きベクトルを探索できる。

    尚、実施形態4においては、参照フレームを、符号化対象のフレームの前後3フレームとしたが、これに限定されず、参照フレームを格納するための画像エリアを必要量確保することでその他の枚数の参照にも対応できることは明らかである。

    また、実施形態4の動画像符号化装置の各種構成要素の一部または全部の機能を、ソフトウェアで記述し、CPU等の演算装置によって処理を実行する構成としてももちろん構わない。

    また、実施形態4では、通信ソフトウェアを起動して通信インターフェース309を介して通信回線310に送信する例について説明したが、記憶装置305に格納しても、もちろん構わない。

    また、入力画像もカメラからの撮影画像に限定されず、記憶装置305に格納されている動画像データを用いて、画面の動きの大きさを判定しながら、その参照フレーム数を変更することも可能である。 さらには、シーンチェンジ等を検出した場合、その参照フレーム数をリセットすることも可能である。

    また、用途や目的に応じて、実施形態1〜4の構成を任意に組み合わせた実施形態を実現することももちろん構わない。

    以上、実施形態例を詳述したが、本発明は、例えば、システム、装置、方法、プログラムもしくは記憶媒体等としての実施態様をとることが可能であり、具体的には、複数の機器から構成されるシステムに適用しても良いし、また、一つの機器からなる装置に適用しても良い。

    尚、本発明は、前述した実施形態の機能を実現するソフトウェアのプログラム(実施形態では図に示すフローチャートに対応したプログラム)を、システムあるいは装置に直接あるいは遠隔から供給し、そのシステムあるいは装置のコンピュータが該供給されたプログラムコードを読み出して実行することによっても達成される場合を含む。

    従って、本発明の機能処理をコンピュータで実現するために、該コンピュータにインストールされるプログラムコード自体も本発明を実現するものである。 つまり、本発明は、本発明の機能処理を実現するためのコンピュータプログラム自体も含まれる。

    その場合、プログラムの機能を有していれば、オブジェクトコード、インタプリタにより実行されるプログラム、OSに供給するスクリプトデータ等の形態であっても良い。

    プログラムを供給するための記録媒体としては、例えば、フロッピー(登録商標)ディスク、ハードディスク、光ディスク、光磁気ディスク、MO、CD−ROM、CD−R、CD−RW、磁気テープ、不揮発性のメモリカード、ROM、DVD(DVD−ROM,DVD−R)などがある。

    その他、プログラムの供給方法としては、クライアントコンピュータのブラウザを用いてインターネットのホームページに接続し、該ホームページから本発明のコンピュータプログラムそのもの、もしくは圧縮され自動インストール機能を含むファイルをハードディスク等の記録媒体にダウンロードすることによっても供給できる。 また、本発明のプログラムを構成するプログラムコードを複数のファイルに分割し、それぞれのファイルを異なるホームページからダウンロードすることによっても実現可能である。 つまり、本発明の機能処理をコンピュータで実現するためのプログラムファイルを複数のユーザに対してダウンロードさせるWWWサーバも、本発明に含まれるものである。

    また、本発明のプログラムを暗号化してCD−ROM等の記憶媒体に格納してユーザに配布し、所定の条件をクリアしたユーザに対し、インターネットを介してホームページから暗号化を解く鍵情報をダウンロードさせ、その鍵情報を使用することにより暗号化されたプログラムを実行してコンピュータにインストールさせて実現することも可能である。

    また、コンピュータが、読み出したプログラムを実行することによって、前述した実施形態の機能が実現される他、そのプログラムの指示に基づき、コンピュータ上で稼動しているOSなどが、実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現され得る。

    さらに、記録媒体から読み出されたプログラムが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行ない、その処理によっても前述した実施形態の機能が実現される。

    本発明の実施形態1に係る動画像符号化装置の構成を示すブロック図である。

    本発明の実施形態1に係る動画像符号化装置における動画像符号化処理を示すフローチャートである。

    本発明の実施形態2に係る動画像符号化装置の構成を示すブロック図である。

    本発明の実施形態2に係る動画像符号化装置における動画像符号化処理を示すフローチャートである。

    本発明の実施形態2に係るフレームメモリ制御Mの詳細を示すフローチャートである。

    本発明の実施形態2に係るフレームメモリ制御Nの詳細を示すフローチャートである。

    本発明の実施形態3に係る動画像符号化装置の構成を示すブロック図である。

    本発明の実施形態3に係る動画像符号化装置における動画像符号化処理を示すフローチャートである。

    本発明の実施形態4に係る動画像符号化装置の構成を示すブロック図である。

    本発明の実施形態4に係るメモリのデータ構成を示す図である。

    本発明の実施形態4に係る動画像符号化装置が実行する処理を示すフローチャートである。

    本発明の実施形態4に係るステップS305の処理の詳細を示すフローチャートである。

    従来の動画像符号化装置の構成を示すブロック図である。

    符号の説明

    1、202 撮像部 2、12〜17、1007〜1010 フレームメモリ 3、18、1000 セレクタ 4、1001 イントラ予測器 5、1002 差分器 6、1003 変換/量子化器 7、1004 エントロピー符号化器 8 記録器 9 記録メディア 10、1005 逆量子化/逆変換器 11、1006 加算器 19、100、1011 動き推定器 20、101、1012 動き補償器 21、1013 動き符号化器 22 動き検出器 23 動き判定器 102、201 フレームメモリ制御器 200 撮影モード設定器 300 CPU
    301 メモリ 302 バス 303 端末 304、305 記憶装置 306 カメラ雲台 307 カメラ 308 モニタ 309 通信インターフェース 310 通信回線 1014 出力器

    高效检索全球专利

    专利汇是专利免费检索,专利查询,专利分析-国家发明专利查询检索分析平台,是提供专利分析,专利查询,专利检索等数据服务功能的知识产权数据服务商。

    我们的产品包含105个国家的1.26亿组数据,免费查、免费专利分析。

    申请试用

    分析报告

    专利汇分析报告产品可以对行业情报数据进行梳理分析,涉及维度包括行业专利基本状况分析、地域分析、技术分析、发明人分析、申请人分析、专利权人分析、失效分析、核心专利分析、法律分析、研发重点分析、企业专利处境分析、技术处境分析、专利寿命分析、企业定位分析、引证分析等超过60个分析角度,系统通过AI智能系统对图表进行解读,只需1分钟,一键生成行业专利分析报告。

    申请试用

    QQ群二维码
    意见反馈