Mobile imaging applications, equipment, architecture and service platform architecture

申请号 JP2007536967 申请日 2005-10-12 公开(公告)号 JP2008516565A 公开(公告)日 2008-05-15
申请人 ドロップレット テクノロジー インコーポレイテッド; 发明人 ディー コラロフ クラシミル; ディー ラルストン ジョン; イー サンダース スティーヴン;
摘要 移動装置の静止画像及びビデオ画像データを圧縮し及び圧縮解除する装置及び方法を提供する。 対応する移動装置アーキテクチャ、無線及び有線ネットワーク上の静止画像及びビデオ画像を送信し、記憶し、編集し及びトランスコードするとともに静止画像及びビデオ画像が表示可能な装置で見られるサービスプラットホームアーキテクチャも提供する。
权利要求
  • ジョイントソース−チャネルコーディングによって、圧縮するソースビデオをソース符号化段、チャネル符号化段及びレート制御段で順次処理して、ジョイントソース−チャネルコーディングビットストリームを生成する、ジョイントソース−チャネルコーディングの向上した方法であって、
    送信バンド幅パラメータと送信誤り率パラメータのうちの少なくとも一方の変化を決定し、
    少なくとも一つの決定された変化に応答して、前記ソース符号化段、前記チャネル符号化段及び前記レート制御段のうちの少なくとも一つの処理を変更する方法。
  • 請求項1記載の方法において、前記パラメータの少なくとも一つを、瞬時のパラメータとすることを特徴とする方法。
  • 請求項1記載の方法において、前記パラメータの少なくとも一つを、予測されるパラメータとすることを特徴とする方法。
  • 請求項1記載の方法において、前記パラメータの少なくとも一つを、平均のパラメータとすることを特徴とする方法。
  • 請求項1記載の方法において、拡張可能でウェーブレットを利用するソース符号化段を更に設けることを特徴とする方法。
  • 請求項1記載の方法において、前記パラメータの少なくとも一つを、セルラ電話信号タワーから受信することを特徴とする方法。
  • 請求項1記載の方法において、前記段の少なくとも一つの処理の変更によって約1〜40%の範囲の割合変化増分が生じることを特徴とする方法。
  • 請求項1記載の方法において、前記段の少なくとも一つの処理の変更によって約1〜5%の範囲の割合変化増分が生じることを特徴とする方法。
  • 说明书全文

    関連出願

    この出願は、2004年10月12日に出願された発明の名称が「モバイルイメージングアプリケーション、装置アーキテクチャ及びサービスプラットホームアーキテクチャ」である米国特許出願第60/618,558号の仮出願、2004年10月13日に出願された発明の名称が「ビデオモニタリングアプリケーション、装置アーキテクチャ及びシステムアーキテクチャ」である米国特許出願第60/618,938号の仮出願、及び2005年2月16日に出願された発明の名称が「モバイルイメージングアプリケーション、装置アーキテクチャ並びに装置プラットーホームアーキテクチャ及びサービス」である米国特許出願第60/654,058号の仮出願の優先権を主張し、その各々を参照することによって全体をここに組み込む。

    この出願は、2004年9月16日に出願されるとともに2005年5月19日に米国特許公開第2005/0104752として公開された発明の名称が「マルチコーデック−イメージャシステム及び方法」である米国特許出願第10/944,437号の一部継続出願、2003年4月17日に出願されるとともに2003年11月6日米国特許公開第2003/0206597号として公開された発明の名称が「画像及びビデオトランスコーディング装置、方法及びコンピュータプログラム」である米国特許出願第10/418,649号の一部継続出願、2003年4月17日に出願されるとともに2003年10月23日に米国特許公開第2003/0198395号として公開された発明の名称が「ウェーブレット変換装置、方法及びコンピュータプログラム」である米国特許出願第10/418,363号の一部継続出願、2003年5月28日に出願されるとともに2003年12月11日に米国特許公開第2003/0229773号として公開された発明の名称が「並列プロセッサのパイル処理システム及び方法」である米国特許出願第10/447,455号の一部継続出願、2003年5月28日に出願されるとともに2003年12月25日に米国特許公開第2003/0235340号として公開された発明の名称が「色度時間レート減少及び高品質休止システム及び方法」である米国特許出願第10/447,514号の一部継続出願、2004年9月29日に出願されるとともに2005年5月19日に米国特許公開第2005/0105609号として公開された発明の名称が「時間的に順番どおりでない圧縮及びマルチソース圧縮率制御の装置及び方法」である米国特許出願第10/955,240号の一部継続出願、2004年9月21日に出願された仮出願第60/612,311号の優先権を主張する2005年9月20日に出願された発明の名称が「可変サブバンド処理を行う圧縮率制御装置及び方法」であるべ国ク特許出願第 号(代理人整理番号74189−200301/US)の一部継続出願、2004年9月22日に出願された仮出願第60/612,652号の優先権を主張する2005年9月21日に出願された発明の名称が「マルチテクニックエントロピー符号化装置及び方法」である米国特許出願第 号(代理人整理番号74189−200401/US)のCIP、及び2004年9月22日に出願された仮出願第60/612,651号の優先権を主張する2005年9月21日に出願された発明の名称が「入替再構成」である米国特許出願第 号(代理人整理番号74189−200501/US)のCIPであり、その各々を参照することによって全体をここに組み込む。 この出願は、2004年11月30日に発行された発明の名称が「マルチコーデック−イメージャ装置及び方法」である米国特許第6,825,780号及び2005年1月25日に発行された発明の名称が「2進モノトニック(DM)コーデックの装置及び方法」である米国特許第6,847,317号も参照によって全体をここに取り込む。

    本発明は、データ圧縮に関し、特に、移動装置の静止画像及びビデオ画像の記録、対応する移動装置アーキテクチャ、並びに、無線及び有線ネットワーク上の静止画像及びビデオ画像を送信し、記憶し、編集し及びトランスコーディングし、静止画像及びビデオ画像を観察し、かつ、ネットワークと装置との間でコーデックを分配し及び更新するサービスプラットホームアーキテクチャに関する。

    直接デジタル化された静止画像及びビデオ画像は、大量のビットを必要とする。 したがって、記憶、送信及び他の仕様のために静止画像及びビデオ画像を圧縮するのが一般的である。 複数の基本的な圧縮方法及びこれら圧縮方法の非常に多くの変形が知られている。 一般的な方法は、3段階のプロセス:変換、量子化及びエントロピー符号化によって特徴付けることができる。 多数の画像及びビデオコンプレッサは、この基本的なアーキテクチャを様々な方法で共有する。

    ビデオコンプレッサの変換段の目的は、画像又はシーケンスの局所的な類似及びパターンを利用することによってソース画像のエネルギー又は情報をできるだけコンパクトな形態にすることである。 コンプレッサは、「典型的な」入において良好に作用するように設計され、「ランダムな」又は「異常な」入力の圧縮のし損ないを無視することができる。 MPEG−2やMPEG4のような多数の画像圧縮及びビデオ圧縮方法は、変換段階として離散余弦変換(DCT)を用いる。 MPEG−4静止テクスチャ圧縮のような一部の新しい画像圧縮及びビデオ圧縮方法は、変換段階として種々のウェーブレット変換を用いる。

    量子化は、典型的には変換段階後の情報を排除する。 再構成された圧縮解除画像は、元の画像の正確な再生ではない。

    エントロピー符号化は損失の多いステップである。 このステップは、量子化後に残る情報を取り出し、通常はデコーダで正確に再生できるようにその情報を符号化する。 したがって、変換段階及び量子化段階で除去する情報についての設計決定は、後のエントロピー符号化段階によって悪影響が及ぼされない。

    DCTに基づくビデオ圧縮/圧縮解除(コーデック)技術の制約は、本来ビデオ放送及びストリーミングアプリケーションに対して開発されているため、非常に複雑なエンコーダがコンピュータワークステーション上で実行することができるスタジオ環境でのビデオコンテンツの符号化に依存する。 そのような演算が複雑なエンコーダによって、演算が簡単であるとともに比較的廉価なデコーダ(プレーヤ)を顧客の再生装置にインストールすることができる。 しかしながら、そのような非対称な符号化/復号技術は、ビデオメッセージをハンドセットそれ自体でリアルタイムで取得(符号化)するとともに再生することが所望される移動マルチメディア装置に対する整合性が悪い。 その結果、移動装置の比較的低い演算機能及び比較的小さい電源のために、移動装置のビデオイメージは、典型的には他の市販の製品に比べて非常に小さい画像サイズ及び非常に低いフレーム速度に制限される。

    本発明は、従来の圧縮技術の欠点に対する解決を示し、移動ハンドセット上で全ソフトウェア(又はハイブリッド)アプリケーションとして実現することができる非常に優れた演算効率の画像圧縮(コーデック)を適用し、これによって、ハンドセットアーキテクチャの複雑さ及びモバイルイメージングサービスプラットホームアーキテクチャの複雑さを減少する。 本発明の全ソフトウェア又はハイブリッドビデオコーデックの解決の態様は、ベースバンドプロセッサ及びビデオアクセラレータのコスト及びマルチメディアハンドセットの要求を大幅に減少し又は除去する。 OTAダウンロードを通じて製造後にコーデックをインストールする機能と組み合わせることによって、全ソフトウェアアプリケーション又はハイブリッドアプリケーションの本発明の解決は、ハンドセットの開発並びにビデオメッセージングサービスアーキテクチャ及びデプロイの複雑さ、リスク及びコストを大幅に減少する。 さらに、本発明の態様によれば、ソフトウェアビデオトランスコーダによって、デプロイされたMMS制御(MMSC)の自動的なネットワーク越し(OTN)アップグレード及び移動ハンドセットに対するコーデックのデプロイ又はアップグレードを可能にする。 本発明のウェーブレットトランスコーダは、ウェーブレットビデオフォーマットと標準ベースの独自仕様のビデオフォーマットとの間で完全な相互運用性を有するキャリアを提供する。 本発明の全ソフトウェア又はハイブリッドビデオプラットホームによって、従来技術では利用できない処理速度及びビデオ再生精度を利用する新たなMMSサービスの迅速なデプロイを可能にする。 本発明のウェーブレットコーデックは、静止画像とビデオ画像の両方を有効に処理する能力においても独自のものであり、したがって、個別のMPEGコーデック及びJPEGコーデックを、モバイル画像メール及びビデオメッセージングサービス並びに他のサービスを同時にサポートすることができる単一の低コストかつ低電力の解決に置き換えることができる。

    ウェーブレットに基づく画像処理
    ウェーブレット変換は、1次元以上のデータのセットに対するウェーブレットフィルタ対の繰返しアプリケーションを具える。 静止画像圧縮に対して、2次元ウェーブレット変換(平及び垂直)を利用することができる。 ビデオコーデックは3次元ウェーブレット変換(水平、垂直及び時間)を用いることができる。 向上した対称な3次元ウェーブレットに基づくビデオ圧縮/圧縮解除(コーデック)装置は、移動装置における演算の複雑さ及び消費電力をDCTに基づくコーデックに要求される場合よりも下に減少するとともに単一のコーデックにおいて静止画像及びビデオ画像を処理する際の同時のサポートを可能にすることが望ましい。 単一のコーデックにおける静止画像及びビデオ画像のそのような同時のサポートは、個別のMPEG(ビデオ)及びJPEG(静止画像)に対する必要を除去し、圧縮パフォーマンス、したがって、格納効率をモーションJPEGコーデックに比べて大幅に向上する。

    モバイルイメージメッセージング
    本発明の態様によれば、モバイルハンドセット及びサービスの分野において、コンテンツの更なる増大、より大きなバンド幅の利用、及びモバイルサービスプロバイダに対する月間電気通信事業収入(ARPU)の著しい増大を容易にする。 モバイルマルチメディアサービス(MMS)は、テキストに基づくショートメッセージサービスのマルチメディア展開である。 本発明の態様は、新たなMMSアプリケーションを容易にする。 その新たなアプリケーションは、ビデオメッセージングである。 本発明によるビデオメッセージングは、ターゲットとなる消費者の個人情報との通信の必要に応答する非常に向上したシステムを提供する。 そのようなモバイルイメージメッセージングは、デジタルカメラ機能(静止画像)及び/又はカムコーダ機能(ビデオ画像)をモバイルハンドセットに追加することを要求し、その結果、加入者は、加入者が送信を所望するビデオメッセージを取得(符号化)するとともに加入者が受信するビデオメッセージを再生(復号)することができる。

    一部のモバイルイメージメッセージングサービス及びアプリケーションが現存する間、これらは、典型的にはTV、パーソナルコンピュータ、デジタルビデオカムコーダ等の他のマルチメディア装置(図1参照)で取得され及び表示される場合に比べて著しく小さいサイズで低フレーム速度のビデオ画像を取得し及び送信する際に制約が課される。 図1に示すように、最小の現在のフォーマットSubQCIF110(SubQ共通中間フォーマット)は、128画素(画像素子)幅×96画素高であり、QQVGA120(QQベクトルグラフィックスアレイ)は、160×120画素であり、QCIF130は、176×144画素であり、QVGA140は、320×240画素であり、CIF150は、352×288画素であり、VGA160は、640×480画素であり、最大の現代のフォーマットであるD1/HDTV(高精細テレビジョン)は、720×480画素である。 (本発明の態様によって設けられ及び可能になる)30fps以上のフレーム速度のVGA(又はそれより大きい)ビデオをサポートすることができるモバイルイメージメッセージングサービスが非常に好ましい。

    適合性ジョイントソース−チャネルコーディング
    モバイルネットワーク上でのビデオ送信は、典型的にはテキスト、オーディオ、静止画像等の他のデータ/メディアタイプの送信に比べて高いデータ速度が要求されるために実際に取り組まれている。 さらに、モバイルネットワークの雑音及び誤り特性の変動に従う制限された変動するチャネルバンド幅は、ビデオ転送に更なる制約及び困難を与える。 本発明の態様によれば、ビデオビットストリームを種々のチャネル状態に適合するために種々のジョイントソース−チャネルコーディング儀中とを適用することができる(図2参照)。 さらに、本発明のジョイントソース−チャネルコーディング手法は、変動するチャネルバンド幅及び誤り特性に適合するよう格調可能である。 さらに、それは、マルチキャストシナリオに対する拡張可能性をサポートし、この場合、ビデオストリームの受信帯の種々の装置は、復号演算能力及び表示機能に種々の制約を課すことができる。

    図2に示すように、本発明の態様によれば、ソースビデオシーケンス210は、誤り訂正コード(ECC)チャネルコーディング230が続くソースエンコーダ220によって第1のソース符号化(すなわち、圧縮)が行われる。 従来のモバイルネットワークにおいて、ソース符号化は、典型的には、H. 263,MPEG−4、モーションJPEG等のDCTに基づく圧縮技術を用いる。 そのような符号化技術を、ソースエンコーダで実行される圧縮の程度のリアルタイムの調整を行う本発明のような調整を行うことができない。 本発明のこの態様は、ビデオが取得され、符号化され及び通信ネットワークを通じてリアルタイムまたはほぼリアルタイムで送信するときに(ビデオが取得され、符号化され及び後の送信のために格納される場合に比べて)非常に有利である。 チャネル符号化方法の例は、ロードソロモン符号、FEC符号及びターボ符号である。 その後、ジョイントソース及びチャネル符号化ビデオビットストリームは、最適な再構成ビデオ品質を達成する間にチャネルバンド幅要求に整合するためにレートコントローラ240を通過する。 レートコントローラ240は、チャネル260上での送信のためにビデオビットストリーム250を送り出す前に圧縮ビデオビットストリーム上で個別のレート−歪み演算を行う。 移動装置の演算能力の制限のために、典型的なレートコントローラは、利用できるチャネル幅のみを考察し、送信チャネルの誤り特性を全く考慮しない。 本発明の態様によれば、ソースエンコーダは、1〜5%及び1〜10%の小さい圧縮比の変動を達成するよう圧縮を調整する機能を有する。 これは、一つ以上のビデオ画像のデータを共に表すデータの個別のサブバンドに変動した圧縮率が適用されるときに特に有効である。

    復号中、図2Bに示すように、ジョイントソース−チャネル符号化ビットストリーム250は、チャネル260で受信されるとともに、ステップ270でECCチャネル復号され、ステップ280でソース復号され、再構成されたビデオをステップ290で表示する。

    本発明は、更に高い演算効率を有するアルゴリズムに基づく向上した適合性ジョイントソース−チャネルコーディングを提供し、その結果、瞬時の予測できるチャネルバンド幅及び誤り状態をソースコーダ220、チャネルコーダ230及びレートコントローラ240の全てで利用して、再構成されたビデオ信号の瞬時の平均品質(歪みに対するビデオ速度)の制御を最大にする。

    本発明によって提供される向上した適合性ジョイントソース−チャネルコーディング技術によって、無線キャリア及びMMSサービスプロバイダは、更に広い範囲のサービスの品質(QoS)のパフォーマンス並びに顧客及び企業顧客に対する価格レベルを提供することができ、したがって、無線ネットワークインフラストラクチャを用いて発生した収入を最大にする。

    マルチキャストシナリオは、多数のユーザによって復号することができる単一の適合性ビデオビットストリームを必要とする。 これは、現在の大規模のハイブリッドネットワークにおいて特に重要であり、この場合、ネットワークのバンド幅の制約によって、各ユーザに対して調整される複数の同時のビデオ信号の送信ができなくなる。 単一の適合性ビデオビットストリームの同時送信によって帯域幅の要求が大幅に減少するが、複数のユーザに対して復号可能なビデオビットストリームを発生する必要があり、これらのユーザは、ブロードバンド無線又は有線接続を有するハイエンドユーザと、制限されたバンド幅及び誤りが生じやすい接続を有する無線電話ユーザとを含む。 移動装置の演算能力のために、適合性レートコントローラの精度は、典型的には非常に粗く、例えば、ベース層及び一つのエンハンスメント層を有する2層ビットストリームのみ生成する。

    高い演算効率を有するアルゴリズムに基づく本発明の向上した適合性ジョイントソースチャネルコーディングによる他の利点は、チャネルタイプ(無線及び有線)、チャネルバンド幅、チャネル雑音/誤り特性、ユーザ装置及びユーザサービスに関する非常に高いレベルのネットワークハイブリッドをサポートすることができる

    モバイルイメージングハンドセットアーキテクチャ
    図3を参照すると、デジタルカムコーダ機能を移動ハンドセットに追加することは、ハードウェア、ソフトウェア又はこれらの組合せとして以下の機能を伴うことがある。
    ・ 対応するプリアンプ及びアナログ−デジタル(A/D)信号変換回路を有するイメージャアレイ310(典型的にはCMOS又はCCD画素のアレイ)
    ・ 予処理、符号化/復号(コーデック)、後処理のような画像処理機能312
    ・ 無線又は有線ネットワーク上でのリアルタイムでない送信又はリアルタイムのストリーミングに対して処理された画像のバッファリング314
    ・ タッチスクリーン316及び/又はカラーディスプレイ318のような一つ以上の画像表示スクリーン ・ ビルトインメモリ320又は取外し可能なメモリ322のローカル画像記憶

    MPEG−4のようなDCT変換に基づくコーデックを用いると、市販されている画像処理が可能な移動ハンドセットは、典型的にはTV、パーソナルコンピュータ、デジタルビデオカムコーダ等の他のマルチメディア装置で取得され及び表示される場合に比べて小さいサイズかつ小さいフレーム速度のビデオ画像の取得に制限される。 他のマルチメディア装置は、典型的にはVGAフォーマット(640×480画素)以上のビデオ画像を30フレーム/秒(fps)以上の表示速度でビデオ画像を取得/表示し、それに対して、市販されている画像処理が可能な移動ハンドセットは、QCIFフォーマット(176×144画素)以下のビデオ画像を15fps以下の表示速度での取得に制限される。 このように減少されたビデオ取得機能は、過度のプロセッサ電力消費と、DCT変換を用いたビデオ圧縮/圧縮解除に関連した演算ステップの数、タイプ及びシーケンスを達成するのに要求されるバッファメモリとにある。 市販されている移動ハンドセットにおいてこのようにビデオ取得機能を減少した場合でさえも、圧縮及び圧縮解除を行うためにハンドセットハードウェアに特別に設計した集積回路チップを組み込む必要がある。

    市販されているビデオコーデック及びマイクロプロセッサ技術を用いることによって、非常に複雑であり、電力が不足し、かつ、30fps以上のフレーム速度でVGA(又はそれより大きい)ビデオを取得することを試みる移動イメージングハンドセットに対する長い設計及び製造準備時間を伴う高価なアーキテクチャとなる。 そのようなハンドセットアーキテクチャは、(典型的には1メガバイト以上の記憶容量の)大容量のバッファメモリブロック314を伴う減少した命令セット(RISC)プロセッサ324、デジタル信号プロセッサ(DSP)326、アプリケーション特有の集積回路(ASIC)328及び再構成可能な処理装置(RPD)330の組合せ上で実行するソフトウェアプログラム及びハードウェアアクセラレータの組合せを利用するコーデックを必要とする。 これらコーデック機能を、そのようなRISCプロセッサ324,PDS326,ASIC328及びRPD330を個別の集積回路(IC)として実現することができ、又は互いに統合されたRISCプロセッサ324,PDS326,ASIC328及びRPD330のうちの少なくとも一つ以上をシステムインパッケージ(SIP)又はシステムオンチップ(SoC)で結合することができる。

    上記ハードウェアと共にRISCプロセッサ324又はDPS326を実行するコーデック機能をソフトウェアルーチンとすることができ、これによって、誤り又は更新機能を訂正するためにコーデック機能を変更することができる。 所定の複雑な繰返しコーデック機能をソフトウェアとして実現する不都合は、結果として生じる全体に亘るプロセッサリソース及び電力消費の要求が典型的には移動通信装置で利用できるものを超えることである。 ASIC328を実行するコーデック機能は、典型的には、複雑な繰返し演算ステップを行う固定されたハードウェアで実現され、これによって、特別に調整されたハードウェアアクセラレーションがコーデックの全体に亘る電力消費を十分に減少するという利点を有する。 所定のコーデック機能を固定されたハードウェアで実現する不都合は、長くて更に複雑な設計サイクル、固定されたシリコンで実現する際に誤りを見つけた場合における高価な製品のリコールのおそれ、及び新たに開発した特徴をイメージングアプリケーションに追加する場合に固定されたシリコンの機能を更新できないことを伴う。 RPD330で実行するコーデック機能は、ハードウェアアクセラレーション及び典型的には移動イメージングハンドセット製品の機能を追加し又は修正することができる機能の両方を要求するルーチンである。 所定のコーデック機能をRPD330上で実現する際の不都合は、多数のシリコンゲートと、ハードウェア再構成可能性をサポートするのに要求される電力消費が固定ASIC328の実現に比べて高くなることである。

    本発明のある態様によって構成されたイメージングアプリケーションは、移動イメージングハンドセットがVGA160(又はそれより大きい)ビデオを全ソフトウェアキテクチャによる30fpsのフレーム速度で取得できるように複雑な繰返しコーデック機能を減少し又は除去する。 この配置は、上記アーキテクチャを簡単にし、大容量の市販の展開に適合したハンドセットコストを可能にする。

    新たなマルチメディアハンドセットは、画像及びビデオメッセージング機能だけでなく多様な追加のマルチメディア機能(音声、音楽、グラフィックス)及び無線アクセスモード(2.5G及び3Gセルラーアクセス、無線LAN、ブルートゥース、GPS等)をサポートすることが要求されることもある。 そのような製品の開発、展開及びサポートに伴う複雑さ及びリスクによって、新たに収入が生じるサービス及びアプリケーションを有効に展開するとともにコストがかかる製品のリコールを回避するために、多数の機能及びアプリケーションの無線(OTA)分配及び管理が非常に望ましい。 本発明の態様によって設けられた全ソフトウェアイメージングアプリケーションによって、移動オペレータによるイメージングアプリケーションのOTA分配及び管理を可能にする。

    移動Java(登録商標)アプリケーション
    Java(登録商標)技術によって、一つの言語及び一つの技術の下でサーバからデスクトップ及び移動装置までの広い範囲の装置をもたらす。 この範囲の装置のアプリケーションが互いに相違する間、Java(登録商標)技術は、考慮する違いを埋めるように機能し、これによって、この分野の開発者は、装置及びアプリケーションの範囲の技術を利用することができる。

    1999年6月にサンマイクロシステムによってJava(登録商標)コミュニティーに最初に導入されたもの(Java(登録商標)2,Micro Edition)は、Java(登録商標)開発者の様々な必要に良好に適合する広いイニシアティブの一部であった。 Java(登録商標)2(登録商標)プラットホームによって、サンマイクロシステムは、Java(登録商標)技術のアーキテクチャを再定義し、三つのエディションに分類した。 標準的なエディション(J2SE)は、デスクトップ開発及び低価格のビジネスアプリケーションに対して実用的な解決を提供した。 エンタープライズエディション(J2EE)は、エンタープライズ環境のアプリケーションにおいて特殊化する開発者に対するものであった。 マイクロエディション(J2ME)は、PDA,セルホン、ページャ、テレビジョンセットトップボックス、リモートテレメトリユニット及び他の市販の電子的な内臓装置のような制限されたハードウェアリソースを有する装置を走査する開発者に対して導入された。

    J2MEは、128キロビットのRAMと典型的なデスクトップ及びサーバマシンで用いられる場合に比べて著しく低い電力のプロセッサとを有するマシンに対するものである。 J2MEは、実際にはプロファイルのセットからなる。 各プロファイルは、特定のタイプの装置−セルホン、PDA等に対して規定され、特定のタイプの装置に要求される分類ライブラリ及び装置をサポートするのに要求されるJava(登録商標)仮想マシンの仕様からなる。 あらゆるJ2MEプロファイルで特定される仮想マシンは、必ずしもJava(登録商標)2スタンダードエディション(J2SE)及びJava(登録商標)2エンタープライズエディション(J2EE)と同一でない。

    上記装置の全てに対して最適又はほぼ最適な単一のJ2ME技術を規定するのは容易でない。 プロセッサ電力、メモリ、記憶の持続性及びユーザインタフェースの差は、非常に厳格である。 この問題を指摘するために、サンマイクロは、J2MEに適した装置の規定をセクションに分割し及び細分した。 第1のスライスによって、サンマイクロは、処理電力、メモリ及び記憶機能に基づくが使用意図を無視して二つの広いカテゴリーに分類した。 その後、サンマイクロは、少なくとも最小のJava(登録商標)機能をもたらしながら各カテゴリーの装置の制約内で作業するJava(登録商標)言語の必要最小限のものを装備したバージョンを規定した。

    次に、サンマイクロは、同様な役割を有する装置の分類をこれら二つのカテゴリーの各々で識別し、したがって、例えば、全てのセルホンは、製造者に関係なく一つの分類内にある。 Java(登録商標)コミュニティプロセス(JCP)のパートナーの助けによって、サンマイクロは、各垂直スライスに特有の他の機能を再規定した。

    第1部門は、二つのJ2ME形態:接続装置形態(CDC)及び接続正弦装置形態(CLDC)を形成した。 形態は、Java(登録商標)仮想マシン(JVM)であり、装置の選択群に対して実行時間環境を提供する分類ライブラリ及びAPIの最小セットである。 形態は、Java(登録商標)言語の最小共通特徴サブセットを特定し、その一つは、開発された装置のファミリーによって貸されるリソース制約内で適合する。 ユーザインタフェース、機能及び使用間で大きな多様性があるので、形態内でさえも、典型的な形態は、ユーザインタフェースツールキットや持続する記憶のAPIのような重要な種類を定義しない。 属する機能の規定は、プロファイルとも称される。

    J2MEプロファイルは、ページャやセルホンのような装置の特定の分類を指定することを意図する産業主導型群によって特定されるJava(登録商標)APIのセットである。 各プロファイルは、その形態によって設けられるJava(登録商標)言語の最小共通特徴サブセットのトップに組み込まれ、その形態を補助するよう意図される。 移動ハンドセット装置に重要な二つのプロファイルは、CDCを補助する基礎プロファイルと、CLDCを補助する移動情報装置プロファイル(MIDP)とである。 更なるプロファイルが進行中であり、使用及び基準の実現をすぐに明らかにする必要がある。

    無線産業用のJava(登録商標)技術(JTWI)仕様JSR185は、移動電話を可能にするJava(登録商標)の次の発生に対する業界標準プラットホームを規定する。 JTWIは、移動装置製造者、無線キャリア及びソフトウェアベンダーを指導する専門家グループによるJava(登録商標)コミュニティプロセス(JCP)を通じて規定される。 JTWIは、JTWIに適合した装置:CLDC1.0(JSR30),MIDP2.0(JSR118)及びWMA1.1(JSR120)並びに適用できる場合のCLDC1.1(JRS139)及びMMAPI(JSR135)に含める必要がある技術を特定する。 移動マルチメディア装置に対する技術及びインタフェースを規定する他の二つのJTWIしようは、JSR−135(「移動メディアAPI」)及びJSR−234(「向上したマルチメディア補助」)である。

    JTWI仕様は、APIフラグメンテーションを最小にするとともに移動電話に対して既に開発されたアプリケーションのベースを十分広げながら大容量装置の機能のバーを上げる。 JTWIの利点は、以下のものを含む。

    ・ 相互運用性:この目的は、アプリケーション開発者に予測可能な環境を提供するとともに装置製造者に提供可能な機能のセットを提供することである。 JTWI基準を採用することによって、製造者は、広範囲の互換性のあるアプリケーションから大きな利益を得るとともに、ソフトウェア開発者は、アプリケーションをサポートする広範囲の装置から大きな利益を得る。

    ・ セキュリティ仕様の説明:JSR185仕様は、MIDP2.0仕様で規定された「GSM/UMTS適合装置に対して推奨されたセキュリティポリシー」に対して信頼性のないアプリケーションの複数の説明を導入する。 それは、MIDP2.0で規定したベースMIDlletスイートセキュリティフレームワークを与える。

    ・ ロードマップ:JTWI仕様の主要な特徴はロードマップであり、それは、ソフトウェア開発者がJTWI適合装置で予測することができる共通機能の概要である。 2003年1月において、一連のロードマップが6〜9ヶ月間隔で出現すると予測され、これは、移動電話の展開に一致する他の機能を説明する。 ロードマップによって、全ての関係者は更に信頼性のある将来を計画することができ、キャリアは、アプリケーションデプロイ手法を更に良好に計画することができ、装置製造者は、製造計画を更に良好に決定することができ、コンテンツ開発者は、アプリケーション開発の努力の跡を更に明確に見ることができる。 特に、キャリアは、内在する無線/ネットワーク機能をウイルス、ワーム及び現在公衆のインターネットにはびこる(plaque)他の「攻撃」のようなセキュリティ破壊を除去/防止するためにJava(登録商標)VMに依存する。

    本発明の態様によれば、既に説明したイメージングアプリケーションを、全てのJava(登録商標)可能なハンドセット間の「一度書けばどこででも走る」ポータビリティ、ウイルス、ワーム及び他の移動ネットワークセキュリティ「攻撃」に対するJAVA(登録商標)VMセキュリティ及びハンドセット/ネットワークロバストネス、並びに簡単化したOTAコーデックダウンロード手順を許容するためにJava(登録商標)に基づく。 他の態様によれば、Java(登録商標)に基づくイメージングアプリケーションは、JTWI仕様JST−135(「移動メディアAPI」)及びJSR−234(「向上したマルチメディア補助」)に従う。

    モバイルイメージングサービスプラットホームアーキテクチャ
    モバイルイメージングサービスプラットホームアーキテクチャの構成要素は、以下のものを有する(図4参照)。
    ・ 移動ハンドセット410
    ・ 移動基地局(BST)412
    ・ 基地局コントローラ/無線ネットワークコントローラ(BCS/RNC)414
    ・ 移動通信交換機(MSC)416
    ・ ゲートウェイサービスノード(GSN)418
    ・ 移動マルチメディアサービスコントローラ(MMSC)420
    MMSCに含まれる典型的な機能は、以下の通りである(図4参照)。
    ・ ビデオゲートウェイ422
    ・ 通信接続サーバ424
    ・ MMSアプリケーションサーバ426
    ・ 記憶サーバ428

    MMSC420のビデオゲートウェイ422は、イメージングサービスプラットホームによってサポートされる種々のビデオフォーマット間でトランスコードを行う役割を果たす。 移動電話ネットワークで用いられる種々の音声コーデックをサポートするためにも無線オペレータによってトランスコーディングが用いられ、対応する音声トランスコーダがRNC414に統合される。 図4に示すアーキテクチャを有するモバイルイメージングサービスプラットホームを用いることは、新たなハンドセット410のデプロイを伴い、新たなハードウェアがマニュアルによってMMSC420ビデオゲートウェイ422に追加される。

    本発明の態様によって構成された全ソフトウェアモバイルイメージングアプリケーションサービスプラットホームは、デプロイされたハンドセットの自動的なOTAアップグレード及びデプロイされたMMSC420の自動的なOTNアップグレードをサポートする。 既に説明したようなモバイルハンドセットイメージングアプリケーションのJava(登録商標)による実現は、ウイルス、ワーム及び他の「攻撃」に対する向上したハンドセット/ネットワークロバストネスを提供し、移動ネットワークオペレータは、国内規制によって要求されるサービスの品質及び信頼性を提供することができる。

    モバイルビデオメッセージングサービスのデプロイを意図すると、現在のビデオ圧縮技術に関する基本的な制約が課される。 一方では、そのような移動ビデオサービスは、ホームシネマ品質の放送−30フレーム/秒のVGA160のようなフルサイズの画像フォーマットを有するビデオを提供する市場で開始される。 それに対して、元々放送アプリケーション及びストリーミングアプリケーションに対して開発された現存するビデオ技術を用いる大容量のデータの処理は、移動ハンドセット410におけるリアルタイムのビデオ取得(符号化)に対して利用できる演算リソース及びバッテリ電力を超える。 放送アプリケーション及びストリーミングアプリケーションは、スタジオ環境のビデオコンテンツの符号化に依存し、この場合、非常に複雑なエンコーダをコンピュータワークステーション上で実行することができる。 ビデオメッセージをハンドセットそれ自体でリアルタイムに取得する必要があるので、ビデオメッセージは、非常に小さいサイズ及び非常に低いフレーム速度に制限される。

    その結果、今日のモバイルビデオイメージングサービスは未発達である。 画像は、機能をビデオホンに置き換えると加入者がデジタルカムコーダから予測される場合に比べて小さく(SCIF130)及び途切れがち(10fsp)である。 今日移動加入者に提供される未発達なビデオ画像品質は、産業のライフスタイルの広告において形成される鮮明な高精彩ビデオにはるかに及ばない。 移動加入者は、カムコーダホン及び関連のモバイルビデオメッセージングサービスを採用するとともに特別な支払いを行う前に(カムコーダのような)十分なVGA160,30fpsパフォーマンスを要求する。 不安定な2.5G及び3Gビジネスモデルによって、無線オペレータは、上記問題に対する実現可能な解決をしきりに求めている。

    非常に高価で時間を浪費する開発プログラムの後でさえも、競合するビデオコーデックプロバイダは、VGA130及び30fpsのパフォーマンスに対して複雑なハイブリッドソフトウェアコーデック及びハードウェアアクセラレータの解決しか提供できないままであり、全体的なコスト及び電力消費は、市販の要求及び技術能力をはるかに超えている。 したがって、ハンドセットは、小さい途切れがちな画像又は高価な小電力のアーキテクチャに制限される。 サービス展開は非常に高価なものとなり、サービスの品質は非常に低いため、大量市場は不可能である。

    MMSCインフラストラクチャ420のアップグレーデングも、新たなハードウェアが要求される場合にはコストが高くなる。 全ソフトウェアASPプラットホームは、ハンドセットの自動的なOTAアップグレード及びMMSC420のビデオゲートウェイ422のOTNアップグレードを可能にするために好適である。

    向上したウェーブレットに基づく画像処理
    本発明の一態様によれば、DCTに基づくコーデック420ように演算の複雑さが著しく少ないビデオ圧縮/圧縮解除(コーデック)装置410を設計するために3次元ウェーブレット変換を用いることができる(図5参照)。 色復元及び復調430、メモリ450、動き予測460、時間変換470、並びに量子化、レート制御及びエントロピー符号化480のような処理に用いられる処理リソースを、本発明の態様による3次元ウェーブレットコーデックを用いることによって著しく減少することができる。 ウェーブレット変換段のアプリケーションによって、演算の複雑さが非常に少ない量子化段及びエントロピー符号化段の設計を可能にする。 モバイルイメージングアプリケーション、装置及びサービスに対して開発された本発明の態様による3次元ウェーブレットコーデック410の他の利点は、以下の通りである。
    ・ 対称な複雑さの少ないビデオ符号化及び復号 ・ ソフトウェア及びハードウェアコーデックの実現に対する低いプロセッサ電力の要求 ・ 現存する市販の移動ハンドセットとの互換性を有するプロセッサ要求を有する30fps(又はそれ以上の)フレーム速度のVGA160(又はそれ以上の)ビデオの本来のコード及びJava(登録商標)アプリケーションとしての全ソフトウェア符号化及び復号 ・ SoC統合に対する低いゲートカウントASICコア ・ 低いバッファメモリ要求 ・ 静止画像(〜JPEG)及びビデオ(〜MPEG)の単一コーデックでのサポート ・ 短い画像群(GOP)による簡単なビデオ編集(カット、挿入、テキストオーバーレイ)
    ・ 短いGOPによる簡単な音声コーデックの同期 ・ 短いGOPによる、強められたビデオストリーミングに対する短いレイテンシー ・ 適合性レート制御、マルチキャスティング及びジョイントソース−チャネルコーディングに対する高精度の拡張性 ・ HDTVビデオフォーマットを現すための複雑さの少ないパフォーマンススケーリング

    本発明の態様によれば、上記利点を、以下のような技術の特有の組合せによって達成する。

    リフティング構造において短い2進整数のフィルタ係数を用いるウェーブレット変換、例えば、ハール、2−6及び5−3ウェーブレット並びにその変更を用いることができる。 これらは、加算、減算及び小さい固定シフトのみを使用し、乗算又は浮動小数点操作を必要としない。

    リフティング形態演算:上記フィルタを、インプレース演算を行うことができるリフティング形態を用いて好適に演算することができる。 リフティング形態の完全な説明を、Sweldens, Wim, The Lifting Scheme: A costom-design construction of biorthogonal wavelets. Appl. Comput. Harmon. Anal. 3(2): 186-200, 1996で見つけることができ、参照することによってここに組み込む。 このアプリケーションでリフティング形態を実現すると、レジスタの使用及び一時的なRAM配置を最小にし、キャッシュを非常に有効に用いるための局所的な基準を保持する。

    カスタマイズされたピラミッド構造を有するピラミッド形態のウェーブレット変換:ウェーブレット変換シーケンスの各レベルを、以前のウェーブレットレベルに起因するデータの半分で好適に演算することができ、したがって、全体の演算は、レベル数にほとんど依存しない。 上記リフティング形態の利点を利用するとともにレジスタの使用及びキャッシュメモリのバンド幅を節約するためにピラミッドをカスタマイズすることができる。

    ブロック構造:大抵のウェーブレット圧縮の実現に対して、画像を好適に矩形ブロックに分割することができ、各ブロックは、互いに個別に処理される。 これによって、メモリ基準を局所的に保持することができ、全体の変換ピラミッドを、プロセッサキャッシュに存在したままであるデータを用いて処理することができ、大抵のプロセッサ内での多くのデータ移動を省略することができる。 ブロック構造は、信号フロー中の多くの中間記憶量の要求を回避するのでハードウェアの実現において特に重要である。

    ブロック境界フィルタ:2003年4月17日に出願されるとともに2003/0198395として公開された発明の名称が「ウェーブレット変換装置、方法及びコンピュータプログラム」である出願人の米国特許出願第10/418,363号明細書に記載されたように、変更されたフィルタ演算を、先鋭なアーティファクトを回避するために各ブロックの境界で好適に用いられ、参照によって全体がここに組み込まれる。

    色度の一時的な除去:所定の実施の形態において、各フィールドに対する色度差信号の処理を回避することができ、代わりにGOPに対する色度の単一フィールドを用いる。 これは、2003年5月28日に出願されるとともに2003/0235340として公開された発明の名称が「色度の一時的な速度減少並びに高品質休止装置及び方法」である出願人の米国特許出願第10/447,514号明細書に記載されており、この明細書は、参照によって全体がここに組み込まれる。

    3次元ウェーブレットを用いる一時的な圧縮:所定の実施の形態において、MPEGのような従来の圧縮方法の非常に演算量の多い動き探索操作及び動き保証操作を用いない。 代わりに、フィールド間の時間ウェーブレット変換を演算することができる。 これは、演算量が著しく少ない。 ここでは、リフティング形態を有する短い整数不利田の使用も公的である。

    2進量子化:所定の実施の形態において、圧縮処理の量子化ステップを、係数位置の範囲全体に亘る一様な2進シフト動作を用いて完了する。 これは、従来の量子化によって要求されるサンプルごとの乗算又は除算を回避する。

    ピリング:所定の実施の形態において、エントロピーコーダによって処理されるデータ量は、最初に零の実行(run-of-zero)変換を行うことによって減少する。 好適には、203年5月28日に出願されるとともに2003/0229773として公開された発明の名称が「パイル処理システム及び並列プロセッサ用の方法」である出願人の米国特許出願第10/447,455号に記載されたような並列処理アーキテクチャ上の零の実行を計数する方法を使用し、この明細書は、参照することによってここに組み込まれる。 大抵の現在の処理プラットホームは、このようにして利用することができる並列機能を有する。

    サイクル−有効エントロピー符号化:所定の実施の形態において、圧縮プロセスのエントロピー符号化ステップを、従来のルックアップテーブルを入力シンボルの直接の演算に組み合わせる技術を用いて行う。 ソース静止画像又はビデオのシンボル分布を特徴付けることによって、そのような簡単なエントロピーコーダがGolomb-Riceコーダ, exp-Golombコーダ又は2進モノトニックコーダとして用いられる。 エントロピーコーダの選択の詳細はしばしば、プロセッサプラットホーム機能に応じて変化する。 Golomb-Riceコーダ及びexp-Golumbコーダの詳細は、Golomb, SW(1996), “Run-length encodings”, IEEE Transactions on Information Tehory, IT--12(3):399-401; RF Rice, “Some Practical Universal Noiseless Coding techniques,” Jet Propulsion Laboratory, Pasadena, California, JPL Publication 79-22, Mar. 1979及び(用語”exp-Golomb”が導入された)J. Teuhola, “A Compression Method for Clustered Bit-Vectors”, Information Processing Letters, Vol. 7, pp. 308-311, October 1978に記載されている。 2進モノトニックコーダは、2005年1月25日に発行された発明の名称が「2進モノトニック(DM)コーデックのシステム及び方法」である出願人の米国特許第6,847,317号記載されている。 上記文献の各々は、参照によって全体がここに組み込まれる。

    レート制御
    圧縮量、生成した出力ビットレートを調整する方法の一つは、演算の量子化段階で処分される情報量を変更することである。 量子化は、予め選択された番号である「量子化パラメータ」によって各係数を乗算するとともに除算の余りを処分することによって通常通りに行われる。 したがって、係数値の範囲は、同一の値すなわち除算の商によって表される。

    圧縮画像又はGOPが圧縮解除されると、逆量子化処理工程によって、商に(既知の)量子化パラメータが乗算される。 これによって、更なる計算のために係数を元の大きさの範囲に復元する。

    しかしながら、除算(すなわち実質的には乗算)は、消費される電力及び時間に関して多数の実現の際にハードウェアコストが高くなる。 量子化動作は、各係数に適用され、通常、入力画素と同数の係数が存在する。

    他の方法において、除算(すなわち乗算)の代わりに、量子化を2の乗数の除数に制限する。 これは、2進数のビットシフト動作によって実現できるという利点を有する。 シフトは、多数の実現において非常に廉価な動作となる。 一例は、集積回路(FPGA又はASIC)である。 乗算回路は非常に大きいが、シフト回路は著しく小さい。 また、多数のコンピュータにおいて、乗算は、シフト動作と比べた場合、完了するのに長時間を要し又は実行の際に並列処理が少なくなる。

    シフト動作による量子化が演算の際に非常に有効であるが、一部の目的に対して不都合を有する。 シフト動作による量子化は、圧縮レート(出力ビットレート)の粗い調整しか行うことができない。 本発明の態様によれば、あり得る最小量+1又は−1による量子化シフトパラメータの変更によって結果として生じるビットレートの変化が2方向になることが観察される。 これは、圧縮の一部のアプリケーションにおいて許容される。 他のアプリケーションにおいて、更に精密なレート制御が要求される。

    シフト量子化の効率を維持しながら既に説明した従来の粗い制御の問題を克服するために、量子化を一般化する。 既に説明したような各係数に対する単一のシフトパラメータを用いる代わりに、個別の零の実行圧縮記憶領域又はパイルに適用される個別のシフトパラメータを提供する。 そのような領域又はパイルの各々に対するパラメータは、圧縮出力ファイルに記録される。 パイルは、圧縮された零(又は他の共通値)のシーケンスをデータに示すデータ記憶構造である。 サブバンドは、個別のパイル又は記憶領域を具えることができる。 パイル又は記憶領域が複数の個別のサブバンドを具えることもできる。

    この解決は、全ての係数に対して一様に適用された量子化パラメータによる最も近い二つのレート間の有効ビットレートの範囲を許容する。 例えば、一つのサブバンド(サブバンドx)以外の全てのサブバンドが同一の量子化パラメータQを用いるとともに一つのサブバンド(サブバンドx)がQ+1を用いる場合を考える。 量子化ステップから結果的に生じる全体に亘るビットレートは、量子化の際に全てのサブバンドに対してQを用いる場合に比べて減少するが、全てのサブバンドに対してQ+1を用いた場合のような量にはならない。 これは、Q又はQ+1の一様なアプリケーションによって達成されるビットレートの中間のビットレートを提供し、更に密な圧縮の制御を行う。

    演算効率は、純粋なシフト量子化とほぼ同一になる。 その理由は、典型的には各係数に適用される動作がシフトであるからである。 あらゆる数のサブバンドを用いることができる。 4〜100個のサブバンドが典型的である。 32個が最も典型的である。 レート制御の他の情報は、2005年9月20日に出願された発明の名称が「可変サブバンド処理を伴う圧縮レート制御装置及び方法」(代理人整理番号74189−200301/US)である出願人の米国出願第 号明細書において提供され、参照によって全体をここに組み込む。

    向上した適合性ジョイントソース−チャネルコーディング
    図6を参照すると、既に説明した向上したウェーブレットに基づくコーディクの精密な拡張性によって、向上した適合性レート制御、マルチキャスティング及びジョイントソース−チャネルコーディングが可能になる。 向上したウェーブレットアルゴリズムの演算の複雑さの減少及び高い演算効率によって、生構成されたビデオ信号690の品質(ビデオレート対歪み)に影響を及ぼす瞬時の平均圧縮レートの制御を最大にするために、瞬時の予測されるチャネルバンド幅及び誤り状態の情報をソースコーダ620、チャネルコーダ630及びレートコントローラ640の三つ全てで利用できる(図6参照)。 例えば、(図4に示す)移動装置410とセルラ送信タワー412との間の利用できる送信バンド幅は、特定の時間にタワー412にアクセスするユーザの数に基づいて変化することができる。 同様に、移動電話410とタワー412との間の送信の品質(すなわち、誤り率)は、電話410とタワー412との間の距離及び障害物に基づいて変化することができる。 現在利用できるバンド幅及び誤り率の情報を、電話410によって受信するとともに、それに応じて圧縮率を調整するのに用いることができる。 例えば、バンド幅が小さくなり及び/又は誤り率が上昇するとき、全体の圧縮信号をリアルタイムで送信できるように圧縮率(したがって、関連の再生された画像品質)を減少することができる。 それに対して、バンド幅が広がり及び/又は誤り率が減少すると、更に高い品質の画像を送信できるように圧縮率を減少する。 このフィードバックに基づいて、圧縮率を、ソースエンコーダ620、チャネルエンコーダ630若しくはレートコントローラ640のいずれかでのリアルタイム処理変更、又はこれらの構成要素の組合せに対する変更を行うことによって調整することができる。

    割合変化増分の例を、1〜5%,1〜10%,1〜15%,1〜25%及び1〜40%とする。

    向上した適合性ジョイントソース−チャネルコーディング技術によって、無線キャリア及びMMSサービスプロバイダは、顧客及び企業顧客に対して更に広い範囲のサービスの品質(QoS)パフォーマンス及び価格水準を提供することができる。 更に高い演算効率のアルゴリズムに基づく向上した適合性ジョイントソース−チャネルコーディングを用いることによって、チャネルタイプ(無線及び有線)、チャネルバンド幅、チャネル雑音/誤り特性、ユーザ装置及びユーザサービスに関して著しく高いレベルのネットワークハイブリッドをサポートすることができる。

    向上したモバイルイメージングハンドセットプラットホームアーキテクチャ
    図7は、向上したモバイルイメージングハンドセットプラットホームアーキテクチャを示す。 図示したように、イメージングアプリケーションを、ネイティブコードとして又はRISCプロセッサのJava(登録商標)アプリケーションとして実行する全ソフトウェアプリケーションとして実現することができる。 Java(登録商標)コード動作のアクセラレーションを、RISCプロセッサそれ自体の中で又は個別のJava(登録商標)アクセラレータICを用いて実現することができる。 そのようなJava(登録商標)アクセラレータを、スタンドアローンICとして実現することができ、又はこのICをSIP又はSoCの他の機能と統合することができる。

    図7に示す向上したモバイルイメージングハンドセットプラットホームアーキテクチャは、モバイルイメージングアプリケーションの(図3に示す)個別のDSP326又はASIC328処理ブロックを必要とせず、移動ハンドセット715の画像処理に対するバッファメモリ714の要求を大幅に減少する。

    向上したモバイルイメージングサービスプラットホームアーキテクチャ
    図8を参照すると、向上したモバイルイメージングサービスプラットホームアーキテクチャの主要構成要素は、以下のものを有する。
    ・ 移動ハンドセット810
    ・ 移動基地局(BST)812
    ・ 基地局コントローラ/無線ネットワークコントローラ(BRC/RNC)814
    ・ 移動通信交換機(MSC)816
    ・ ゲートウェイサービスノード(GSN)818
    ・ 移動マルチメディアサービスコントローラ(MMSC)820
    ・ イメージングサービスダウンロードサーバ821

    MMSC(図8参照)に含まれる典型的な機能は、以下のもの有することができる。
    ・ ビデオゲートウェイ822
    ・ 通信接続サーバ824
    ・ MMSアプリケーションサーバ826
    ・ 記憶サーバ828

    向上したイメージングサービスプラットホームの配置に含まれるステップは、以下の通りである。

    ステップ1
    配置されたビデオゲートウェイ822を更新するためにビデオゲートウェイトランスコーダアプリケーション830を利用できるネットワークに信号送信する。 換言すれば、新たなトランスコーダソフトウェア830が利用できるとき、ダウンロードサーバ821は、このように利用できるネットアーク上のビデオゲートウェイ822に信号送信する。

    ステップ2
    自動的なOTN832の配置を通じて又はマニュアル手順(図9も参照)を通じてビデオゲートウェイトランスコーダソフトウェアアプリケーション830をインストールし及び設定する。

    ステップ3
    モバイルビデオイメージングアプリケーション834(例えば、更新されたビデオコーデック)がダウンロード及びインストールに利用できる加入者ハンドセットに信号送信する。

    ステップ4
    加入者によって許容されるとともにトランザクション設定が成功のうちに完了した場合、モバイルビデオイメージングアプリケーション834をOTA836手順を通じて移動ハンドセット810にダウンロードし及びインストールする。

    ステップ5
    ハンドセットアップグレードが完了したネットワークに信号送信する。 サービス及び関連のアプリケーションを有効にする。 モバイルビデオイメージングアプリケーションに対する新たな課金を反映するために加入者の月ごとの請求書の控えを更新する。

    エンハンスメント
    図10を参照すると、モバイルイメージングハンドセット1010のアーキテクチャに対するエンハンスメントとして、一部の実施の形態において、全ソフトウェアウェーブレットに基づくイメージングアプリケーション1012に対する複数の実現オプションを考察することができる。 イメージングアプリケーション1012を、OTAダウンロード1014を通じてハンドセット1010のベースバンドマルチメディア処理部、取外し可能な記憶装置1016、画像モジュール1018又は他のロケーションにインストールすることができる。 所望の場合には、イメージングアプリケーション1012を、製造中又は売り渡し時点でハンドセット1010のベースバンドマルチメディア処理部、取外し可能な記憶装置1016、画像モジュール1018又は他のロケーションにインストールすることもできる。 移動装置アーキテクチャの進化に従って他の実現オプションも可能である。

    モバイルイメージングハンドセットのパフォーマンスを更に向上することができ、移動装置の演算ハードウェア(ASIC,DSP,RPD)及び集積技術(SoC,SIP)の継続中の進歩に合わせるために、ハードウェアに基づく処理リソースを通じて一部の演算素子をアクセラレートすることによってコスト及び消費電力を更に減少することができる。 複数の全ハードウェアオプションを、ハンドセット1010のベースバンドマルチメディア処理部、取外し可能な記憶装置1016又は画像モジュール1018を含むこれらハードウェアに基づく処理リソースをハンドセット1110に統合する際に考察することができる(図11参照)。

    図12に示すように、イメージングアプリケーションに対するハイブリッドアーキテクチャは、一部の集中的に演算を行う機能、繰返し機能及び固定された機能をハードウェアで実現することによって、かつ、製造後の変更が所望され又は必要とされるこれらの機能をソフトウェアで実現することによってエンハンスメントを提供することができる。

    利点
    ここで説明した実施の形態の全ソフトウェアイメージング解決は、ベースバンドプロセッサ及びビデオアクセラレータコスト並びにマルチメディアハンドセットの要求を大幅に減少する。 OTAダウンロードを通じてコーディクを製造後にインストールする機能を組み合わせることによって、この全ソフトウェア解決は、ハンドセット開発及びビデオメッセージングサービスデプロイの両方の複雑さ、リスク及びコストを大幅に減少することができる。

    本発明の態様による所定のビデオコーディクを用いるとき、所定の圧縮ビデオを表すデータを、通信ネットワーク上でMMSCに送信することができ、データを、圧縮ビデオ用のデコーダに帰属させることができる。 本発明の態様によるこのようなやり方において、MMSCに入力されるビデオデータをトランスコード処理する必要があるビデオゲートウェイを完全に又はある程度排除することができる。 これは、ある程度容易である。 その理由は、各圧縮ビデオセグメントがそれ自体の帰属するデコーダを有することができるので、MMSCは、受信無線装置によって特定されたビデオフォーマットに対してビデオフォーマットをトランスコード処理する必要がないからである。 代わりに、受信無線装置、例えば、810は、デコーダに帰属する圧縮ビデオを受信するとともに、受信装置810のプラットホームで簡単にビデオを再生することができる。 これによって、MMSCの構造及びその動作の効率を大幅に増大するとともにコストを大幅に削減する。

    本発明の他の態様によれば、処理されるビデオ上で他のビデオ処理機能を達成するようウェーブレット処理を設計することができる。 例えば、色空間変換機能、白黒バランス機能、画像の安定機能、デジタルズーム機能、輝度制御機能、サイズ調整機能及び他の機能を達成するようウェーブレット処理を設計することができる。

    本発明の態様の他の利点は、達成される音声同期の大幅な向上にある。 本発明の実施の形態によって、音声がビデオの一つおきのフレームに対して同期がとられる。 比較すると、MPEG4は、15フレームごとに音声の同期がとられる。 この結果、特に、移動ネットワーク上で通常生じるような不完全なビデオの送信が行われるときにビデオに対する音声の非同期が顕著になる。 さらに、ビデオがMMSCで実現されるときにビデオの一つおきのフレームの各々に対して同期をとることによって、自動的又は遠隔で可能なビデオ編集のようなプログラム中で行うことができるMMSCにおける有効かつ予測されるビデオの編集が行われる。 さらに、本発明の態様によれば、現在の符号化技術によって、発生し及び圧縮されたビデオにメタデータを非常に大量に又は非常に簡単にはめ込むことができる。 そのようなメタデータは、特に、時間、(移動ハンドセットの位置から認識されるような)ビデオの取得位置及び撮影を行うユーザを有することができる。 さらに、本発明の所定の実施の形態においてビデオの一つごとのフレームに基準フレームが存在するので、MPEG4圧縮ビデオにおいてビデオの15フレームごとに基準フレームが存在する場合に比べると、本発明の実施の形態は、非常に有効なビデオのサーチ及びビデオの編集を行うとともに、非常に向上したオーディオの同期を行う。

    結論
    向上したモバイルイメージングアプリケーション、ハンドセットアーキテクチャ及びサービスプラットホームアーキテクチャが、技術的な複雑さ及びコストを大幅に減少するとともに高品質のスチル及びビデオイメージングサービスをモバイル加入者に提供する本発明の種々の態様によって提供される。 向上した適合性ジョイントソース−チャネルコーディング技術は、顧客及び企業顧客に対して幅広い範囲のサービスの品質(QoS)パフォーマンス及び価格水準を提供する無線キャリア及びMMSサービスプロバイダの能力であり、これによって、無線ネットワークインフラストラクチャを用いて発生した収入を最大にする。 高い演算効率を有するアルゴリズムに基づく向上した適合性ジョイントソース−チャネルコーディングによって、チャネルタイプ(無線及び有線)、チャネルバンド幅、チャネル雑音/誤り特性、ユーザ装置及びユーザサービスに関して非常に高いレベルのネットワークハイブリッドをサポートすることができる。

    これまで本発明の好適な実施の形態を説明したが、種々の変形、変更及び均等物を用いることができる。 従って、上記記載は、添付した特許請求の範囲によって規定される本発明の範囲を制限するものと考えるべきでない。

    共通のビデオ表示フォーマット間の物理的な表示サイズ及び解像度の差を示す。

    ジョイントソース−チャネルコーディングのシステムを線形的に示す。

    モバイルイメージングハンドセットアーキテクチャを示す。

    モバイルイメージングサービスプラットホームアーキテクチャを示す。

    DCTエンコーダと本発明の向上したウェーブレットエンコーダとの間の処理リソースの差の比較を示す。

    ジョイントソース−チャネルコーディングの向上したシステムを線形的に示す。

    向上したモバイルイメージングハンドセットアーキテクチャを示す。

    向上したモバイルイメージングサービスプラットホームアーキテクチャを示す。

    ビデオゲートウェイのエアアップグレード上で実行するフレームワークを示す。

    ソフトウェアイメージングアプリケーションの実現オプションを示す。

    ハードウェアアクセレレートイメージングアプリケーションの実現オプションを示す。

    ハイブリッドハードウェアアクセレレートアプリケーション及びソフトウエアイメージングアプリケーションの実現オプションを示す。

    QQ群二维码
    意见反馈