JP2004133592A - 画像を拡大するための画像処理装置および画像処理方法および画像処理プログラム - Google Patents
画像を拡大するための画像処理装置および画像処理方法および画像処理プログラム Download PDFInfo
- Publication number
- JP2004133592A JP2004133592A JP2002296072A JP2002296072A JP2004133592A JP 2004133592 A JP2004133592 A JP 2004133592A JP 2002296072 A JP2002296072 A JP 2002296072A JP 2002296072 A JP2002296072 A JP 2002296072A JP 2004133592 A JP2004133592 A JP 2004133592A
- Authority
- JP
- Japan
- Prior art keywords
- image
- original image
- enlargement
- discriminability
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims description 7
- 238000012545 processing Methods 0.000 claims abstract description 108
- 241000282414 Homo sapiens Species 0.000 claims abstract description 53
- 230000004438 eyesight Effects 0.000 claims abstract description 13
- 238000000034 method Methods 0.000 claims description 75
- 230000000007 visual effect Effects 0.000 claims description 54
- 230000008569 process Effects 0.000 claims description 38
- 230000002708 enhancing effect Effects 0.000 claims description 4
- 238000010586 diagram Methods 0.000 description 33
- 230000006870 function Effects 0.000 description 12
- 230000000694 effects Effects 0.000 description 11
- 230000015556 catabolic process Effects 0.000 description 6
- 238000006731 degradation reaction Methods 0.000 description 6
- 230000006866 deterioration Effects 0.000 description 5
- 241000282412 Homo Species 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 4
- 238000012423 maintenance Methods 0.000 description 4
- 238000005070 sampling Methods 0.000 description 4
- 230000001131 transforming effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 3
- 238000005259 measurement Methods 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 230000002238 attenuated effect Effects 0.000 description 2
- 238000007796 conventional method Methods 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000001914 filtration Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000012508 change request Methods 0.000 description 1
- 238000012888 cubic function Methods 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000002542 deteriorative effect Effects 0.000 description 1
- 238000009792 diffusion process Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/403—Edge-driven scaling; Edge-based scaling
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
- Editing Of Facsimile Originals (AREA)
Abstract
【課題】拡大前の原画像に含まれ目立たなかったノイズや模様は拡大後も目立たないように原画像を拡大する。
【解決手段】識別性判断部2が人間の視覚特性に基づき原画像におけるパターンの識別性を判断する。拡大処理部3は、その判断結果に基づき、原画像におけるパターンのうち識別性が低いと判断されたパターンについては空間周波数維持画像拡大部30により生成される拡大画像を選択すると共に、識別性が高いと判断されたパターンについてはエッジ強調画像拡大部31により生成される拡大画像を選択し、選択された拡大画像を合成することにより原画像全体の拡大画像を得る。これにより、原画像の拡大に際し、人間の視覚特性の観点から識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。
【選択図】 図10
【解決手段】識別性判断部2が人間の視覚特性に基づき原画像におけるパターンの識別性を判断する。拡大処理部3は、その判断結果に基づき、原画像におけるパターンのうち識別性が低いと判断されたパターンについては空間周波数維持画像拡大部30により生成される拡大画像を選択すると共に、識別性が高いと判断されたパターンについてはエッジ強調画像拡大部31により生成される拡大画像を選択し、選択された拡大画像を合成することにより原画像全体の拡大画像を得る。これにより、原画像の拡大に際し、人間の視覚特性の観点から識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。
【選択図】 図10
Description
【0001】
【発明の属する技術分野】
本発明は、画像を拡大するための画像処理装置および画像処理方法に関し、例えば、ディスプレイ装置に表示すべき画像やプリンタに出力すべき画像を原画像を拡大することにより生成するための画像処理装置等に関する。
【0002】
【従来の技術】
画像拡大は、原画像に対して画素数が増えるため、その新しく増えた画素をどのような値に決めるかという補間の技術として知られている。そして、デジタル画像の拡大について広く利用されている手法として、
(1)ニアレストネイバー(Nearest Neighbor)補間法、
(2)バイリニア(Bi−Linear)補間法、
(3)キュービックコンボリューション(Cubic Convolution)補間法などがある(例えば非特許文献1参照)。
【0003】
ニアレストネイバー補間法は、図17に示すように、拡大により新しく増えた補間画素P(u,v)に最も近い位置にある画素Pi j+1の値をそのまま補間画素P(u,v)の輝度値として用いる手法である。この手法によれば、拡大後もコントラストが高く、最も単純な方法のため高速に処理できるが、斜め線にジャギー(ギザギザの状態)が発生し画質は非常に悪い。
【0004】
バイリニア補間法は、図18に示すように補間画素P(u,v)の周囲の4画素Pij、Pi j+1、Pi+1 j、Pi+1 j+1の値を用いて平面的な補間を行う手法である。この手法では、ニアレストネイバー法において発生したようなジャギーは発生せず、画像のスムージングの効果が得られるが、エッジ部のような急激に濃度が変化している部分がボケてしまうという欠点がある。
【0005】
キュービックコンボリューション補間法は、図19に示すように補間画素P(u,v)の周囲の16画素P11〜P44の値を用いて3次関数による曲面的な補間を行う手法である。この手法によれば、エッジ強調効果が得られ、バイリニア法ほど画像がぼやけないが、計算量が多く画像に若干の揺らぎが生じる。
【0006】
ところで、デジタル画像の拡大はサンプリング間隔を狭くすることと等価であり、それによって解像度が高くなった分だけ、より高い高周波成分を再現することができる。しかしながら、上記手法では、拡大画像の周波数成分が拡大前の原画像の周波数成分と変わらないので、画像サイズが大きくなった分だけボケて見えてしまうという問題があった。
【0007】
これに対し、特開平4−330858号公報には、高域周波数を強調するフィルタと3次のBスプライン関数を用いた補間により上記の高周波成分を補うことで画質のボケを解消できる画像拡大方法が開示されている。
【0008】
また、特開平4−333989号公報には、画像を周波数領域に変換して処理する画像拡大装置として、所定のサイズのブロックに分割された原画像データを直交変換して周波数成分に変換し、高周波成分領域に“0”データを付加し、それを逆直交変換することで拡大画像を得る画像拡大装置が開示されている。
【0009】
さらに、特開平7−152907号公報には、おなじく周波数領域を利用した画像拡大方法および装置として、直交ウェーブレット変換により高周波成分を予測補償し、再び逆変換することで拡大画像を得る画像拡大方法および装置が開示されている。
【0010】
以上説明したように従来の技術では、高周波成分を強調、付加または補償することで画像拡大後のエッジのジャギーやボケや歪みを改善することが主流である。
【0011】
【特許文献1】
特開平4−330858号公報
【特許文献2】
特開平4−333989号公報
【特許文献3】
特開平7−152907号公報
【非特許文献1】
高木幹雄、「画像解析ハンドブック」、東京大学出版会、1991年1月17日、p.441−p.444
【非特許文献2】
岩本明人、「デジタルハードコピー技術」、共立出版、2000年11月15日、p.83−p.84
【0012】
【発明が解決しようとする課題】
しかしながら、従来の画像拡大手法では、拡大前の原画像に含まれ目立たなかったノイズや細かい模様も忠実に拡大し目立ち易くしてしまう。例えば、図20(a)は、本来目立ち難かった細かいノイズが縦横2倍に拡大されて目立ち易くなってしまい目障りなノイズパターンになった例を示している。また、図20(b)は、本来目立ち難かった斜め方向に流れるノイズが縦横2倍に拡大されて目立ち易くなってしまい目障りなノイズパターンとなってしまった場合の例を示している。また、図20(c)は、本来見え難い模様であるのに縦横2倍に拡大されて本来の模様の質感を失った場合の例を示している。
【0013】
このように従来の画像拡大手法では、本来拡大後も見えなくてもよいはずの画像パターンが見えるようになり、見た目の画質を悪くしてしまうという問題があった。
【0014】
また、目立ち易くなってしまうのは、原画像のパターンが拡大により大きくなるからというだけでなく、デジタル画像では整数倍の画素で解像度を表現するため、階調値を濃淡処理して補間することになり本来拡大したい面積よりも大きくなってしまいがちであるからである。1画素の画像を横に1.5倍に拡大する場合の例を示す図21を参照して、このことを説明する。図21(a)は画素の濃度を模様で表現し、図21(b)は画素の濃度を縦振幅で表現している。アナログ画像ならば、図21(b)に示す点線の位置まで画像が拡大されることで、ちょうど1.5倍に拡大される。しかしながら、デジタル画像では、実際には2倍の位置まで拡大され、図21(b)において実線で表されているように濃度を補間処理することになり、1.5倍拡大の見た目の濃度の和としてはアナログ画像の拡大の場合と等しくなるように処理することになる。
【0015】
さらに、従来技術でエッジのボケを改善するという方向は、目立たなかったノイズや模様をさらに強調してしまうという結果となっていた。
【0016】
以上のような問題は、拡大の際にエッジのジャギーやボケが発生するという従来技術で取り上げられている問題に比べ、考慮されることは少なく、ほとんど改善されていない。
【0017】
そこで本発明は、拡大前の原画像に含まれ目立たなかったノイズや模様は拡大後も目立たないように画像を拡大する画像処理装置および画像処理方法を提供することを目的とする。
【0018】
【課題を解決するための手段】
第1の発明は、画像を拡大するための画像処理装置であって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断手段と、
前記識別性判断手段によって判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理手段とを備えることを特徴とする。
【0019】
第2の発明は、第1の発明において、
前記識別性判断手段は、前記識別性を人間の視覚の階調特性に基づいて判断することを特徴とする。
【0020】
第3の発明は、第1の発明において、
前記識別性判断手段は、
前記原画像を空間周波数に基づき複数の要素画像に分解する分解手段と、
前記複数の要素画像を人間の視覚特性に基づく所定の閾値で分類することにより各要素画像の識別性を決定する閾値処理手段とを含み、
前記拡大処理手段は、前記分解手段によって得られる各要素画像を当該各要素画像につき前記閾値処理手段によって決定された識別性に応じた態様で拡大し、拡大後の各要素画像を合成することにより前記原画像の拡大画像を生成することを特徴とする。
【0021】
第4の発明は、第3の発明において、
前記所定の閾値を調節するための調節手段を更に備えることを特徴とする。
【0022】
第5の発明は、第1の発明において、
前記識別性判断手段は、
人間の視覚特性を近似したフィルタ特性を有するフィルタ手段と、
前記原画像に前記フィルタ手段を通過させることにより得られる画像と前記原画像との差分を生成する差分生成手段と、
前記差分に基づき前記原画像における前記識別性を決定する識別性決定手段とを含むことを特徴とする。
【0023】
第6の発明は、第5の発明において、
前記フィルタ手段が有するフィルタ特性を調節するための調節手段を更に備えることを特徴とする。
【0024】
第7の発明は、第1の発明において、
前記拡大処理手段は、
互いに異なる種類の画像拡大処理を前記原画像に対して行う複数の画像拡大手段と、
前記識別性判断手段によって判断された前記識別性に応じて、前記原画像の拡大画像を生成すべき画像拡大手段を前記複数の画像拡大手段の中から選択する選択手段とを含むことを特徴とする。
【0025】
第8の発明は、第7の発明において、
前記識別性判断手段は、前記原画像において前記識別性が高いか低いかを判断し、
前記拡大処理手段は、前記複数の画像拡大手段として、前記原画像の空間周波数を維持して前記原画像を拡大する第1の画像拡大手段と、前記原画像のエッジを強調して前記原画像を拡大する第2の画像拡大手段とを含み、
前記選択手段は、前記識別性判断手段によって前記識別性が低いと判断された場合に前記第1の画像拡大手段を選択し、前記識別性判断手段によって前記識別性が高いと判断された場合に前記第2の画像拡大手段を選択することを特徴とする。
【0026】
第9の発明は、第1の発明において、
前記識別性判断手段は、前記原画像において前記識別性が高いか低いかを判断し、
前記拡大処理手段は、前記識別性判断手段によって前記識別性が低いと判断された場合には、人間の視覚特性を近似したフィルタ特性によるフィルタ処理を行った後に画像拡大処理を行うことを特徴とする。
【0027】
第10の発明は、第9の発明において、
前記拡大処理手段は、
人間の視覚特性を近似したフィルタ特性を有し前記原画像が通過するフィルタ手段と、
前記識別性判断手段によって前記識別性が低いと判断された場合に、前記原画像が前記フィルタ手段を通過することにより得られる画像のうち前記識別性が低いと判断された前記原画像の画像部分に対応する画像部分を選択し、前記識別性判断手段によって前記識別性が高いと判断された場合に、前記原画像のうち前記識別性が高いと判断された画像部分を選択する選択手段と、
前記選択手段によって選択された画像部分からなる画像に対し当該画像のエッジを強調して画像拡大を行う画像拡大手段とを含むことを特徴とする。
【0028】
第11の発明は、第1の発明において、
前記拡大処理手段によって前記原画像が拡大されることにより得られる拡大画像が表示されるべき表示面から当該拡大画像を見るべき人間の視点までの視線距離を計測する計測手段と、
前記視線距離に基づき前記識別性判断手段による前記識別性の判断基準を調節する調節手段とを更に備えることを特徴とする。
【0029】
第12の発明は、第1の発明において、
前記原画像を複数の部分画像に分割する分割手段と、
前記分割手段によって得られる各部分画像につき、人間の視覚特性に基づいて識別性を前記識別性判断手段に判断させ、当該判断された識別性に応じた態様で前記拡大処理手段に当該部分画像を拡大させる制御手段とを備えることを特徴とする。
【0030】
第13の発明は、画像を拡大するための画像処理方法であって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断ステップと、
人間の視覚特性に基づいて判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理ステップとを備えることを特徴とする。
【0031】
第14の発明は、画像を拡大するための画像処理プログラムであって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断ステップと、
人間の視覚特性に基づいて判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理ステップと
をコンピュータに実行させることを特徴とする。
【0032】
第15の発明は、第14の発明において、
前記拡大処理ステップは、
人間の視覚特性に基づいて判断された前記識別性に応じて、予め用意された互いに種類の異なる複数の画像拡大処理の中からいずれかの画像拡大処理を選択する選択ステップと、
前記選択された画像拡大処理によって前記原画像を拡大する画像拡大ステップとを含むことを特徴とする。
【0033】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照して説明する。
<1.第1の実施形態>
<1.0 概略構成および原理>
図1は、本発明の第1の実施形態に係る画像拡大装置の概略構成を示すブロック図である。この画像拡大装置は、デジタル画像を拡大するための画像処理装置であって、デジタル画像を原画像として入力する入力部1と、人間の視覚の階調特性からみて目立ち難いすなわち人間の視覚による識別性が低い画像パターンの領域(画像部分または要素画像)であるか否か、または、目立ち易いすなわち識別性が高い画像パターンの領域(画像部分または要素画像)であるかどうかを判断する識別性判断部2と、その判断結果に応じた拡大処理によって原画像を拡大した画像を生成する拡大処理部3と、生成された拡大画像を出力する出力部4とを備えている。
【0034】
人間の視覚は、既存の文献(例えば、岩本明人著「デジタルハードコピー技術」、共立出版、2000年11月15日、p.83−p.84)に示されているように、画像の空間周波数が高くなると識別できる階調数が低下するという階調特性すなわち図2に示すような階調特性を有している。この階調特性を利用して限られた色濃度を人間の識別能力以上の高周波領域で変化させて擬似的に中間濃度を実現しているものが、プリンタやディスプレイ装置などで使用されているディザ法や誤差拡散法などのデジタルハーフトーニング技術である。なお、以下において「周波数」とは、特に断らない限り空間周波数を意味するものとする。
【0035】
このような人間の視覚の階調特性を利用して、拡大すべき原画像に含まれるパターンについての識別性を判断し、その原画像において目立つパターン(識別し易いパターンすなわち識別性の高いパターン)と目立たないパターン(識別し難いパターンすなわち識別性の低いパターン)とを判別することが可能である。そして、その原画像に含まれるパターンの識別性についての判断結果に基づき、識別し難いパターンについては識別し難いままのパターンで拡大し、識別し易いパターンについてはエッジのジャギーやボケを低減するために高周波成分を強調・付加または補償する画像拡大処理の従来手法を選択すれば、上記課題で挙げた画質劣化が少ない拡大画像を得ることができる。以下、このような原理に基づく本実施形態に係る画像拡大装置につき各部の詳細を説明する。
【0036】
<1.1 入力部>
本実施形態における入力部1は、本実施形態に係る画像拡大装置によって拡大すべき原画像を入力するためのインターフェースとして機能する部分であって、原画像を表すデータまたは信号を外部から受け取り、画像拡大装置内部での処理に適した形式のデジタル画像データまたはデジタル画像信号に変換して識別性判断部2へ与える。
【0037】
<1.2 識別性判断部>
<1.2.1 第1の構成例>
図3は、本実施形態における識別性判断部2の第1の構成例を示すブロック図である。識別性判断部2は、入力部1から与えられる画像データまたは画像信号が示す原画像に含まれるパターンの識別性を判断する部分であって、周波数領域変換部20と、閾値処理部21と、判断出力部22と、閾値調節部23とを備えている。
【0038】
周波数領域変換部20は、周波数領域で変換(フーリエ変換、デジタルコサイン変換(DCT)、またはウェーブレット変換等)を行うことにより原画像を複数の要素画像に分解する分解手段として機能する。本実施形態では、原画像の周波数帯域を複数の小帯域に分割し、原画像を各小帯域に対応する周波数成分へと変換することで、原画像を複数の要素画像に分解する。具体的には、例えば図4に示すようにローパスフィルタ(低域通過フィルタ)41とハイパスフィルタ(高域通過フィルタ)42とからなる帯域2分割フィルタバンク40により、原画像を表すデジタル信号x(n)を、低周波成分に相当する要素画像を表すデジタル信号yl(n)と、高周波成分に相当する要素画像を表すデジタル信号yh(n)とに分割する。なお以下では、説明の便宜上、画像とその画像を表す信号とを区別しないものとする。したがって、上記帯域2分割フィルタバンク40によれば、原画像が低周波成分の要素画像yl(n)と高周波成分の要素画像yh(n)に分割されたことになる。
【0039】
図5は、上記帯域2分割フィルタバンク40のフィルタ特性図(振幅応答特性を示す図)である。このフィルタ特性図において、横軸は角周波数ωを表しており、2πをデジタル画像x(n)のサンプリング周波数とする。この場合、「原信号に含まれる周波数成分をすべて正確にサンプリングするためには、原周波数の2倍以上のサンプリング周波数が必要である」という標本化定理により、ω=πがデジタル画像x(n)で表現できる最大周波数となる。
【0040】
図5に示すフィルタ特性図からわかるように、或る周波数ωTを境にその周波数ωT以下の周波数成分をもつ画像(要素画像)とその周波数ωT以上の周波数成分をもつ画像(要素画像)とに切り分けることができる。すなわち、周波数ωTを人間の視覚特性に基づき識別し難くなる周波数閾値として設定してフィルタを設計すれば、ハイパスフィルタ42によって帯域分割された画像yh(n)は、識別し難い周波数領域に該当する画像パターンを示している。なお、図5に示すように、ローパスフィルタ41のフィルタ特性とハイパスフィルタ42のフィルタ特性とは、情報損失が生じないように互いに重なりあっている。そのため、ハイパスフィルタ42側のカットオフ周波数をωTとし、ローパスフィルタ41側のカットオフ周波数はωTより少し大きい周波数となるように、帯域2分割フィルタバンク40を設計するとよい。
【0041】
ところで、図2で示したように人間の視覚は、画像の空間周波数が高くなる程、識別できる階調数が減っていくという階調特性を有していることが知られている。逆に階調変化が激しいと空間周波数が高くても所定範囲内であれば識別し易いパターンとなっていると考えられる。そのため、視覚特性により近い識別性判断処理を行うために、本実施形態における閾値処理部21は、上記ハイパスフィルタ42によって帯域分割された画像yh(n)の振幅を適切な閾値Thと比較し、閾値Thよりも振幅が大きい画素があれば目立ち易い(識別し易いすなわち識別性が高い)画素が存在すると判断し、閾値Thよりも振幅が小さい画素があれば目立ち難い(識別し難いすなわち識別性が低い)画素が存在すると判断する処理を行う。
【0042】
図6は、或る原画像を表すデジタル画像信号x(n)が上記フィルタバンク40に入力されたときに帯域分割されて出力される高周波成分のデジタル信号yh(n)の振幅を閾値処理している様子を示している。すなわち、図6(a)に示すようなデジタル画像信号x(n)がフィルタバンク40に入力されると、図6(b)に示すような低周波成分に相当するデジタル信号yl(n)と図6(c)に示すような高周波成分に相当するデジタル信号yh(n)とがフィルタバンク40から出力される。閾値処理部21は、低周波成分に相当するデジタル信号yl(n)の表す要素画像のパターンの識別性は高いと判断すると共に、高周波成分に相当するデジタル信号yh(n)の表す要素画像のパターンについては、閾値Thよりも大きい振幅の画素のみ識別性が高いと判断して図6(d)に示すような信号を生成する。すなわち、高周波成分に相当するデジタル信号yh(n)の表す要素画像のパターンについては、閾値Thよりも大きい振幅の画素からなるパターンである大振幅パターンと閾値Th以下の振幅の画素からなるパターンである小振幅パターンとに分離し、大振幅パターンの識別性は高く、小振幅パターンの識別性は低いと判断する。なお、図6(a)〜(c)は、説明の便宜のため、本実施形態の入力画像である原画像を1次元でスライスした簡単な輝度振幅でデジタル画像信号を表しているものとする。
【0043】
周波数領域変換部20としてのフィルタバンクは、図4に示す上記の帯域2分割フィルタバンク40に限定されるものではない。図7は、周波数領域変換部20としてのフィルタバンクの他の構成例を示すブロック図であり、この構成例では、周波数領域変換部20は、n個の帯域通過フィルタ430,431,…,43(n−1)からなる帯域n分割フィルタバンク43として実現されている。図7においてHはフィルタの伝達関数を示しており、H0が低周波側のフィルタ430の伝達関数を、Hn−1が高周波側のフィルタ43(n−1)の伝達関数を、それぞれ示している。図8は、この帯域n分割フィルタバンク43のフィルタ特性図(振幅応答特性を示す図)である。この構成例では、図8に示すように周波数の閾値の候補がωT1からωT(n−1)まで与えられ、外部からの閾値変更の要求に対して、フィルタを設計しなおさなくても、この周波数の閾値候補ωT1からωT(n−1の中からいずれかを周波数閾値として選択することができる。すなわち、n個の周波数の閾値候補の間で周波数閾値を切り換えることができ、これにより、n個の周波数成分に相当するn個の要素画像を識別性の高いグループと識別性の低いグループとに分類するための基準すなわち識別性判断の基準を変更することができる。また、それぞれのフィルタ430,431,…,43(n−1)ごとに振幅の閾値を設定することで、よりきめ細かく視覚特性を表現することができる。
【0044】
閾値調節部23は、原画像に含まれるパターンについて識別性を正確に判断するために、外部からの操作または制御信号に基づき閾値Thを調節する。例えば、拡大すべき原画像が動画の場合は、静止画の場合よりも振幅の閾値Thを大きくするように調節するのが好ましい。また、拡大された画像が表示または出力される周囲の環境や原画像の種類等に応じて閾値Thを調節するようにしてもよい。さらに、周波数領域変換部205が図7に示すように帯域n分割フィルタバンク43として実現されている場合には、閾値調節部23が、閾値Thを調節することに代えて又はそれに加えて、周波数の閾値候補ωT1〜ωT(n−1の中からいずれかを周波数閾値として選択することで、識別性判断の基準を切り替えるようにしてもよい。この場合において例えば周波数の閾値ωTkが選択されたときには(0≦k≦n−1)、フィルタ430〜430kから出力されるデジタル信号y0(n)〜yk(n)の表す要素画像のパターンは識別性が高いと判断されることになる。なお、拡大すべき原画像が動画のときは、静止画のときよりも小さい周波数閾値を選択するのが好ましい。
【0045】
判断出力部22は、上記のような閾値処理部21による処理結果に基づき、拡大すべき原画像に含まれるパターンの識別性についての判断結果を出力する。例えば、図6(a)に示す信号に対応する原画像が識別性判断部2に入力された場合には、図6(b)に示す低周波成分に相当するデジタル信号yl(n)の表す要素画像のパターンと図6(d)に示す信号の表す画像パターンとについては識別性が高いと判断され、図6(c)に示す高周波成分に相当するデジタル信号yh(n)の表す要素画像のパターンのうち図6(d)に示す信号の表す画像パターン以外については識別性が低いと判断される。
【0046】
<1.2.2 第2の構成例>
図9は、本実施形態における識別性判断部2の第2の構成例を示すブロック図である。この構成例における識別性判断部2は、人間の視覚特性を近似した特性をもつフィルタ24と、原画像をフィルタ24に通した画像と原画像との差分を生成する差分生成部25と、生成された差分に基づき原画像におけるパターンの識別性についての判断結果を出力する判断出力部26と、フィルタ24のフィルタ特性を調節するフィルタ調節部27とを備えている。
【0047】
上記構成においてフィルタ24は、人間の視覚特性(周波数特性を含む)を近似したフィルタ特性を有している。このため、フィルタ24を通過した後の原画像(以下「フィルタ処理後の原画像」という)では、図2に示した視覚の階調特性に応じて、フィルタ24を通過する前の原画像(以下「フィルタ処理前の原画像」という)の周波数成分のうち視覚的に識別し難い周波数成分が減衰している。したがって、フィルタ処理後の原画像とフィルタ処理前の原画像との差分をとることで、視覚的に識別し難さの程度を示す量としての差分量を原画像の各位置において得ることができる。この差分量の値により原画像を識別し易い領域(識別性の高い領域)と識別し難い領域(識別性の低い領域)とに切り分けることができる。判断出力部26は、差分生成部25から出力される原画像の各位置における差分量に基づき、原画像に含まれるパターン(領域)の識別性についての判断結果を出力する。したがって、判断出力部26は、原画像における識別性を決定する識別性決定手段と言えるものであり、その具体的構成としては、例えば、差分生成部25からの差分量についての閾値Dthを予め設定しておき、その差分量に基づき原画像におけるパターンの識別性について判断する際に、原画像のうち差分量が閾値Dthよりも大きい領域については識別性が低いとする判断結果を出力し、差分量が閾値Dth以下である領域については識別性が高いとする判断結果を出力するようにすればよい。
【0048】
フィルタ調節部27は、外部からの操作または制御信号に応じてフィルタ24の係数を変えることによりフィルタ24のフィルタ特性を調節する。例えば拡大すべき原画像が動画か静止画かに応じてフィルタ特性を調節したり、拡大画像が表示または出力される周囲の環境や原画像の種類等に応じてフィルタ特性を調節したりすることで、拡大画像を見ている人にとって好適なフィルタ特性を設定することができる。
【0049】
なお、上述のように、差分生成部25からの差分量が閾値Dthよりも大きいか否かにより原画像における識別性についての判断結果が決まる構成の場合には、その差分量についての閾値Dthを好適に設定できるように、この閾値Dthを調節する閾値調節手段を設けることが好ましい。
【0050】
<1.3 拡大処理部>
<1.3.1 第1の構成例>
図10は、本実施形態における拡大処理部3の第1の構成例を示すブロック図である。この拡大処理部3は、原画像の空間周波数を維持して原画像を拡大する空間周波数維持画像拡大部30と、原画像のエッジを強調して画像拡大を行うエッジ強調画像拡大部31と、空間周波数維持画像拡大部30およびエッジ強調画像拡大部31によって得られる拡大画像の間で原画像の拡大画像を構成すべき画像を選択する選択部32とを備えている。
【0051】
上記構成における選択部32は、拡大処理部3の前段である識別性判断部2により原画像のうち識別し難い(識別性が低い)と判断された要素画像(周波数成分)またはパターン(領域)については空間周波数維持画像拡大部30によって得られる拡大画像を選択し、識別性判断部2により原画像のうち識別し易い(識別性が高い)と判断された要素画像(周波数成分)またはパターン(領域)についてはエッジ強調画像拡大部31によって得られる拡大画像を選択する。したがって、原画像において識別し難いと判断された要素画像(周波数成分)またはパターン(領域)については、図11(a)に示すように、空間周波数を維持して拡大することで拡大後も識別し難い状態にすることができる。また、原画像において識別し易いと判断された要素画像(周波数成分)またはパターン(領域)については、図11(b)に示すように、エッジを強調して画像拡大を行うことで、エッジのボケを改善した拡大画像を得ることができる。なお、出力部4は、このようにして選択された拡大画像(原画像に含まれる要素画像(周波数成分)またはパターン(領域)の拡大画像)を空間周波数維持画像拡大部30およびエッジ強調画像拡大部31から受け取り、これらを合成(加算)することにより原画像全体の拡大画像を出力する。
【0052】
上記のように識別性についての判断結果に応じて画像拡大の態様(本例では画像拡大処理の手法)が選択されることにより、原画像を拡大した画像として画質劣化の少ない拡大画像を得ることができる。ただし、ここでは、識別し易いと判断された画像パターンの拡大方法としてはエッジのジャギーやボケを改善する手法を用いるということを示しているだけであり、本発明はその具体的な処理方法を限定するものではない。
【0053】
<1.3.2 第2の構成例>
図12は、本実施形態における拡大処理部3の第2の構成例を示すブロック図である。この拡大処理部3は、原画像を人間の視覚の周波数特性を近似したフィルタ特性を有するフィルタ(以下「視覚特性フィルタ」という)33と、原画像に視覚特性フィルタ33を通過させることにより得られる画像(以下「フィルタ処理画像」という)と原画像とのいずれかを選択する選択部34と、選択された画像に対しエッジを強調して画像拡大を行うエッジ強調画像拡大部35とを備えている。
【0054】
上記構成における選択部34は、拡大処理部3の前段である識別性判断部2により識別し難い(識別性が低い)と判断された場合には、識別性が低いと判断されたパターンまたは領域である画像部分に対応するフィルタ処理画像の画像部分を選択し、識別性判断部2により識別し易い(識別性が高い)と判断された場合には、原画像のうち識別性が高いと判断されたパターンまたは領域である画像部分を選択する。エッジ強調画像拡大部35は、このようにして選択された画像部分からなる画像に対しエッジを強調して画像拡大を行うことにより、原画像の拡大画像を得る。
【0055】
上記構成によれば、視覚特性フィルタ33を通過した後の画像であるフィルタ処理画像は、視覚的に識別し難い周波数成分が減衰しているので、原画像のうち識別し難い領域が平滑化された画像となっている。そして、この平滑化された領域の濃度値は、人間の視覚を介して観察された原画像の濃度値と等しくなる。このように、原画像において識別し難いと判断されたパターンまたは領域については視覚特性フィルタ33の通過によって平滑化されるので、この視覚特性フィルタ33を通過した後の画像を拡大処理すれば目障りな模様が現れることもない。したがって、選択部34によって選択された画像をエッジ強調画像拡大部35によって拡大することにより、原画像の拡大画像として画質劣化の少ない画像を得ることができる。なお、原画像において識別し易いと判断されたパターンまたは領域については、視覚特性フィルタ33を通過することなくエッジ強調画像拡大部35によって処理されるので、画像のエッジのジャギーやボケの発生を抑えつつ拡大処理が行われる。
【0056】
<1.4 出力部>
本実施形態における出力部4は、上記のように構成された拡大処理部3から出力される画像からなる拡大画像を原画像の拡大画像として出力する。このとき出力部4は、本実施形態に係る画像拡大部の出力先(ディスプレイ装置またはプリンタなど)に応じた形式の画像データまたは画像信号として出力する。
【0057】
<1.5 効果>
上記のような本実施形態によれば、原画像におけるパターンまたは領域(各要素画像または各画像部分)について人間にとっての識別性に応じた手法により画像拡大が行われるか、または、当該識別性の低い領域については平滑化がされた後にエッジを強調した画像拡大が行われる。これにより、人間の視覚の階調特性の観点から識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。したがって、画像のエッジのジャギーやボケを改善する従来の拡大手法を利用しつつ、拡大前の原画像に含まれる視覚的に目立ち難いノイズや模様などの画像パターンを拡大後も目立たないようにすることができ、その結果、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0058】
<1.6 第1の実施形態の変形例>
上記第1の実施形態では、画像拡大装置の各部が専用ハードウェアにより実現されることを前提としている。しかし、コンピュータに所定プログラムを実行させることにより、ソフトウェア的に画像拡大装置の一部または全部を実現してもよい。例えば、上記第1の実施形態において拡大処理部3をソフトウェア的に実現してもよい。この場合、図10に示した構成とは異なり、空間周波数維持画像拡大処理とエッジ強調画像拡大処理という2種類の画像拡大処理のうちいずれかの処理が識別性の判断結果に応じて選択されて、選択された画像拡大処理が実行されるが、空間周波数維持画像拡大とエッジ強調画像拡大とは通常、同時には行われない。なお、画像拡大装置全体をソフトウェア的に実現する場合については、本発明の第4の実施形態として後述する。
【0059】
また、上記第1の実施形態では、人間の視覚の階調特性に基づき原画像におけるパターン(要素画像(周波数成分)または画像部分(領域))の識別性が判断されるが、この階調特性以外の他の視覚特性に基づき原画像における識別性を判断してもよい。
【0060】
さらに、上記第1の実施形態では、原画像における識別性についての判断結果として、識別性が高い(識別し易い)という判断結果と識別性が低い(識別し難い)という判断結果との2種類の判断結果が得られるが、例えば閾値を2つ以上設定することにより識別性につき3種類以上の判断結果が得られるようにしてもよい。
【0061】
<2.第2の実施形態>
図13は、本発明の第2の実施形態に係る画像拡大装置の概略構成を示すブロック図である。この画像拡大装置は、それによって得られる拡大画像を表示するディスプレイ装置において使用されることを前提としており、図1に示した第1の実施形態に係る画像拡大装置に対し、拡大画像を表示している表示面からそれを見ている人間の視点までの視線距離を計測する視線距離計測部28と、その計測結果から上記識別性判断部の特性を調節する識別性判断調節部29とを付加した構成となっている。本実施形態における他の構成要素および他の構成要素の詳細構成は第1の実施形態と同様であるので(図1、図3、図9、図10、図12等)、同一部分には同一の参照符号を付して説明を省略する。
【0062】
人間の視覚の階調特性では、視線距離が長ければ画像パターンの識別能力が低下するのは明らかであり、視線距離が短ければ画像パターンの識別能力が高くなるのも明らかである。そこで本実施形態では、視線距離計測部28によって計測された視線距離が長くなれば、原画像において識別し難い(識別性が低い)と判断される領域が多くなり、その計測された視線距離が短くなれば、原画像において識別し難い(識別性が低い)と判断される領域が少なくなるように、識別性判断調節部29により識別性判断部2の特性すなわち識別性の判断基準を調節する。識別性判断部2の特性(識別性の判断基準)を調節するには、例えば、図3に示す構成の場合には、閾値調節部23を介して振幅の閾値Thや周波数の閾値ωTを調節し、図9に示す構成の場合には、フィルタ調節部27を介してフィルタ24のフィルタ特性を調節すればよい。
【0063】
上記構成によれば、拡大画像が表示されるべき表示面からそれを見ている人間の視点までの視線距離に応じて、人間の視覚の階調特性と同様に識別性が調節されるので、現在の視線距離に適応した画質劣化の少ない拡大画像を得ることができる。
【0064】
<3.第3の実施形態>
図14は、本発明の第3の実施形態に係る画像拡大装置の概略構成を示すブロック図である。この画像拡大装置は、図1に示した第1の実施形態に係る画像拡大装置と同様に入力部1と識別性判断部2と拡大処理部3と出力部4とを備え、これらに加えて、原画像をN×N個のブロックとしての部分画像に分割する画像分割部5と、各部分画像の拡大画像を統合する画像統合部7と、画像分割部5、識別性判断部2、拡大処理部3および画像統合部7を制御する制御部6とを備えている。
【0065】
上記構成における制御部6は、原画像をN×N個のブロック(部分画像)へと画像分割部5に分割させ、各ブロック(部分画像)に対し識別性判断部2によって識別性を判断させた後に拡大処理部3にその判断結果に応じた拡大処理を行わせ、拡大された各部分画像を画像統合部7に統合させるものであり、このための各ブロックについての繰り返し処理(識別性判断および拡大処理の繰り返し)を制御する。
【0066】
上記のような本実施形態によれば、拡大すべき原画像がN×N個のブロックに分割され、各ブロックに対して識別性判断処理や画像拡大処理が順次行われることで、一度に処理するデータ量が限定される。このため、画像拡大装置において画像処理に必要なメモリ量および回路量を削減することができる。また、N×N個のブロックのそれぞれに対する識別性判断処理や画像拡大処理を並列化することにより、画像拡大装置の処理時間を短縮することも可能である。
【0067】
さらに、本実施形態によれば、第1の実施形態と同様、人間の視覚の階調特性からみた原画像の画像パターンの識別性についての判断結果に基づき、識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われるので、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0068】
なお、本実施形態では、原画像は画像分割部5によってN×N個のブロックに分割されるが、縦方向(垂直方向)の分割数と横方向(水平方向)の分割数とが異なっていてもよい。すなわち、原画像が画像分割部5によってN×M個(N≠M)のブロックに分割される構成であってもよい。
【0069】
<4.第4の実施形態>
次に、本発明の第4の実施形態に係る画像拡大装置について説明する。この画像拡大装置は、ハードウェア的には中央処理装置としてのCPUとメモリなどからなるコンピュータ(例えば1チップのマイクロコンピュータ)であって、メモリに格納された所定の画像処理プログラム(以下「画像拡大処理プログラム」という)をCPUが実行することにより、上記第1の実施形態に係る画像拡大装置の機能と同様の機能がソフトウェア的に実現される。なお、ディスプレイ装置で表示すべき画像を本発明の画像拡大装置によって生成する場合には、通常、リアルタイムで拡大画像を生成しなければならないが、プリンタに出力すべき画像を本発明の画像拡大装置によって生成する場合には、リアルタイムでの処理は必ずしも必要ではない。したがって、後者の場合には、本実施形態のようにハードウェアとしてのコンピュータ(マイコンなど)を前提としてソフトウェア的に画像拡大装置を実現することができる。
【0070】
図15は、本実施形態における画像拡大装置による処理手順すなわち上記画像拡大処理プログラムP1に基づくCPUの動作を示すフローチャートである。この画像拡大装置におけるCPUは、上記画像拡大処理プログラムP1に基づき以下のように動作する。
【0071】
まず、原画像入力処理を実行する(ステップS1)。この原画像入力処理では、外部から与えられる原画像を表す画像データ(以下「入力画像データ」という)を、上記コンピュータを構成するメモリ内に設けられた入力バッファに格納する。
【0072】
次に、その入力画像データに対して識別性判断処理を実行する(ステップS2)。この識別性判断処理では、入力画像データの示す原画像に視覚特性(具体的には視覚の階調特性)の観点から識別し難いパターン(識別性の低いパターン)が存在する領域を判別し、その存在を示すフラグを設定する。このフラグは原画像の画素数だけ設けられ、原画像の各画素に1つのフラグが対応するように構成されていてもよいし、原画像において識別し難い領域を示す座標値をフラグの値として設定するようにしてもよい。
【0073】
次に、入力画像データの示す原画像に対して、人間の視覚特性に基づく識別性に応じた拡大処理を実行する(ステップS9)。この拡大処理では、CPUは下記のように動作する。
【0074】
まず、入力画像データの示す原画像における任意の1画素を選択する(ステップS3)。次に、この選択画素に対応する上記フラグの値を参照することにより、この選択画素が識別し難いか否か(識別性が低いか否か)を判定する(ステップS4)。この判定の結果、選択画素が識別し難いパターンの存在する領域における画素である場合は、その選択画素に対し識別し難いまま拡大する処理すなわち空間周波数維持拡大処理を行い(具体的には選択画素の周辺画素の値も考慮しつつ選択画素に対する拡大処理を行う。図11(a)参照)。)、この拡大処理によって得られた画像データを上記メモリ内に設けられた出力バッファに保存する(ステップS5)。一方、上記判定の結果、選択画素が識別し難いパターンの存在する領域における画素ではない場合、すなわち識別し易いパターンの存在する領域における画素である場合は、エッジを補償した拡大処理すなわちエッジ強調画像拡大処理を行い(具体的には選択画素の周辺画素の値も考慮しつつ選択画素に対する拡大処理を行う。図11(b)参照。)、この拡大処理によって得られた画像データを上記出力バッファに保存する(ステップS6)。なお、ここでいうエッジの補償とは、従来技術が目的としていたように画像拡大後にエッジのジャギーやボケが少なくなるような手法のことをいう。
【0075】
上記ステップS5またはS6の画像拡大処理が行われると、その後、入力画像データの示す原画像の全ての画素が選択されたか否かを判定する(ステップS7)。この判定の結果、その原画像において未選択の画素があれば、ステップS3へ戻り、未選択の画素の中から任意の1画素を選択し、その新たな選択画素につき、ステップS3以降のステップを実行する。以後、入力画像データの示す原画像において未選択の画素が存在する限り、ステップS3〜S7を繰り返し実行し、この間にその原画像において未選択の画素が無くなればステップS8へ進む。
【0076】
ステップS8へ進んだ時点では、入力画像データの示す原画像の拡大画像を表すデータが上記出力バッファに格納されており、ステップS8では、この拡大画像を表すデータを出力する。
【0077】
上記のような本実施形態によれば、第1の実施形態と同様、人間の視覚特性(視覚の階調特性)の観点から識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。したがって、画像のエッジのジャギーやボケを改善する従来の拡大手法を利用しつつ、拡大前の原画像に含まれる視覚的に目立ち難いノイズや模様などの画像パターンを拡大後も目立たないようにすることができる。
【0078】
ところで上記実施形態では、第1の実施形態に係る画像拡大装置の機能と同様の機能がソフトウェア的に実現されるが、第3の実施形態に係る画像拡大装置(図14)の機能と同様の機能をソフトウェア的に実現する構成としてもよい。この場合、上記実施形態と同様のハードウェア構成で、CPUが図16に示すような分割画像拡大処理プログラムを実行するようにすればよい。この分割画像拡大処理プログラムによれば、CPUは、まず、拡大すべき原画像をN×N個のブロック(部分画像)に分割する(ステップS10)。次に、各ブロックの部分画像を表す画像データを入力画像データとして、図15に示した上述の画像拡大処理プログラムP1による処理を実行することにより、各部分画像の拡大画像を表すデータを拡大部分画像データとして生成する。そして、各拡大部分画像データを統合することにより、原画像の拡大画像を表す画像データを生成する(ステップS11)。
【0079】
【発明の効果】
第1の発明によれば、人間の視覚特性に基づく識別性に応じた態様(例えば識別性に応じた画像拡大手法)で原画像が拡大されるので、人間にとって識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理を行うことにより、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0080】
第2の発明によれば、画像の空間周波数が高くなると識別できる階調数が低下するという視覚の階調特性に基づき原画像における識別性が判断され、この識別性に応じた態様で原画像が拡大されることで、第1の発明と同様の効果が得られる。
【0081】
第3の発明によれば、空間周波数に基づき原画像が複数の要素画像に分解され、各要素画像について人間の視覚特性に基づく識別性が判断され、各要素画像がその識別性に応じた態様で拡大された後に合成されることにより原画像の拡大画像が生成される。これにより第1の発明と同様の効果が得られる。
【0082】
第4の発明によれば、第3の発明において識別性を決定するための閾値が調節手段によって適切に調節されることで、原画像において人間の視覚特性に基づく識別性をより正確に判断することが可能となる。
【0083】
第5の発明によれば、人間の視覚特性を近似したフィルタ特性を有するフィルタ手段に原画像を通すことにより得られる画像と原画像との差分に基づき原画像における識別性が決定され、この識別性に応じた態様で原画像が拡大される。これにより第1の発明と同様の効果が得られる。
【0084】
第6の発明によれば、第5の発明においてフィルタ手段のフィルタ特性が適切に調節されることで、原画像において人間の視覚特性に基づく識別性をより正確に判断することが可能となる。
【0085】
第7の発明によれば、識別性判断手段によって判断された識別性に応じて、原画像の拡大画像を生成すべき画像拡大手段が複数の画像拡大手段の中から選択されることで、人間の視覚特性に基づく識別性に応じた態様で原画像が拡大される。これにより第1の発明と同様の効果が得られる。
【0086】
第8の発明によれば、人間の視覚特性に基づき、識別性が低い場合には原画像の空間周波数を維持して画像拡大が行われ、識別性が高い場合には原画像のエッジを強調して画像拡大が行われるので、人間にとって識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。これにより、画像のエッジのジャギーやボケを改善する従来の拡大手法を利用しつつ、拡大前の原画像に含まれる視覚的に目立ち難いノイズや模様などの画像パターンを拡大後も目立たないようにすることができる。その結果、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0087】
第9の発明によれば、原画像のうち人間にとって識別性の低い部分についてはフィルタ処理によって平滑化された後に画像拡大が行われるので、拡大処理によって目障りな模様が現れることはなく、原画像の拡大画像における画質劣化を低減することができる。
【0088】
第10の発明によれば、原画像のうち人間にとって識別性の低い部分についてはフィルタ手段によって平滑化された後に画像拡大が行われ、原画像のうち人間にとって識別性の高い部分についてはフィルタ手段を通すことなく画像拡大が行われ、しかも、画像拡大には画像のエッジを強調する拡大手法が使用される。このため、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を抑えつつ、画像拡大に起因するエッジのジャギーやボケを改善することができる。
【0089】
第11の発明によれば、拡大画像が表示されるべき表示面からそれを見ている人間の視点までの視線距離に応じて、人間の視覚の階調特性と同様に識別性が調節されるので、現在の視線距離に適応した画質劣化の少ない拡大画像を得ることができる。
【0090】
第12の発明によれば、原画像の分割によって得られる各部分画像につき、人間の視覚特性に基づいて識別性が判断され、判断された識別性に応じた態様で当該部分画像が拡大されるので、原画像を拡大するための画像処理に必要なメモリ量および回路量を削減することができる。また、複数の部分画像のそれぞれに対する識別性判断処理や画像拡大処理を並列化することにより、画像拡大装置の処理時間を短縮することができる。
【0091】
第13の発明によれば、第1の発明と同様の効果を奏する。
第14の発明によれば、第1の発明と同様の効果を奏する。
第15の発明によれば、第7の発明と同様の効果を奏する。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る画像拡大装置の概略構成を示すブロック図である。
【図2】視覚の階調特性を示す特性図である。
【図3】第1の実施形態における識別性判断部の第1の構成例を示すブロック図である。
【図4】第1の実施形態における周波数領域変換部の一例である帯域2分割フィルタバンクの構成を示すブロック図である。
【図5】上記帯域2分割フィルタバンクのフィルタ特性図である。
【図6】第1の実施形態における上記帯域2分割フィルタバンクおよび閾値処理部の動作を説明するための図である。
【図7】第1の実施形態における周波数領域変換部の他の例である帯域n分割フィルタバンクの構成を示すブロック図である。
【図8】上記帯域n分割フィルタバンクのフィルタ特性を示す周波数特性図である。
【図9】第1の実施形態における識別性判断部の第2の構成例を示すブロック図である。
【図10】第1の実施形態における拡大処理部の第1の構成例を示すブロック図である。
【図11】第1の実施形態における空間周波数維持拡大処理とエッジ強調拡大処理との相違を説明するための図である。
【図12】第1の実施形態における拡大処理部の第2の構成例を示すブロック図である。
【図13】本発明の第2の実施形態に係る画像拡大装置の概略構成を示すブロック図である。
【図14】本発明の第3の実施形態に係る画像拡大装置の概略構成を示すブロック図である。
【図15】本発明の第4の実施形態における画像拡大処理プログラムの処理手順を示すフローチャートである。
【図16】本発明の第4の実施形態の変形例における分割画像拡大処理プログラムの処理手順を示すフローチャートである。
【図17】従来技術であるニアレストネイバー補間法を説明するための図である。
【図18】従来技術であるバイリニア補間法を説明するための図である。
【図19】従来技術であるキュービックコンボリューション補間法を説明するための図である。
【図20】識別性の低い画像パターンを従来技術で縦横2倍拡大した例を示す図である。
【図21】従来技術で1画素の画像を横1.5倍拡大した例を示す図である。
【符号の説明】
1 …入力部
2 …識別性判断部
3 …拡大処理部
4 …出力部
5 …画像分割部
6 …制御部
7 …画像統合部
20 …周波数領域変換部(分解手段)
21 …閾値処理部
22 …判断出力部
23 …閾値調節部
24 …フィルタ
25 …差分生成部
26 …判断出力部(識別性決定手段)
27 …フィルタ調節部
28 …視線距離計測部
29 …識別性判断調節部
30 …空間周波数維持画像拡大部(第1の画像拡大手段)
31 …エッジ強調画像拡大部(第2の画像拡大手段)
32 …選択部
33 …視覚特性フィルタ
34 …選択部
35 …エッジ強調画像拡大部
40 …帯域2分割フィルタバンク
43 …帯域n分割フィルタバンク
【発明の属する技術分野】
本発明は、画像を拡大するための画像処理装置および画像処理方法に関し、例えば、ディスプレイ装置に表示すべき画像やプリンタに出力すべき画像を原画像を拡大することにより生成するための画像処理装置等に関する。
【0002】
【従来の技術】
画像拡大は、原画像に対して画素数が増えるため、その新しく増えた画素をどのような値に決めるかという補間の技術として知られている。そして、デジタル画像の拡大について広く利用されている手法として、
(1)ニアレストネイバー(Nearest Neighbor)補間法、
(2)バイリニア(Bi−Linear)補間法、
(3)キュービックコンボリューション(Cubic Convolution)補間法などがある(例えば非特許文献1参照)。
【0003】
ニアレストネイバー補間法は、図17に示すように、拡大により新しく増えた補間画素P(u,v)に最も近い位置にある画素Pi j+1の値をそのまま補間画素P(u,v)の輝度値として用いる手法である。この手法によれば、拡大後もコントラストが高く、最も単純な方法のため高速に処理できるが、斜め線にジャギー(ギザギザの状態)が発生し画質は非常に悪い。
【0004】
バイリニア補間法は、図18に示すように補間画素P(u,v)の周囲の4画素Pij、Pi j+1、Pi+1 j、Pi+1 j+1の値を用いて平面的な補間を行う手法である。この手法では、ニアレストネイバー法において発生したようなジャギーは発生せず、画像のスムージングの効果が得られるが、エッジ部のような急激に濃度が変化している部分がボケてしまうという欠点がある。
【0005】
キュービックコンボリューション補間法は、図19に示すように補間画素P(u,v)の周囲の16画素P11〜P44の値を用いて3次関数による曲面的な補間を行う手法である。この手法によれば、エッジ強調効果が得られ、バイリニア法ほど画像がぼやけないが、計算量が多く画像に若干の揺らぎが生じる。
【0006】
ところで、デジタル画像の拡大はサンプリング間隔を狭くすることと等価であり、それによって解像度が高くなった分だけ、より高い高周波成分を再現することができる。しかしながら、上記手法では、拡大画像の周波数成分が拡大前の原画像の周波数成分と変わらないので、画像サイズが大きくなった分だけボケて見えてしまうという問題があった。
【0007】
これに対し、特開平4−330858号公報には、高域周波数を強調するフィルタと3次のBスプライン関数を用いた補間により上記の高周波成分を補うことで画質のボケを解消できる画像拡大方法が開示されている。
【0008】
また、特開平4−333989号公報には、画像を周波数領域に変換して処理する画像拡大装置として、所定のサイズのブロックに分割された原画像データを直交変換して周波数成分に変換し、高周波成分領域に“0”データを付加し、それを逆直交変換することで拡大画像を得る画像拡大装置が開示されている。
【0009】
さらに、特開平7−152907号公報には、おなじく周波数領域を利用した画像拡大方法および装置として、直交ウェーブレット変換により高周波成分を予測補償し、再び逆変換することで拡大画像を得る画像拡大方法および装置が開示されている。
【0010】
以上説明したように従来の技術では、高周波成分を強調、付加または補償することで画像拡大後のエッジのジャギーやボケや歪みを改善することが主流である。
【0011】
【特許文献1】
特開平4−330858号公報
【特許文献2】
特開平4−333989号公報
【特許文献3】
特開平7−152907号公報
【非特許文献1】
高木幹雄、「画像解析ハンドブック」、東京大学出版会、1991年1月17日、p.441−p.444
【非特許文献2】
岩本明人、「デジタルハードコピー技術」、共立出版、2000年11月15日、p.83−p.84
【0012】
【発明が解決しようとする課題】
しかしながら、従来の画像拡大手法では、拡大前の原画像に含まれ目立たなかったノイズや細かい模様も忠実に拡大し目立ち易くしてしまう。例えば、図20(a)は、本来目立ち難かった細かいノイズが縦横2倍に拡大されて目立ち易くなってしまい目障りなノイズパターンになった例を示している。また、図20(b)は、本来目立ち難かった斜め方向に流れるノイズが縦横2倍に拡大されて目立ち易くなってしまい目障りなノイズパターンとなってしまった場合の例を示している。また、図20(c)は、本来見え難い模様であるのに縦横2倍に拡大されて本来の模様の質感を失った場合の例を示している。
【0013】
このように従来の画像拡大手法では、本来拡大後も見えなくてもよいはずの画像パターンが見えるようになり、見た目の画質を悪くしてしまうという問題があった。
【0014】
また、目立ち易くなってしまうのは、原画像のパターンが拡大により大きくなるからというだけでなく、デジタル画像では整数倍の画素で解像度を表現するため、階調値を濃淡処理して補間することになり本来拡大したい面積よりも大きくなってしまいがちであるからである。1画素の画像を横に1.5倍に拡大する場合の例を示す図21を参照して、このことを説明する。図21(a)は画素の濃度を模様で表現し、図21(b)は画素の濃度を縦振幅で表現している。アナログ画像ならば、図21(b)に示す点線の位置まで画像が拡大されることで、ちょうど1.5倍に拡大される。しかしながら、デジタル画像では、実際には2倍の位置まで拡大され、図21(b)において実線で表されているように濃度を補間処理することになり、1.5倍拡大の見た目の濃度の和としてはアナログ画像の拡大の場合と等しくなるように処理することになる。
【0015】
さらに、従来技術でエッジのボケを改善するという方向は、目立たなかったノイズや模様をさらに強調してしまうという結果となっていた。
【0016】
以上のような問題は、拡大の際にエッジのジャギーやボケが発生するという従来技術で取り上げられている問題に比べ、考慮されることは少なく、ほとんど改善されていない。
【0017】
そこで本発明は、拡大前の原画像に含まれ目立たなかったノイズや模様は拡大後も目立たないように画像を拡大する画像処理装置および画像処理方法を提供することを目的とする。
【0018】
【課題を解決するための手段】
第1の発明は、画像を拡大するための画像処理装置であって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断手段と、
前記識別性判断手段によって判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理手段とを備えることを特徴とする。
【0019】
第2の発明は、第1の発明において、
前記識別性判断手段は、前記識別性を人間の視覚の階調特性に基づいて判断することを特徴とする。
【0020】
第3の発明は、第1の発明において、
前記識別性判断手段は、
前記原画像を空間周波数に基づき複数の要素画像に分解する分解手段と、
前記複数の要素画像を人間の視覚特性に基づく所定の閾値で分類することにより各要素画像の識別性を決定する閾値処理手段とを含み、
前記拡大処理手段は、前記分解手段によって得られる各要素画像を当該各要素画像につき前記閾値処理手段によって決定された識別性に応じた態様で拡大し、拡大後の各要素画像を合成することにより前記原画像の拡大画像を生成することを特徴とする。
【0021】
第4の発明は、第3の発明において、
前記所定の閾値を調節するための調節手段を更に備えることを特徴とする。
【0022】
第5の発明は、第1の発明において、
前記識別性判断手段は、
人間の視覚特性を近似したフィルタ特性を有するフィルタ手段と、
前記原画像に前記フィルタ手段を通過させることにより得られる画像と前記原画像との差分を生成する差分生成手段と、
前記差分に基づき前記原画像における前記識別性を決定する識別性決定手段とを含むことを特徴とする。
【0023】
第6の発明は、第5の発明において、
前記フィルタ手段が有するフィルタ特性を調節するための調節手段を更に備えることを特徴とする。
【0024】
第7の発明は、第1の発明において、
前記拡大処理手段は、
互いに異なる種類の画像拡大処理を前記原画像に対して行う複数の画像拡大手段と、
前記識別性判断手段によって判断された前記識別性に応じて、前記原画像の拡大画像を生成すべき画像拡大手段を前記複数の画像拡大手段の中から選択する選択手段とを含むことを特徴とする。
【0025】
第8の発明は、第7の発明において、
前記識別性判断手段は、前記原画像において前記識別性が高いか低いかを判断し、
前記拡大処理手段は、前記複数の画像拡大手段として、前記原画像の空間周波数を維持して前記原画像を拡大する第1の画像拡大手段と、前記原画像のエッジを強調して前記原画像を拡大する第2の画像拡大手段とを含み、
前記選択手段は、前記識別性判断手段によって前記識別性が低いと判断された場合に前記第1の画像拡大手段を選択し、前記識別性判断手段によって前記識別性が高いと判断された場合に前記第2の画像拡大手段を選択することを特徴とする。
【0026】
第9の発明は、第1の発明において、
前記識別性判断手段は、前記原画像において前記識別性が高いか低いかを判断し、
前記拡大処理手段は、前記識別性判断手段によって前記識別性が低いと判断された場合には、人間の視覚特性を近似したフィルタ特性によるフィルタ処理を行った後に画像拡大処理を行うことを特徴とする。
【0027】
第10の発明は、第9の発明において、
前記拡大処理手段は、
人間の視覚特性を近似したフィルタ特性を有し前記原画像が通過するフィルタ手段と、
前記識別性判断手段によって前記識別性が低いと判断された場合に、前記原画像が前記フィルタ手段を通過することにより得られる画像のうち前記識別性が低いと判断された前記原画像の画像部分に対応する画像部分を選択し、前記識別性判断手段によって前記識別性が高いと判断された場合に、前記原画像のうち前記識別性が高いと判断された画像部分を選択する選択手段と、
前記選択手段によって選択された画像部分からなる画像に対し当該画像のエッジを強調して画像拡大を行う画像拡大手段とを含むことを特徴とする。
【0028】
第11の発明は、第1の発明において、
前記拡大処理手段によって前記原画像が拡大されることにより得られる拡大画像が表示されるべき表示面から当該拡大画像を見るべき人間の視点までの視線距離を計測する計測手段と、
前記視線距離に基づき前記識別性判断手段による前記識別性の判断基準を調節する調節手段とを更に備えることを特徴とする。
【0029】
第12の発明は、第1の発明において、
前記原画像を複数の部分画像に分割する分割手段と、
前記分割手段によって得られる各部分画像につき、人間の視覚特性に基づいて識別性を前記識別性判断手段に判断させ、当該判断された識別性に応じた態様で前記拡大処理手段に当該部分画像を拡大させる制御手段とを備えることを特徴とする。
【0030】
第13の発明は、画像を拡大するための画像処理方法であって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断ステップと、
人間の視覚特性に基づいて判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理ステップとを備えることを特徴とする。
【0031】
第14の発明は、画像を拡大するための画像処理プログラムであって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断ステップと、
人間の視覚特性に基づいて判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理ステップと
をコンピュータに実行させることを特徴とする。
【0032】
第15の発明は、第14の発明において、
前記拡大処理ステップは、
人間の視覚特性に基づいて判断された前記識別性に応じて、予め用意された互いに種類の異なる複数の画像拡大処理の中からいずれかの画像拡大処理を選択する選択ステップと、
前記選択された画像拡大処理によって前記原画像を拡大する画像拡大ステップとを含むことを特徴とする。
【0033】
【発明の実施の形態】
以下、本発明の実施の形態について図面を参照して説明する。
<1.第1の実施形態>
<1.0 概略構成および原理>
図1は、本発明の第1の実施形態に係る画像拡大装置の概略構成を示すブロック図である。この画像拡大装置は、デジタル画像を拡大するための画像処理装置であって、デジタル画像を原画像として入力する入力部1と、人間の視覚の階調特性からみて目立ち難いすなわち人間の視覚による識別性が低い画像パターンの領域(画像部分または要素画像)であるか否か、または、目立ち易いすなわち識別性が高い画像パターンの領域(画像部分または要素画像)であるかどうかを判断する識別性判断部2と、その判断結果に応じた拡大処理によって原画像を拡大した画像を生成する拡大処理部3と、生成された拡大画像を出力する出力部4とを備えている。
【0034】
人間の視覚は、既存の文献(例えば、岩本明人著「デジタルハードコピー技術」、共立出版、2000年11月15日、p.83−p.84)に示されているように、画像の空間周波数が高くなると識別できる階調数が低下するという階調特性すなわち図2に示すような階調特性を有している。この階調特性を利用して限られた色濃度を人間の識別能力以上の高周波領域で変化させて擬似的に中間濃度を実現しているものが、プリンタやディスプレイ装置などで使用されているディザ法や誤差拡散法などのデジタルハーフトーニング技術である。なお、以下において「周波数」とは、特に断らない限り空間周波数を意味するものとする。
【0035】
このような人間の視覚の階調特性を利用して、拡大すべき原画像に含まれるパターンについての識別性を判断し、その原画像において目立つパターン(識別し易いパターンすなわち識別性の高いパターン)と目立たないパターン(識別し難いパターンすなわち識別性の低いパターン)とを判別することが可能である。そして、その原画像に含まれるパターンの識別性についての判断結果に基づき、識別し難いパターンについては識別し難いままのパターンで拡大し、識別し易いパターンについてはエッジのジャギーやボケを低減するために高周波成分を強調・付加または補償する画像拡大処理の従来手法を選択すれば、上記課題で挙げた画質劣化が少ない拡大画像を得ることができる。以下、このような原理に基づく本実施形態に係る画像拡大装置につき各部の詳細を説明する。
【0036】
<1.1 入力部>
本実施形態における入力部1は、本実施形態に係る画像拡大装置によって拡大すべき原画像を入力するためのインターフェースとして機能する部分であって、原画像を表すデータまたは信号を外部から受け取り、画像拡大装置内部での処理に適した形式のデジタル画像データまたはデジタル画像信号に変換して識別性判断部2へ与える。
【0037】
<1.2 識別性判断部>
<1.2.1 第1の構成例>
図3は、本実施形態における識別性判断部2の第1の構成例を示すブロック図である。識別性判断部2は、入力部1から与えられる画像データまたは画像信号が示す原画像に含まれるパターンの識別性を判断する部分であって、周波数領域変換部20と、閾値処理部21と、判断出力部22と、閾値調節部23とを備えている。
【0038】
周波数領域変換部20は、周波数領域で変換(フーリエ変換、デジタルコサイン変換(DCT)、またはウェーブレット変換等)を行うことにより原画像を複数の要素画像に分解する分解手段として機能する。本実施形態では、原画像の周波数帯域を複数の小帯域に分割し、原画像を各小帯域に対応する周波数成分へと変換することで、原画像を複数の要素画像に分解する。具体的には、例えば図4に示すようにローパスフィルタ(低域通過フィルタ)41とハイパスフィルタ(高域通過フィルタ)42とからなる帯域2分割フィルタバンク40により、原画像を表すデジタル信号x(n)を、低周波成分に相当する要素画像を表すデジタル信号yl(n)と、高周波成分に相当する要素画像を表すデジタル信号yh(n)とに分割する。なお以下では、説明の便宜上、画像とその画像を表す信号とを区別しないものとする。したがって、上記帯域2分割フィルタバンク40によれば、原画像が低周波成分の要素画像yl(n)と高周波成分の要素画像yh(n)に分割されたことになる。
【0039】
図5は、上記帯域2分割フィルタバンク40のフィルタ特性図(振幅応答特性を示す図)である。このフィルタ特性図において、横軸は角周波数ωを表しており、2πをデジタル画像x(n)のサンプリング周波数とする。この場合、「原信号に含まれる周波数成分をすべて正確にサンプリングするためには、原周波数の2倍以上のサンプリング周波数が必要である」という標本化定理により、ω=πがデジタル画像x(n)で表現できる最大周波数となる。
【0040】
図5に示すフィルタ特性図からわかるように、或る周波数ωTを境にその周波数ωT以下の周波数成分をもつ画像(要素画像)とその周波数ωT以上の周波数成分をもつ画像(要素画像)とに切り分けることができる。すなわち、周波数ωTを人間の視覚特性に基づき識別し難くなる周波数閾値として設定してフィルタを設計すれば、ハイパスフィルタ42によって帯域分割された画像yh(n)は、識別し難い周波数領域に該当する画像パターンを示している。なお、図5に示すように、ローパスフィルタ41のフィルタ特性とハイパスフィルタ42のフィルタ特性とは、情報損失が生じないように互いに重なりあっている。そのため、ハイパスフィルタ42側のカットオフ周波数をωTとし、ローパスフィルタ41側のカットオフ周波数はωTより少し大きい周波数となるように、帯域2分割フィルタバンク40を設計するとよい。
【0041】
ところで、図2で示したように人間の視覚は、画像の空間周波数が高くなる程、識別できる階調数が減っていくという階調特性を有していることが知られている。逆に階調変化が激しいと空間周波数が高くても所定範囲内であれば識別し易いパターンとなっていると考えられる。そのため、視覚特性により近い識別性判断処理を行うために、本実施形態における閾値処理部21は、上記ハイパスフィルタ42によって帯域分割された画像yh(n)の振幅を適切な閾値Thと比較し、閾値Thよりも振幅が大きい画素があれば目立ち易い(識別し易いすなわち識別性が高い)画素が存在すると判断し、閾値Thよりも振幅が小さい画素があれば目立ち難い(識別し難いすなわち識別性が低い)画素が存在すると判断する処理を行う。
【0042】
図6は、或る原画像を表すデジタル画像信号x(n)が上記フィルタバンク40に入力されたときに帯域分割されて出力される高周波成分のデジタル信号yh(n)の振幅を閾値処理している様子を示している。すなわち、図6(a)に示すようなデジタル画像信号x(n)がフィルタバンク40に入力されると、図6(b)に示すような低周波成分に相当するデジタル信号yl(n)と図6(c)に示すような高周波成分に相当するデジタル信号yh(n)とがフィルタバンク40から出力される。閾値処理部21は、低周波成分に相当するデジタル信号yl(n)の表す要素画像のパターンの識別性は高いと判断すると共に、高周波成分に相当するデジタル信号yh(n)の表す要素画像のパターンについては、閾値Thよりも大きい振幅の画素のみ識別性が高いと判断して図6(d)に示すような信号を生成する。すなわち、高周波成分に相当するデジタル信号yh(n)の表す要素画像のパターンについては、閾値Thよりも大きい振幅の画素からなるパターンである大振幅パターンと閾値Th以下の振幅の画素からなるパターンである小振幅パターンとに分離し、大振幅パターンの識別性は高く、小振幅パターンの識別性は低いと判断する。なお、図6(a)〜(c)は、説明の便宜のため、本実施形態の入力画像である原画像を1次元でスライスした簡単な輝度振幅でデジタル画像信号を表しているものとする。
【0043】
周波数領域変換部20としてのフィルタバンクは、図4に示す上記の帯域2分割フィルタバンク40に限定されるものではない。図7は、周波数領域変換部20としてのフィルタバンクの他の構成例を示すブロック図であり、この構成例では、周波数領域変換部20は、n個の帯域通過フィルタ430,431,…,43(n−1)からなる帯域n分割フィルタバンク43として実現されている。図7においてHはフィルタの伝達関数を示しており、H0が低周波側のフィルタ430の伝達関数を、Hn−1が高周波側のフィルタ43(n−1)の伝達関数を、それぞれ示している。図8は、この帯域n分割フィルタバンク43のフィルタ特性図(振幅応答特性を示す図)である。この構成例では、図8に示すように周波数の閾値の候補がωT1からωT(n−1)まで与えられ、外部からの閾値変更の要求に対して、フィルタを設計しなおさなくても、この周波数の閾値候補ωT1からωT(n−1の中からいずれかを周波数閾値として選択することができる。すなわち、n個の周波数の閾値候補の間で周波数閾値を切り換えることができ、これにより、n個の周波数成分に相当するn個の要素画像を識別性の高いグループと識別性の低いグループとに分類するための基準すなわち識別性判断の基準を変更することができる。また、それぞれのフィルタ430,431,…,43(n−1)ごとに振幅の閾値を設定することで、よりきめ細かく視覚特性を表現することができる。
【0044】
閾値調節部23は、原画像に含まれるパターンについて識別性を正確に判断するために、外部からの操作または制御信号に基づき閾値Thを調節する。例えば、拡大すべき原画像が動画の場合は、静止画の場合よりも振幅の閾値Thを大きくするように調節するのが好ましい。また、拡大された画像が表示または出力される周囲の環境や原画像の種類等に応じて閾値Thを調節するようにしてもよい。さらに、周波数領域変換部205が図7に示すように帯域n分割フィルタバンク43として実現されている場合には、閾値調節部23が、閾値Thを調節することに代えて又はそれに加えて、周波数の閾値候補ωT1〜ωT(n−1の中からいずれかを周波数閾値として選択することで、識別性判断の基準を切り替えるようにしてもよい。この場合において例えば周波数の閾値ωTkが選択されたときには(0≦k≦n−1)、フィルタ430〜430kから出力されるデジタル信号y0(n)〜yk(n)の表す要素画像のパターンは識別性が高いと判断されることになる。なお、拡大すべき原画像が動画のときは、静止画のときよりも小さい周波数閾値を選択するのが好ましい。
【0045】
判断出力部22は、上記のような閾値処理部21による処理結果に基づき、拡大すべき原画像に含まれるパターンの識別性についての判断結果を出力する。例えば、図6(a)に示す信号に対応する原画像が識別性判断部2に入力された場合には、図6(b)に示す低周波成分に相当するデジタル信号yl(n)の表す要素画像のパターンと図6(d)に示す信号の表す画像パターンとについては識別性が高いと判断され、図6(c)に示す高周波成分に相当するデジタル信号yh(n)の表す要素画像のパターンのうち図6(d)に示す信号の表す画像パターン以外については識別性が低いと判断される。
【0046】
<1.2.2 第2の構成例>
図9は、本実施形態における識別性判断部2の第2の構成例を示すブロック図である。この構成例における識別性判断部2は、人間の視覚特性を近似した特性をもつフィルタ24と、原画像をフィルタ24に通した画像と原画像との差分を生成する差分生成部25と、生成された差分に基づき原画像におけるパターンの識別性についての判断結果を出力する判断出力部26と、フィルタ24のフィルタ特性を調節するフィルタ調節部27とを備えている。
【0047】
上記構成においてフィルタ24は、人間の視覚特性(周波数特性を含む)を近似したフィルタ特性を有している。このため、フィルタ24を通過した後の原画像(以下「フィルタ処理後の原画像」という)では、図2に示した視覚の階調特性に応じて、フィルタ24を通過する前の原画像(以下「フィルタ処理前の原画像」という)の周波数成分のうち視覚的に識別し難い周波数成分が減衰している。したがって、フィルタ処理後の原画像とフィルタ処理前の原画像との差分をとることで、視覚的に識別し難さの程度を示す量としての差分量を原画像の各位置において得ることができる。この差分量の値により原画像を識別し易い領域(識別性の高い領域)と識別し難い領域(識別性の低い領域)とに切り分けることができる。判断出力部26は、差分生成部25から出力される原画像の各位置における差分量に基づき、原画像に含まれるパターン(領域)の識別性についての判断結果を出力する。したがって、判断出力部26は、原画像における識別性を決定する識別性決定手段と言えるものであり、その具体的構成としては、例えば、差分生成部25からの差分量についての閾値Dthを予め設定しておき、その差分量に基づき原画像におけるパターンの識別性について判断する際に、原画像のうち差分量が閾値Dthよりも大きい領域については識別性が低いとする判断結果を出力し、差分量が閾値Dth以下である領域については識別性が高いとする判断結果を出力するようにすればよい。
【0048】
フィルタ調節部27は、外部からの操作または制御信号に応じてフィルタ24の係数を変えることによりフィルタ24のフィルタ特性を調節する。例えば拡大すべき原画像が動画か静止画かに応じてフィルタ特性を調節したり、拡大画像が表示または出力される周囲の環境や原画像の種類等に応じてフィルタ特性を調節したりすることで、拡大画像を見ている人にとって好適なフィルタ特性を設定することができる。
【0049】
なお、上述のように、差分生成部25からの差分量が閾値Dthよりも大きいか否かにより原画像における識別性についての判断結果が決まる構成の場合には、その差分量についての閾値Dthを好適に設定できるように、この閾値Dthを調節する閾値調節手段を設けることが好ましい。
【0050】
<1.3 拡大処理部>
<1.3.1 第1の構成例>
図10は、本実施形態における拡大処理部3の第1の構成例を示すブロック図である。この拡大処理部3は、原画像の空間周波数を維持して原画像を拡大する空間周波数維持画像拡大部30と、原画像のエッジを強調して画像拡大を行うエッジ強調画像拡大部31と、空間周波数維持画像拡大部30およびエッジ強調画像拡大部31によって得られる拡大画像の間で原画像の拡大画像を構成すべき画像を選択する選択部32とを備えている。
【0051】
上記構成における選択部32は、拡大処理部3の前段である識別性判断部2により原画像のうち識別し難い(識別性が低い)と判断された要素画像(周波数成分)またはパターン(領域)については空間周波数維持画像拡大部30によって得られる拡大画像を選択し、識別性判断部2により原画像のうち識別し易い(識別性が高い)と判断された要素画像(周波数成分)またはパターン(領域)についてはエッジ強調画像拡大部31によって得られる拡大画像を選択する。したがって、原画像において識別し難いと判断された要素画像(周波数成分)またはパターン(領域)については、図11(a)に示すように、空間周波数を維持して拡大することで拡大後も識別し難い状態にすることができる。また、原画像において識別し易いと判断された要素画像(周波数成分)またはパターン(領域)については、図11(b)に示すように、エッジを強調して画像拡大を行うことで、エッジのボケを改善した拡大画像を得ることができる。なお、出力部4は、このようにして選択された拡大画像(原画像に含まれる要素画像(周波数成分)またはパターン(領域)の拡大画像)を空間周波数維持画像拡大部30およびエッジ強調画像拡大部31から受け取り、これらを合成(加算)することにより原画像全体の拡大画像を出力する。
【0052】
上記のように識別性についての判断結果に応じて画像拡大の態様(本例では画像拡大処理の手法)が選択されることにより、原画像を拡大した画像として画質劣化の少ない拡大画像を得ることができる。ただし、ここでは、識別し易いと判断された画像パターンの拡大方法としてはエッジのジャギーやボケを改善する手法を用いるということを示しているだけであり、本発明はその具体的な処理方法を限定するものではない。
【0053】
<1.3.2 第2の構成例>
図12は、本実施形態における拡大処理部3の第2の構成例を示すブロック図である。この拡大処理部3は、原画像を人間の視覚の周波数特性を近似したフィルタ特性を有するフィルタ(以下「視覚特性フィルタ」という)33と、原画像に視覚特性フィルタ33を通過させることにより得られる画像(以下「フィルタ処理画像」という)と原画像とのいずれかを選択する選択部34と、選択された画像に対しエッジを強調して画像拡大を行うエッジ強調画像拡大部35とを備えている。
【0054】
上記構成における選択部34は、拡大処理部3の前段である識別性判断部2により識別し難い(識別性が低い)と判断された場合には、識別性が低いと判断されたパターンまたは領域である画像部分に対応するフィルタ処理画像の画像部分を選択し、識別性判断部2により識別し易い(識別性が高い)と判断された場合には、原画像のうち識別性が高いと判断されたパターンまたは領域である画像部分を選択する。エッジ強調画像拡大部35は、このようにして選択された画像部分からなる画像に対しエッジを強調して画像拡大を行うことにより、原画像の拡大画像を得る。
【0055】
上記構成によれば、視覚特性フィルタ33を通過した後の画像であるフィルタ処理画像は、視覚的に識別し難い周波数成分が減衰しているので、原画像のうち識別し難い領域が平滑化された画像となっている。そして、この平滑化された領域の濃度値は、人間の視覚を介して観察された原画像の濃度値と等しくなる。このように、原画像において識別し難いと判断されたパターンまたは領域については視覚特性フィルタ33の通過によって平滑化されるので、この視覚特性フィルタ33を通過した後の画像を拡大処理すれば目障りな模様が現れることもない。したがって、選択部34によって選択された画像をエッジ強調画像拡大部35によって拡大することにより、原画像の拡大画像として画質劣化の少ない画像を得ることができる。なお、原画像において識別し易いと判断されたパターンまたは領域については、視覚特性フィルタ33を通過することなくエッジ強調画像拡大部35によって処理されるので、画像のエッジのジャギーやボケの発生を抑えつつ拡大処理が行われる。
【0056】
<1.4 出力部>
本実施形態における出力部4は、上記のように構成された拡大処理部3から出力される画像からなる拡大画像を原画像の拡大画像として出力する。このとき出力部4は、本実施形態に係る画像拡大部の出力先(ディスプレイ装置またはプリンタなど)に応じた形式の画像データまたは画像信号として出力する。
【0057】
<1.5 効果>
上記のような本実施形態によれば、原画像におけるパターンまたは領域(各要素画像または各画像部分)について人間にとっての識別性に応じた手法により画像拡大が行われるか、または、当該識別性の低い領域については平滑化がされた後にエッジを強調した画像拡大が行われる。これにより、人間の視覚の階調特性の観点から識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。したがって、画像のエッジのジャギーやボケを改善する従来の拡大手法を利用しつつ、拡大前の原画像に含まれる視覚的に目立ち難いノイズや模様などの画像パターンを拡大後も目立たないようにすることができ、その結果、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0058】
<1.6 第1の実施形態の変形例>
上記第1の実施形態では、画像拡大装置の各部が専用ハードウェアにより実現されることを前提としている。しかし、コンピュータに所定プログラムを実行させることにより、ソフトウェア的に画像拡大装置の一部または全部を実現してもよい。例えば、上記第1の実施形態において拡大処理部3をソフトウェア的に実現してもよい。この場合、図10に示した構成とは異なり、空間周波数維持画像拡大処理とエッジ強調画像拡大処理という2種類の画像拡大処理のうちいずれかの処理が識別性の判断結果に応じて選択されて、選択された画像拡大処理が実行されるが、空間周波数維持画像拡大とエッジ強調画像拡大とは通常、同時には行われない。なお、画像拡大装置全体をソフトウェア的に実現する場合については、本発明の第4の実施形態として後述する。
【0059】
また、上記第1の実施形態では、人間の視覚の階調特性に基づき原画像におけるパターン(要素画像(周波数成分)または画像部分(領域))の識別性が判断されるが、この階調特性以外の他の視覚特性に基づき原画像における識別性を判断してもよい。
【0060】
さらに、上記第1の実施形態では、原画像における識別性についての判断結果として、識別性が高い(識別し易い)という判断結果と識別性が低い(識別し難い)という判断結果との2種類の判断結果が得られるが、例えば閾値を2つ以上設定することにより識別性につき3種類以上の判断結果が得られるようにしてもよい。
【0061】
<2.第2の実施形態>
図13は、本発明の第2の実施形態に係る画像拡大装置の概略構成を示すブロック図である。この画像拡大装置は、それによって得られる拡大画像を表示するディスプレイ装置において使用されることを前提としており、図1に示した第1の実施形態に係る画像拡大装置に対し、拡大画像を表示している表示面からそれを見ている人間の視点までの視線距離を計測する視線距離計測部28と、その計測結果から上記識別性判断部の特性を調節する識別性判断調節部29とを付加した構成となっている。本実施形態における他の構成要素および他の構成要素の詳細構成は第1の実施形態と同様であるので(図1、図3、図9、図10、図12等)、同一部分には同一の参照符号を付して説明を省略する。
【0062】
人間の視覚の階調特性では、視線距離が長ければ画像パターンの識別能力が低下するのは明らかであり、視線距離が短ければ画像パターンの識別能力が高くなるのも明らかである。そこで本実施形態では、視線距離計測部28によって計測された視線距離が長くなれば、原画像において識別し難い(識別性が低い)と判断される領域が多くなり、その計測された視線距離が短くなれば、原画像において識別し難い(識別性が低い)と判断される領域が少なくなるように、識別性判断調節部29により識別性判断部2の特性すなわち識別性の判断基準を調節する。識別性判断部2の特性(識別性の判断基準)を調節するには、例えば、図3に示す構成の場合には、閾値調節部23を介して振幅の閾値Thや周波数の閾値ωTを調節し、図9に示す構成の場合には、フィルタ調節部27を介してフィルタ24のフィルタ特性を調節すればよい。
【0063】
上記構成によれば、拡大画像が表示されるべき表示面からそれを見ている人間の視点までの視線距離に応じて、人間の視覚の階調特性と同様に識別性が調節されるので、現在の視線距離に適応した画質劣化の少ない拡大画像を得ることができる。
【0064】
<3.第3の実施形態>
図14は、本発明の第3の実施形態に係る画像拡大装置の概略構成を示すブロック図である。この画像拡大装置は、図1に示した第1の実施形態に係る画像拡大装置と同様に入力部1と識別性判断部2と拡大処理部3と出力部4とを備え、これらに加えて、原画像をN×N個のブロックとしての部分画像に分割する画像分割部5と、各部分画像の拡大画像を統合する画像統合部7と、画像分割部5、識別性判断部2、拡大処理部3および画像統合部7を制御する制御部6とを備えている。
【0065】
上記構成における制御部6は、原画像をN×N個のブロック(部分画像)へと画像分割部5に分割させ、各ブロック(部分画像)に対し識別性判断部2によって識別性を判断させた後に拡大処理部3にその判断結果に応じた拡大処理を行わせ、拡大された各部分画像を画像統合部7に統合させるものであり、このための各ブロックについての繰り返し処理(識別性判断および拡大処理の繰り返し)を制御する。
【0066】
上記のような本実施形態によれば、拡大すべき原画像がN×N個のブロックに分割され、各ブロックに対して識別性判断処理や画像拡大処理が順次行われることで、一度に処理するデータ量が限定される。このため、画像拡大装置において画像処理に必要なメモリ量および回路量を削減することができる。また、N×N個のブロックのそれぞれに対する識別性判断処理や画像拡大処理を並列化することにより、画像拡大装置の処理時間を短縮することも可能である。
【0067】
さらに、本実施形態によれば、第1の実施形態と同様、人間の視覚の階調特性からみた原画像の画像パターンの識別性についての判断結果に基づき、識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われるので、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0068】
なお、本実施形態では、原画像は画像分割部5によってN×N個のブロックに分割されるが、縦方向(垂直方向)の分割数と横方向(水平方向)の分割数とが異なっていてもよい。すなわち、原画像が画像分割部5によってN×M個(N≠M)のブロックに分割される構成であってもよい。
【0069】
<4.第4の実施形態>
次に、本発明の第4の実施形態に係る画像拡大装置について説明する。この画像拡大装置は、ハードウェア的には中央処理装置としてのCPUとメモリなどからなるコンピュータ(例えば1チップのマイクロコンピュータ)であって、メモリに格納された所定の画像処理プログラム(以下「画像拡大処理プログラム」という)をCPUが実行することにより、上記第1の実施形態に係る画像拡大装置の機能と同様の機能がソフトウェア的に実現される。なお、ディスプレイ装置で表示すべき画像を本発明の画像拡大装置によって生成する場合には、通常、リアルタイムで拡大画像を生成しなければならないが、プリンタに出力すべき画像を本発明の画像拡大装置によって生成する場合には、リアルタイムでの処理は必ずしも必要ではない。したがって、後者の場合には、本実施形態のようにハードウェアとしてのコンピュータ(マイコンなど)を前提としてソフトウェア的に画像拡大装置を実現することができる。
【0070】
図15は、本実施形態における画像拡大装置による処理手順すなわち上記画像拡大処理プログラムP1に基づくCPUの動作を示すフローチャートである。この画像拡大装置におけるCPUは、上記画像拡大処理プログラムP1に基づき以下のように動作する。
【0071】
まず、原画像入力処理を実行する(ステップS1)。この原画像入力処理では、外部から与えられる原画像を表す画像データ(以下「入力画像データ」という)を、上記コンピュータを構成するメモリ内に設けられた入力バッファに格納する。
【0072】
次に、その入力画像データに対して識別性判断処理を実行する(ステップS2)。この識別性判断処理では、入力画像データの示す原画像に視覚特性(具体的には視覚の階調特性)の観点から識別し難いパターン(識別性の低いパターン)が存在する領域を判別し、その存在を示すフラグを設定する。このフラグは原画像の画素数だけ設けられ、原画像の各画素に1つのフラグが対応するように構成されていてもよいし、原画像において識別し難い領域を示す座標値をフラグの値として設定するようにしてもよい。
【0073】
次に、入力画像データの示す原画像に対して、人間の視覚特性に基づく識別性に応じた拡大処理を実行する(ステップS9)。この拡大処理では、CPUは下記のように動作する。
【0074】
まず、入力画像データの示す原画像における任意の1画素を選択する(ステップS3)。次に、この選択画素に対応する上記フラグの値を参照することにより、この選択画素が識別し難いか否か(識別性が低いか否か)を判定する(ステップS4)。この判定の結果、選択画素が識別し難いパターンの存在する領域における画素である場合は、その選択画素に対し識別し難いまま拡大する処理すなわち空間周波数維持拡大処理を行い(具体的には選択画素の周辺画素の値も考慮しつつ選択画素に対する拡大処理を行う。図11(a)参照)。)、この拡大処理によって得られた画像データを上記メモリ内に設けられた出力バッファに保存する(ステップS5)。一方、上記判定の結果、選択画素が識別し難いパターンの存在する領域における画素ではない場合、すなわち識別し易いパターンの存在する領域における画素である場合は、エッジを補償した拡大処理すなわちエッジ強調画像拡大処理を行い(具体的には選択画素の周辺画素の値も考慮しつつ選択画素に対する拡大処理を行う。図11(b)参照。)、この拡大処理によって得られた画像データを上記出力バッファに保存する(ステップS6)。なお、ここでいうエッジの補償とは、従来技術が目的としていたように画像拡大後にエッジのジャギーやボケが少なくなるような手法のことをいう。
【0075】
上記ステップS5またはS6の画像拡大処理が行われると、その後、入力画像データの示す原画像の全ての画素が選択されたか否かを判定する(ステップS7)。この判定の結果、その原画像において未選択の画素があれば、ステップS3へ戻り、未選択の画素の中から任意の1画素を選択し、その新たな選択画素につき、ステップS3以降のステップを実行する。以後、入力画像データの示す原画像において未選択の画素が存在する限り、ステップS3〜S7を繰り返し実行し、この間にその原画像において未選択の画素が無くなればステップS8へ進む。
【0076】
ステップS8へ進んだ時点では、入力画像データの示す原画像の拡大画像を表すデータが上記出力バッファに格納されており、ステップS8では、この拡大画像を表すデータを出力する。
【0077】
上記のような本実施形態によれば、第1の実施形態と同様、人間の視覚特性(視覚の階調特性)の観点から識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。したがって、画像のエッジのジャギーやボケを改善する従来の拡大手法を利用しつつ、拡大前の原画像に含まれる視覚的に目立ち難いノイズや模様などの画像パターンを拡大後も目立たないようにすることができる。
【0078】
ところで上記実施形態では、第1の実施形態に係る画像拡大装置の機能と同様の機能がソフトウェア的に実現されるが、第3の実施形態に係る画像拡大装置(図14)の機能と同様の機能をソフトウェア的に実現する構成としてもよい。この場合、上記実施形態と同様のハードウェア構成で、CPUが図16に示すような分割画像拡大処理プログラムを実行するようにすればよい。この分割画像拡大処理プログラムによれば、CPUは、まず、拡大すべき原画像をN×N個のブロック(部分画像)に分割する(ステップS10)。次に、各ブロックの部分画像を表す画像データを入力画像データとして、図15に示した上述の画像拡大処理プログラムP1による処理を実行することにより、各部分画像の拡大画像を表すデータを拡大部分画像データとして生成する。そして、各拡大部分画像データを統合することにより、原画像の拡大画像を表す画像データを生成する(ステップS11)。
【0079】
【発明の効果】
第1の発明によれば、人間の視覚特性に基づく識別性に応じた態様(例えば識別性に応じた画像拡大手法)で原画像が拡大されるので、人間にとって識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理を行うことにより、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0080】
第2の発明によれば、画像の空間周波数が高くなると識別できる階調数が低下するという視覚の階調特性に基づき原画像における識別性が判断され、この識別性に応じた態様で原画像が拡大されることで、第1の発明と同様の効果が得られる。
【0081】
第3の発明によれば、空間周波数に基づき原画像が複数の要素画像に分解され、各要素画像について人間の視覚特性に基づく識別性が判断され、各要素画像がその識別性に応じた態様で拡大された後に合成されることにより原画像の拡大画像が生成される。これにより第1の発明と同様の効果が得られる。
【0082】
第4の発明によれば、第3の発明において識別性を決定するための閾値が調節手段によって適切に調節されることで、原画像において人間の視覚特性に基づく識別性をより正確に判断することが可能となる。
【0083】
第5の発明によれば、人間の視覚特性を近似したフィルタ特性を有するフィルタ手段に原画像を通すことにより得られる画像と原画像との差分に基づき原画像における識別性が決定され、この識別性に応じた態様で原画像が拡大される。これにより第1の発明と同様の効果が得られる。
【0084】
第6の発明によれば、第5の発明においてフィルタ手段のフィルタ特性が適切に調節されることで、原画像において人間の視覚特性に基づく識別性をより正確に判断することが可能となる。
【0085】
第7の発明によれば、識別性判断手段によって判断された識別性に応じて、原画像の拡大画像を生成すべき画像拡大手段が複数の画像拡大手段の中から選択されることで、人間の視覚特性に基づく識別性に応じた態様で原画像が拡大される。これにより第1の発明と同様の効果が得られる。
【0086】
第8の発明によれば、人間の視覚特性に基づき、識別性が低い場合には原画像の空間周波数を維持して画像拡大が行われ、識別性が高い場合には原画像のエッジを強調して画像拡大が行われるので、人間にとって識別し難く目立ち難いパターンについては目立ちに難いまま拡大処理が行われ、識別し易く目立つパターンについてはエッジを強調する拡大処理が行われる。これにより、画像のエッジのジャギーやボケを改善する従来の拡大手法を利用しつつ、拡大前の原画像に含まれる視覚的に目立ち難いノイズや模様などの画像パターンを拡大後も目立たないようにすることができる。その結果、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を改善することができる。
【0087】
第9の発明によれば、原画像のうち人間にとって識別性の低い部分についてはフィルタ処理によって平滑化された後に画像拡大が行われるので、拡大処理によって目障りな模様が現れることはなく、原画像の拡大画像における画質劣化を低減することができる。
【0088】
第10の発明によれば、原画像のうち人間にとって識別性の低い部分についてはフィルタ手段によって平滑化された後に画像拡大が行われ、原画像のうち人間にとって識別性の高い部分についてはフィルタ手段を通すことなく画像拡大が行われ、しかも、画像拡大には画像のエッジを強調する拡大手法が使用される。このため、拡大前に識別し難いノイズや模様を拡大したときに起こる画質劣化を抑えつつ、画像拡大に起因するエッジのジャギーやボケを改善することができる。
【0089】
第11の発明によれば、拡大画像が表示されるべき表示面からそれを見ている人間の視点までの視線距離に応じて、人間の視覚の階調特性と同様に識別性が調節されるので、現在の視線距離に適応した画質劣化の少ない拡大画像を得ることができる。
【0090】
第12の発明によれば、原画像の分割によって得られる各部分画像につき、人間の視覚特性に基づいて識別性が判断され、判断された識別性に応じた態様で当該部分画像が拡大されるので、原画像を拡大するための画像処理に必要なメモリ量および回路量を削減することができる。また、複数の部分画像のそれぞれに対する識別性判断処理や画像拡大処理を並列化することにより、画像拡大装置の処理時間を短縮することができる。
【0091】
第13の発明によれば、第1の発明と同様の効果を奏する。
第14の発明によれば、第1の発明と同様の効果を奏する。
第15の発明によれば、第7の発明と同様の効果を奏する。
【図面の簡単な説明】
【図1】本発明の第1の実施形態に係る画像拡大装置の概略構成を示すブロック図である。
【図2】視覚の階調特性を示す特性図である。
【図3】第1の実施形態における識別性判断部の第1の構成例を示すブロック図である。
【図4】第1の実施形態における周波数領域変換部の一例である帯域2分割フィルタバンクの構成を示すブロック図である。
【図5】上記帯域2分割フィルタバンクのフィルタ特性図である。
【図6】第1の実施形態における上記帯域2分割フィルタバンクおよび閾値処理部の動作を説明するための図である。
【図7】第1の実施形態における周波数領域変換部の他の例である帯域n分割フィルタバンクの構成を示すブロック図である。
【図8】上記帯域n分割フィルタバンクのフィルタ特性を示す周波数特性図である。
【図9】第1の実施形態における識別性判断部の第2の構成例を示すブロック図である。
【図10】第1の実施形態における拡大処理部の第1の構成例を示すブロック図である。
【図11】第1の実施形態における空間周波数維持拡大処理とエッジ強調拡大処理との相違を説明するための図である。
【図12】第1の実施形態における拡大処理部の第2の構成例を示すブロック図である。
【図13】本発明の第2の実施形態に係る画像拡大装置の概略構成を示すブロック図である。
【図14】本発明の第3の実施形態に係る画像拡大装置の概略構成を示すブロック図である。
【図15】本発明の第4の実施形態における画像拡大処理プログラムの処理手順を示すフローチャートである。
【図16】本発明の第4の実施形態の変形例における分割画像拡大処理プログラムの処理手順を示すフローチャートである。
【図17】従来技術であるニアレストネイバー補間法を説明するための図である。
【図18】従来技術であるバイリニア補間法を説明するための図である。
【図19】従来技術であるキュービックコンボリューション補間法を説明するための図である。
【図20】識別性の低い画像パターンを従来技術で縦横2倍拡大した例を示す図である。
【図21】従来技術で1画素の画像を横1.5倍拡大した例を示す図である。
【符号の説明】
1 …入力部
2 …識別性判断部
3 …拡大処理部
4 …出力部
5 …画像分割部
6 …制御部
7 …画像統合部
20 …周波数領域変換部(分解手段)
21 …閾値処理部
22 …判断出力部
23 …閾値調節部
24 …フィルタ
25 …差分生成部
26 …判断出力部(識別性決定手段)
27 …フィルタ調節部
28 …視線距離計測部
29 …識別性判断調節部
30 …空間周波数維持画像拡大部(第1の画像拡大手段)
31 …エッジ強調画像拡大部(第2の画像拡大手段)
32 …選択部
33 …視覚特性フィルタ
34 …選択部
35 …エッジ強調画像拡大部
40 …帯域2分割フィルタバンク
43 …帯域n分割フィルタバンク
Claims (15)
- 画像を拡大するための画像処理装置であって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断手段と、
前記識別性判断手段によって判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理手段と
を備えることを特徴とする画像処理装置。 - 前記識別性判断手段は、前記識別性を人間の視覚の階調特性に基づいて判断することを特徴とする、請求項1に記載の画像処理装置。
- 前記識別性判断手段は、
前記原画像を空間周波数に基づき複数の要素画像に分解する分解手段と、
前記複数の要素画像を人間の視覚特性に基づく所定の閾値で分類することにより各要素画像の識別性を決定する閾値処理手段とを含み、
前記拡大処理手段は、前記分解手段によって得られる各要素画像を当該各要素画像につき前記閾値処理手段によって決定された識別性に応じた態様で拡大し、拡大後の各要素画像を合成することにより前記原画像の拡大画像を生成することを特徴とする、請求項1に記載の画像処理装置。 - 前記所定の閾値を調節するための調節手段を更に備えることを特徴とする、請求項3に記載の画像処理装置。
- 前記識別性判断手段は、
人間の視覚特性を近似したフィルタ特性を有するフィルタ手段と、
前記原画像に前記フィルタ手段を通過させることにより得られる画像と前記原画像との差分を生成する差分生成手段と、
前記差分に基づき前記原画像における前記識別性を決定する識別性決定手段とを含むことを特徴とする、請求項1に記載の画像処理装置。 - 前記フィルタ手段が有するフィルタ特性を調節するための調節手段を更に備えることを特徴とする、請求項5に記載の画像処理装置。
- 前記拡大処理手段は、
互いに異なる種類の画像拡大処理を前記原画像に対して行う複数の画像拡大手段と、
前記識別性判断手段によって判断された前記識別性に応じて、前記原画像の拡大画像を生成すべき画像拡大手段を前記複数の画像拡大手段の中から選択する選択手段と
を含むことを特徴とする、請求項1に記載の画像処理装置。 - 前記識別性判断手段は、前記原画像において前記識別性が高いか低いかを判断し、
前記拡大処理手段は、前記複数の画像拡大手段として、前記原画像の空間周波数を維持して前記原画像を拡大する第1の画像拡大手段と、前記原画像のエッジを強調して前記原画像を拡大する第2の画像拡大手段とを含み、
前記選択手段は、前記識別性判断手段によって前記識別性が低いと判断された場合に前記第1の画像拡大手段を選択し、前記識別性判断手段によって前記識別性が高いと判断された場合に前記第2の画像拡大手段を選択することを特徴とする、請求項7に記載の画像処理装置。 - 前記識別性判断手段は、前記原画像において前記識別性が高いか低いかを判断し、
前記拡大処理手段は、前記識別性判断手段によって前記識別性が低いと判断された場合には、人間の視覚特性を近似したフィルタ特性によるフィルタ処理を行った後に画像拡大処理を行うことを特徴とする、請求項1に記載の画像処理装置。 - 前記拡大処理手段は、
人間の視覚特性を近似したフィルタ特性を有し前記原画像が通過するフィルタ手段と、
前記識別性判断手段によって前記識別性が低いと判断された場合に、前記原画像が前記フィルタ手段を通過することにより得られる画像のうち前記識別性が低いと判断された前記原画像の画像部分に対応する画像部分を選択し、前記識別性判断手段によって前記識別性が高いと判断された場合に、前記原画像のうち前記識別性が高いと判断された画像部分を選択する選択手段と、
前記選択手段によって選択された画像部分からなる画像に対し当該画像のエッジを強調して画像拡大を行う画像拡大手段と
を含むことを特徴とする、請求項9に記載の画像処理装置。 - 前記拡大処理手段によって前記原画像が拡大されることにより得られる拡大画像が表示されるべき表示面から当該拡大画像を見るべき人間の視点までの視線距離を計測する計測手段と、
前記視線距離に基づき前記識別性判断手段による前記識別性の判断基準を調節する調節手段と
を更に備えることを特徴とする、請求項1に記載の画像処理装置。 - 前記原画像を複数の部分画像に分割する分割手段と、
前記分割手段によって得られる各部分画像につき、人間の視覚特性に基づいて識別性を前記識別性判断手段に判断させ、当該判断された識別性に応じた態様で前記拡大処理手段に当該部分画像を拡大させる制御手段と
を備えることを特徴とする、請求項1に記載の画像処理装置。 - 画像を拡大するための画像処理方法であって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断ステップと、
人間の視覚特性に基づいて判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理ステップと
を備えることを特徴とする画像処理方法。 - 画像を拡大するための画像処理プログラムであって、
拡大すべき原画像における識別性を人間の視覚特性に基づいて判断する識別性判断ステップと、
人間の視覚特性に基づいて判断された前記識別性に応じた態様で前記原画像を拡大することにより前記原画像の拡大画像を生成する拡大処理ステップと
をコンピュータに実行させることを特徴とする画像処理プログラム。 - 前記拡大処理ステップは、
人間の視覚特性に基づいて判断された前記識別性に応じて、予め用意された互いに種類の異なる複数の画像拡大処理の中からいずれかの画像拡大処理を選択する選択ステップと、
前記選択された画像拡大処理によって前記原画像を拡大する画像拡大ステップと
を含むことを特徴とする、請求項14に記載の画像処理プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002296072A JP2004133592A (ja) | 2002-10-09 | 2002-10-09 | 画像を拡大するための画像処理装置および画像処理方法および画像処理プログラム |
US10/681,314 US20040179750A1 (en) | 2002-09-10 | 2003-10-09 | Image processing apparatus, image processing method and image processing program for magnifying an image |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002296072A JP2004133592A (ja) | 2002-10-09 | 2002-10-09 | 画像を拡大するための画像処理装置および画像処理方法および画像処理プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2004133592A true JP2004133592A (ja) | 2004-04-30 |
Family
ID=32286152
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2002296072A Pending JP2004133592A (ja) | 2002-09-10 | 2002-10-09 | 画像を拡大するための画像処理装置および画像処理方法および画像処理プログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US20040179750A1 (ja) |
JP (1) | JP2004133592A (ja) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007171199A (ja) * | 2005-12-21 | 2007-07-05 | General Electric Co <Ge> | 構成部品を試験するための渦電流検査システム |
JP2010016470A (ja) * | 2008-07-01 | 2010-01-21 | Nikon Corp | 画像復元方法、画像復元プログラム、および画像復元装置 |
US8805113B2 (en) | 2011-11-11 | 2014-08-12 | Mitsubishi Electric Corporation | Image processing device and method and image display device |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
FR2896324A1 (fr) * | 2006-01-17 | 2007-07-20 | St Microelectronics Sa | Procede de traitement, par exemple d'insertion des couleurs d'une image numerique et dispositif correspondant |
KR101051569B1 (ko) * | 2009-07-10 | 2011-07-25 | 삼성전기주식회사 | 영상 잡음 제거 장치 및 방법 |
JP5765893B2 (ja) * | 2010-06-16 | 2015-08-19 | キヤノン株式会社 | 画像処理装置、撮像装置および画像処理プログラム |
CN101866497A (zh) * | 2010-06-18 | 2010-10-20 | 北京交通大学 | 基于双目立体视觉的智能三维人脸重建方法及系统 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5959605A (en) * | 1995-11-22 | 1999-09-28 | Picker International, Inc. | Video magnifier |
JP4101983B2 (ja) * | 1999-08-19 | 2008-06-18 | 東芝テック株式会社 | 画像処理装置 |
US6700589B1 (en) * | 2000-02-17 | 2004-03-02 | International Business Machines Corporation | Method, system, and program for magnifying content downloaded from a server over a network |
-
2002
- 2002-10-09 JP JP2002296072A patent/JP2004133592A/ja active Pending
-
2003
- 2003-10-09 US US10/681,314 patent/US20040179750A1/en not_active Abandoned
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2007171199A (ja) * | 2005-12-21 | 2007-07-05 | General Electric Co <Ge> | 構成部品を試験するための渦電流検査システム |
JP2010016470A (ja) * | 2008-07-01 | 2010-01-21 | Nikon Corp | 画像復元方法、画像復元プログラム、および画像復元装置 |
US8805113B2 (en) | 2011-11-11 | 2014-08-12 | Mitsubishi Electric Corporation | Image processing device and method and image display device |
Also Published As
Publication number | Publication date |
---|---|
US20040179750A1 (en) | 2004-09-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US6816166B2 (en) | Image conversion method, image processing apparatus, and image display apparatus | |
JP4098319B2 (ja) | 解像度変換方法および解像度変換装置 | |
US7483040B2 (en) | Information processing apparatus, information processing method, recording medium, and program | |
JP4460839B2 (ja) | デジタル画像鮮鋭化装置 | |
EP0874330A2 (en) | Area based interpolation for image enhancement | |
KR20110065997A (ko) | 영상처리장치 및 영상처리방법 | |
KR100860968B1 (ko) | 해상도 향상 장치 및 방법 | |
US20200118250A1 (en) | Image processing apparatus, image processing method, and non-transitory computer-readable storage medium | |
US8213736B2 (en) | Image processing device and image processing method | |
JP5460987B2 (ja) | 画像処理装置、画像処理方法、および画像処理プログラム | |
JP4065462B2 (ja) | 画像処理装置及び画像処理方法 | |
JP6904842B2 (ja) | 画像処理装置、画像処理方法 | |
JP2004133592A (ja) | 画像を拡大するための画像処理装置および画像処理方法および画像処理プログラム | |
JP3026706B2 (ja) | 画像処理装置 | |
JP2000115526A (ja) | 画像処理装置およびエッジ処理方法 | |
KR102470242B1 (ko) | 영상 처리 장치, 영상 처리 방법, 및 프로그램 | |
JP3200351B2 (ja) | 画像処理装置及びその方法 | |
JP2006050481A (ja) | 画像処理装置、画像処理方法及びそのプログラム | |
Savagave et al. | Study of image interpolation | |
JP2016201771A (ja) | 画像処理装置、画像処理方法及びプログラム | |
JP4265362B2 (ja) | 画像処理装置 | |
JP2001177719A (ja) | 画像処理装置と印刷システムおよび画像表示システム | |
KR101332030B1 (ko) | 영상 확대방법 및 이를 수행하는 프로그램을 기록한 컴퓨터로 읽을 수 있는 기록매체 | |
JP4730525B2 (ja) | 画像処理装置及びそのプログラム | |
JP7157360B2 (ja) | 画像処理装置、画像処理方法及びプログラム |