JP5118948B2 - Magnification observation apparatus, magnification image observation method, magnification image observation program - Google Patents
Magnification observation apparatus, magnification image observation method, magnification image observation program Download PDFInfo
- Publication number
- JP5118948B2 JP5118948B2 JP2007305114A JP2007305114A JP5118948B2 JP 5118948 B2 JP5118948 B2 JP 5118948B2 JP 2007305114 A JP2007305114 A JP 2007305114A JP 2007305114 A JP2007305114 A JP 2007305114A JP 5118948 B2 JP5118948 B2 JP 5118948B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- observation
- light
- illumination light
- illumination
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Microscoopes, Condenser (AREA)
Description
本発明は、拡大した画像を撮像して表示するデジタルマイクロスコープや顕微鏡のような拡大観察装置、拡大画像観察方法、拡大画像観察プログラムに関する。 The present invention is a digital microscope or magnifying observation apparatus such as a microscope and displaying the image the enlarged image, the enlarged image observation method, a magnified image observation program.
微小物体等の試料やワーク等の被写体を拡大して表示する拡大観察装置として、光学レンズを使った光学顕微鏡やデジタルマイクロスコープ等が利用されている。デジタルマイクロスコープは、光学系を介して入射する観察対象固定部に固定された観察対象からの反射光又は透過光を、2次元状に配置された画素毎に電気的に読み取るCCDやCMOS等の撮像素子で受光し、電気的に読み取られた画像をディスプレイ等の表示部に表示する(例えば特許文献1)。 An optical microscope using an optical lens, a digital microscope, or the like is used as a magnification observation apparatus that magnifies and displays a sample such as a minute object or a subject such as a workpiece. A digital microscope is a CCD, CMOS, or the like that electrically reads reflected light or transmitted light from an observation object fixed to an observation object fixing unit incident through an optical system for each pixel arranged in a two-dimensional shape. An image received by the image sensor and electrically read is displayed on a display unit such as a display (for example, Patent Document 1).
このような光学系の拡大観察装置においては、その分解能は原理的には照明光の波長に比例する。このため、紫外線顕微鏡のように短波長の光を用いることで光学系の分解能を向上させ、より微細な観察を可能とした拡大観察装置も開発されている。 In such a magnification observation apparatus of an optical system, the resolution is in principle proportional to the wavelength of illumination light. For this reason, a magnification observation apparatus has been developed that improves the resolution of the optical system by using short-wavelength light, such as an ultraviolet microscope, and enables finer observation.
また撮像素子の画素数が大きいほど詳細な表示が可能となる。特に近年は高画質化の要求が高まっており、撮像素子もこれに応じて画素数の多い、例えば200万画素クラスあるいは800万画素クラスのCCDが利用されている。このようなCCD等の撮像素子は、受光の強弱を検知するセンサであり、色を識別することはできない。このため、従来のCCDでは、各画素を構成するCCD素子にあらかじめ単色のフィルタをかけておき、隣接する他色のフィルタをかけた画素で得られた信号と組み合わせることで、色情報を得ている。このような単板タイプの、いわゆる1CCD方式では、図1に示すように異なる色のフィルタが適用された複数のCCD素子が隣接されるように、ベイヤー配列される。ベイヤー配列では、隣接する4画素に注目すると、一般にRGBの画素数は1:2:1となる。この構成では、各画素の撮像素子では1色の色信号のみしか取得できないため、本来的には画素毎に色情報を取得できない。そこで、各画素毎に色情報を取得するため、(1)周囲の画素で得られた異なる色情報に基づいて、画素毎に他の色情報も演算する方法、(2)CCDを微小移動させて画素単位でRGBの受光信号を取得し、複数の画像を合成することによって、画素単位での色情報を取得する、いわゆる画素ずらしの方法(例えば特許文献2)、(3)画素単位にRGBのCCDを配置する3板タイプの、いわゆる3CCD方式(例えば特許文献3)等が知られている。
また一方で、拡大観察装置においては、試料に照射する照明光の波長を変化させて観察することが行われている。照射光の波長を変化させることで異なる観察像を取得できる。例えば緑色のフレキシブル基板を観察する場合、照明光が赤色であれば照明光が内部に透過され、透視図のような観察像が得られる。一方、青色光で照明すれば、照明光が内部に透過されないため、表面の傷模様が観察される。このように照明光を変化させることで、試料の内部のみ、もしくは表層のみを選択的に観察したり、試料のコントラストを改善したりといった見え方の変化が生み出せる。 On the other hand, in the magnifying observation apparatus, observation is performed by changing the wavelength of illumination light applied to the sample. Different observation images can be acquired by changing the wavelength of the irradiation light. For example, when observing a green flexible substrate, if the illumination light is red, the illumination light is transmitted inside, and an observation image like a perspective view is obtained. On the other hand, when illuminated with blue light, the illumination light is not transmitted to the inside, so a scratch pattern on the surface is observed. By changing the illumination light in this way, it is possible to produce a change in appearance such as selectively observing only the inside of the sample or only the surface layer or improving the contrast of the sample.
しかしながら、照明光の波長を変えて観察を行う際、CCD等、通常の2次元カラー撮像素子を使って観察を行うと、撮像素子のベイヤー配列の影響により実効的な画素数が低下してしまうという問題があった。上述した図1に示すように、通常の撮像素子はRGBの画素数の比が1:2:1となっているため、例えば青の照明光を用いた場合には実効的な画素数は白色照明光を用いた撮影時の1/4になってしまう。このため照明光の波長を変えて観察を行うと、白色光を使って観察する場合に比較した場合極端に低解像度の画像しか得ることができない。この結果、上述した短波長の照明光で照明することで分解能を向上させようとしても、撮像素子の実効画素数が低下するため、システム全体としての分解能の向上を得ることは困難であった。 However, when the observation is performed by changing the wavelength of the illumination light, if the observation is performed using a normal two-dimensional color image pickup device such as a CCD, the effective number of pixels decreases due to the influence of the Bayer arrangement of the image pickup device. There was a problem. As shown in FIG. 1 described above, the ratio of the number of RGB pixels in a normal image sensor is 1: 2: 1. For example, when blue illumination light is used, the effective number of pixels is white. It becomes 1/4 of the time of photographing using illumination light. For this reason, when observation is performed by changing the wavelength of illumination light, only extremely low-resolution images can be obtained as compared with observation using white light. As a result, even if it is attempted to improve the resolution by illuminating with the illumination light having the short wavelength described above, the effective number of pixels of the image pickup device is reduced, and it is difficult to obtain an improvement in the resolution of the entire system.
一方、照明光の波長を変化させて観察を行う際に、モノクロの撮像素子を用いて観察を行えば、上記の実効的な画素数の低下を防ぐことができる。ただこの方法では、白色光を用いて観察した際にもモノクロの画像しか得ることができないという問題があった。この場合にカラー観察を行うには、高速でRGBのフィルタを切り替えて撮影画像を合成する方法が考えられる。しかしながらこの方法では、機構が複雑になる上、切り替え動作等が必要になるためフレームレートが低下する等、カラーの操像素子を用いた場合に比べて利便性が低下するという問題があった。 On the other hand, when observation is performed by changing the wavelength of the illumination light, if the observation is performed using a monochrome imaging device, the above-described reduction in the effective number of pixels can be prevented. However, this method has a problem that only a monochrome image can be obtained even when observed using white light. In order to perform color observation in this case, a method of synthesizing a captured image by switching RGB filters at high speed is conceivable. However, this method has a problem that convenience is lowered as compared with the case where a color image manipulation element is used, for example, the mechanism is complicated and the switching operation is required, so that the frame rate is lowered.
また、いわゆる3CCD方式において画素ずらしを行い、RGBそれぞれの画像を合成することで高解像度のカラー画像を取得する方法が提案されている(特許文献3)。しかしながらこの方法では、色収差の補正が困難であるという問題がある。すなわち、レンズを構成する光学材料の屈折率が光の波長により異なるため、像点の位置が波長によってずれ、色の滲んだ像になったり、波長により焦点距離が変わるために像面上周辺に近づくに従い像位置がずれて色のふちどりが生じるといった色収差が発生する。このため、RGB各色の色収差を補正して結像点が一定になるよう、例えば屈折率とその波長依存性の異なる種々の光学材料を組み合わせた複合レンズで補正する作業が必要となり、複雑な構成を要するという問題があった。また3CCDは高価であり、撮像素子のサイズも大きくなるといった問題もある。 In addition, a method of acquiring a high-resolution color image by performing pixel shift in the so-called 3CCD method and combining RGB images has been proposed (Patent Document 3). However, this method has a problem that it is difficult to correct chromatic aberration. In other words, since the refractive index of the optical material constituting the lens varies depending on the wavelength of light, the position of the image point shifts depending on the wavelength, resulting in a blurred image, or the focal length varies depending on the wavelength, so that it is around the image surface. As it approaches, chromatic aberration occurs such that the image position shifts and color fringing occurs. For this reason, for example, it is necessary to perform correction with a compound lens combining various optical materials having different refractive indexes and wavelength dependencies so as to make the image formation point constant by correcting the chromatic aberration of each color of RGB. There was a problem of requiring. In addition, 3CCD is expensive, and there is a problem that the size of the image sensor increases.
本発明は、従来のこのような問題点を解決するためになされたものである。本発明の主な目的は、解像感に優れた画像を撮像可能としつつ、カラー観察も可能な拡大観察装置、拡大画像観察方法、拡大画像観察プログラムを提供することにある。 The present invention has been made to solve such conventional problems. The main purpose of the present invention, while enabling capturing an image excellent in feeling resolution, color observed can magnifying observation apparatus, the enlarged image observation method is to provide a magnified image observation program.
上記の目的を達成するために、第1の拡大観察装置は、撮像対象の試料に照明光を照射し、該照明光の反射光又は透過光の受光量を検出して、試料の観察像を撮像可能な拡大観察装置であって、少なくとも可視光の領域において所定の波長帯域のスペクトルを有する照明光用の照明光源と、照明光源が発する光の波長帯域に含まれる複数の異なる波長域について、いずれかの波長域に切り替え可能な照明光選択手段と、照明光源が発する光の波長を、照明光選択手段で選択された波長域とした照明光で試料に照射し、該照明光に対する受光量の内、特定の波長域について受光可能な単板の撮像素子であって、複数が画素毎に配列されると共に、一定の画素間隔で隣接する画素同士では異なる波長域の受光特性を備える素子が配置されてなる複数の撮像素子と、異なる波長域の受光特性を備える撮像素子同士が相互に隣接して配置される3以上の注目画素群について、注目画素群を構成する各撮像素子の画素の位置を一巡して受光量が各々の位置で検出されるよう、撮像素子の画素間隔に相当する変位量分、注目画素群を構成するいずれかの撮像素子の検出位置を相対的にシフトさせるための光路シフト手段と、照明光選択手段で選択された波長域の照明光が試料に照射される際、注目画素群を構成する各撮像素子の画素の各々の位置において、複数の撮像素子の内、該波長域に対応する撮像素子で受光量を検出するように、光路シフト手段を作動させる光路シフト制御手段とを備えることができる。これにより、観察目的に応じた波長域の照明光を試料に照射し、観察像を高解像度で撮像できる。それは、照明光選択手段で選択された波長帯域の照明光に応じた撮像素子が、画素単位で受光信号を取得するよう、光路シフト制御手段が光路シフト手段を制御しているからである。この結果、照明光に応じた受光信号を画素単位で取得でき、高精細な観察像を撮像できるという優れた特徴が実現される。
また第2の拡大観察装置は、光路シフト手段が作動することにより検出された受光量に基づいて、照明光選択手段で選択された波長域に対応する単一色の画像を作成可能に構成できる。
In order to achieve the above object, the first magnification observation apparatus irradiates a sample to be imaged with illumination light, detects the amount of reflected light or transmitted light of the illumination light, and displays an observation image of the sample. Magnification observation apparatus capable of imaging, at least for an illumination light source for illumination light having a spectrum of a predetermined wavelength band in the visible light region, and a plurality of different wavelength regions included in the wavelength band of light emitted by the illumination light source, Illumination light selection means switchable to any wavelength range, and the sample is irradiated with illumination light having a wavelength of light emitted from the illumination light source selected by the illumination light selection means, and the amount of light received with respect to the illumination light Among them, a single-plate imaging device capable of receiving light in a specific wavelength region, a plurality of which are arranged for each pixel, and an element having light receiving characteristics in different wavelength regions between adjacent pixels at a fixed pixel interval. The compound that is arranged And three or more target pixel groups in which image sensors having light receiving characteristics in different wavelength ranges are arranged adjacent to each other, the positions of the pixels of each image sensor constituting the target pixel group are made a round. An optical path shifting means for relatively shifting the detection position of any of the image sensors constituting the pixel group of interest by an amount of displacement corresponding to the pixel interval of the image sensor so that the amount of received light is detected at each position; When the sample is irradiated with the illumination light in the wavelength range selected by the illumination light selection means, at each position of each pixel of the image sensor constituting the target pixel group , Optical path shift control means for operating the optical path shift means so as to detect the amount of received light with the corresponding imaging device can be provided. Thereby, the illumination light of the wavelength range according to the observation purpose can be irradiated to the sample, and the observation image can be picked up with high resolution. This is because the optical path shift control means controls the optical path shift means so that the image sensor corresponding to the illumination light in the wavelength band selected by the illumination light selection means acquires the received light signal in units of pixels. As a result, it is possible to obtain a light reception signal corresponding to the illumination light in units of pixels and realize an excellent feature that a high-definition observation image can be captured.
In addition, the second magnification observation apparatus can be configured to create an image of a single color corresponding to the wavelength range selected by the illumination light selection unit based on the amount of received light detected by the operation of the optical path shift unit.
さらに第3の拡大観察装置は、照明光選択手段が、照明光源と試料との間に配置され、照明光源が発する光を、異なる波長域の照明光として取り出す複数の照明フィルタを切り替え可能に備えるフィルタ手段と、フィルタ手段が備える複数の照明フィルタから、所望の照明フィルタを選択するためのフィルタ選択手段とを含むことができる。これにより、フィルタ選択手段で選択された波長帯域の照明光に応じた撮像素子が画素単位で受光信号を取得するように、光路シフト制御手段が光路シフト手段を制御して、照明光に応じた受光信号を画素単位で取得でき、高精細な観察像を撮像できる。 Furthermore, in the third magnification observation apparatus, the illumination light selection unit is arranged between the illumination light source and the sample, and includes a plurality of illumination filters that extract light emitted from the illumination light source as illumination light in different wavelength ranges. Filter means and filter selection means for selecting a desired illumination filter from a plurality of illumination filters provided in the filter means can be included. Thereby, the optical path shift control unit controls the optical path shift unit so that the image sensor corresponding to the illumination light in the wavelength band selected by the filter selection unit acquires the light reception signal in units of pixels, and according to the illumination light. The light reception signal can be acquired in units of pixels, and a high-definition observation image can be captured.
さらにまた第4の拡大観察装置は、フィルタ手段が、照明フィルタとして、照明光源が照射する光の波長域を略全域で透過する透過フィルタと、青色成分の波長域を透過させる青色フィルタを少なくとも備えることができる。これにより、透過フィルタを使用すればカラー観察像を撮像できる一方、青色フィルタを使用すれば狭帯域でかつ短波長のため高解像度の観察像を撮像できる。また、これらを合成すれば、高解像度のカラー観察像を得ることもできる。 Furthermore fourth magnifying observation apparatus, filter means, as the illumination filter comprises a transmission filter illumination light source is transmitted through the wavelength range of the light to be irradiated with substantially the entire region, a blue filter that transmits the wavelength band of the blue component at least be able to. As a result, a color observation image can be captured by using a transmission filter, while a high resolution observation image can be captured by using a blue filter because of a narrow band and a short wavelength. Moreover, if these are combined, a high-resolution color observation image can be obtained.
さらにまた、第5の拡大観察装置はさらに、撮像素子で撮像された観察像を表示可能な表示手段と、フィルタ部材が備える複数の照明フィルタを用いて、試料の同一の視野について撮像した複数の観察像を表示手段に同時に表示した状態から、一を選択可能な画像選択手段と、画像選択手段で選択された観察像の撮像に使用された照明フィルタの種別を含む像観察条件を、撮像条件として設定する撮像条件設定手段とを備えることができる。これにより、複数の照明フィルタを用いて実際に撮像した観察像の中から、ユーザは所望の観察像を選択することで、以降の観察において必要な観察条件を自動的に設定することができる。特に、観察条件として設定すべき項目に詳しくないユーザであっても、実際の画像イメージに基づいて設定できるため、操作の習熟度に拘わらず設定作業を容易に行えるという利点が得られる。 Furthermore, the fifth magnification observation apparatus further includes a plurality of images captured in the same field of view of the sample using display means capable of displaying an observation image captured by the image sensor and a plurality of illumination filters provided in the filter member. From the state in which the observation image is displayed on the display means at the same time, the image selection condition including the image selection means capable of selecting one and the type of illumination filter used for imaging the observation image selected by the image selection means And imaging condition setting means for setting as follows. As a result, the user can automatically set necessary observation conditions in subsequent observations by selecting a desired observation image from among observation images actually captured using a plurality of illumination filters. In particular, even a user who is not familiar with the items to be set as the observation conditions can be set based on the actual image, so that the setting work can be easily performed regardless of the skill level of the operation.
さらにまた、第6の拡大観察装置はさらに、同一の試料を異なる照明フィルタを用いて撮像した少なくとも2つの観察像を合成する画像合成手段を備えることができる。これにより、例えば高解像度のモノクロ画像に、カラー画像を合成して、高解像度のカラー画像を合成する等、複数の観察像を合成した合成画像を取得できる。 Furthermore, the sixth magnification observation apparatus can further include an image synthesis unit that synthesizes at least two observation images obtained by imaging the same sample using different illumination filters. Thereby, for example, a synthesized image obtained by synthesizing a plurality of observation images can be acquired by synthesizing a color image with a high-resolution monochrome image and synthesizing a high-resolution color image.
さらにまた、第7の拡大観察装置は、画像合成手段で合成される少なくとも2つの観察像は、一の観察像が、照明光源が照射する光の波長域を略全域で透過する透過フィルタを用いて、光路シフト手段を作動させて各画素位置においてすべての撮像素子で撮像した白色波長域のカラー画像であり、他の観察像が、青色成分の波長域を透過させる青色フィルタを用いて、光路シフト手段を作動させて各画素位置において青色の撮像素子で撮像した青色波長域の高解像度観察像とできる。これにより、波長の短い青色波長の照明光にて撮像した高解像度の単一色観察像に、カラー画像を合成して、高解像度のカラー画像を取得することができる。 Furthermore, in the seventh magnification observation apparatus, at least two observation images synthesized by the image synthesizing unit use a transmission filter in which one observation image transmits almost the entire wavelength range of light emitted from the illumination light source. The optical path shift means is operated and the color image of the white wavelength range captured by all the image sensors at each pixel position, and the other observation image is transmitted to the optical path using a blue filter that transmits the wavelength range of the blue component. By operating the shift means, it is possible to obtain a high-resolution observation image in the blue wavelength region captured by the blue image sensor at each pixel position. Thereby, a color image can be combined with a high-resolution single color observation image captured with illumination light having a short wavelength of blue wavelength, and a high-resolution color image can be obtained.
さらにまた、第8の拡大観察装置はさらに、画像合成手段で観察像を合成する際、フィルタ選択手段で青色フィルタを選択すると共に、光路シフト制御手段が光路シフト手段を作動させて、青色照明光に対応した青色の撮像素子を各画素位置において撮像し合成した青色波長域の高解像度観察像を得る動作と、フィルタ選択手段で透過フィルタを選択すると共に、光路シフト制御手段が光路シフト手段を作動させて、すべての撮像素子を各画素位置において撮像した白色波長域のカラー観察像を得る動作と、画像合成手段で、高解像度観察像にカラー観察像の色情報を合成して、カラーの高解像画像観察像を取得する動作とを自動で行う自動合成手段を備えることができる。これにより、カラーの高解像度合成観察像の取得作業を自動化でき、ユーザは照明光に応じた照明フィルタの選択や撮像素子の切り替え、光路シフト等の適切な選択や切り替え操作から解放され、操作の煩雑さや誤操作を解消できる。 Furthermore, the eighth magnification observation apparatus further selects the blue filter by the filter selection means when synthesizing the observation image by the image synthesis means, and the optical path shift control means operates the optical path shift means so that the blue illumination light is emitted. An image of a blue image sensor corresponding to is captured at each pixel position to obtain a high-resolution observation image in the blue wavelength range, a transmission filter is selected by the filter selection means, and the optical path shift control means operates the optical path shift means The color observation image obtained by capturing all image sensors at each pixel position and obtaining the color observation image in the white wavelength range and the image synthesis means combine the color information of the color observation image with the high-resolution observation image, An automatic synthesizing unit that automatically performs an operation of acquiring a resolution image observation image can be provided. As a result, it is possible to automate the operation of acquiring a color high-resolution composite observation image, and the user is freed from appropriate selection and switching operations such as selection of an illumination filter according to illumination light, switching of an image sensor, optical path shift, etc. Troublesome and incorrect operation can be eliminated.
さらにまた、実施の形態に係る拡大観察装置は、撮像素子がベイヤー配列でマトリクス状に画素毎に配置されており、光路シフト手段が、隣接する2×2の画素位置にシフトさせるよう切り替えることができる。これにより、ベイヤー配列された異なる受光特性の撮像素子を、隣接する2×2の注目画素につき、一巡するように光路シフト手段でシフトさせて、2×2のすべての画素位置で受光信号を取得することができ、高解像度の観察像を得ることができる。 Furthermore, in the magnifying observation device according to the embodiment , the image pickup elements are arranged in a matrix form for each pixel in a Bayer arrangement, and the optical path shift unit is switched so as to shift to adjacent 2 × 2 pixel positions. it can. As a result, the image pickup devices with different light receiving characteristics arranged in a Bayer array are shifted by the optical path shifting means so as to make a round for adjacent 2 × 2 pixels of interest, and light reception signals are obtained at all 2 × 2 pixel positions. And a high-resolution observation image can be obtained.
さらにまた、実施の形態に係る拡大観察装置は、光路シフト手段が、注目画素群の内選択した撮像素子を画素間隔分移動させるアクチュエータを備えることができる。これにより、選択した撮像素子をピクセル単位で上下左右に移動させて複数回撮影を行うことができる。 Furthermore, in the magnifying observation device according to the embodiment , the optical path shift means can include an actuator that moves the selected image sensor in the pixel group of interest by the pixel interval. Thereby, it is possible to perform photographing a plurality of times by moving the selected image sensor vertically and horizontally in pixel units.
さらにまた、実施の形態に係る拡大観察装置は、照明光源が、異なる波長域の発光素子を複数備えており、照明光選択手段を、照明光源の内で所望の波長域の発光素子を選択するための発光素子選択手段とすることができる。これにより、フィルタ等を使用することなく発光素子で直接所望の波長域の照明光を得ることができる。またLED等の半導体発光素子を利用すれば、応答性に優れた低消費電力、長寿命であり、より安定した信頼性の高い拡大観察装置を得ることができる。 Furthermore, in the magnifying observation apparatus according to the embodiment , the illumination light source includes a plurality of light emitting elements having different wavelength ranges, and the illumination light selection unit selects a light emitting element having a desired wavelength range from among the illumination light sources. Therefore, the light emitting element selection means can be used. Thereby, the illumination light of a desired wavelength range can be obtained directly with a light emitting element, without using a filter etc. Further, if a semiconductor light emitting element such as an LED is used, a more stable and highly reliable magnification observation apparatus having low power consumption and long life with excellent responsiveness can be obtained.
さらにまた、第9の拡大観察方法は、異なる波長の受光特性を備える撮像素子が一定の画素間隔で隣接して配置された撮像手段を備える拡大観察装置を用いて、撮像対象の試料に照明光を照射し、該照明光の反射光又は透過光の受光量を撮像手段で検出して、試料の観察像を撮像する拡大観察方法であって、照明光の波長域の選択を促す工程と、少なくとも可視光の領域において所定の波長帯域のスペクトルを有する照明光用の照明光源からの光を、選択された波長域に従って切り替える工程と、切り替えられた波長域の照明光を試料に照射して得られる受光量を、撮像手段に配置される撮像素子の内、選択された波長域の照明光と対応する受光特性を備える撮像素子で撮像する工程と、撮像素子の画素間隔に相当する変位量分、撮像素子を相対的にシフトさせて、シフト後の異なる位置での受光量を撮像素子で検出する工程と、シフト及び受光量検出工程を、撮像素子と相互に隣接する3以上の注目画素群について、注目画素群の画素位置を一巡するように繰り返す工程と、注目画素群の各画素位置で検出された受光量を合成して、選択された波長域の照明光につき観察像を取得する工程と、を含むことができる。これにより、観察目的に応じた波長域の照明光を試料に照射し、観察像を高解像度で撮像できる。それは、選択された波長帯域の照明光に応じた撮像素子が、画素単位で受光信号を取得するように撮像素子をシフトさせているからである。この結果、照明光に応じた受光信号を画素単位で取得でき、高精細な観察像を撮像できるという優れた特徴が実現される。 Furthermore, the ninth magnification observation method uses a magnification observation apparatus including an imaging unit in which imaging elements having light receiving characteristics of different wavelengths are arranged adjacent to each other at a fixed pixel interval to illuminate a sample to be imaged. Is a magnified observation method for capturing an observation image of a sample by detecting the amount of reflected light or transmitted light of the illumination light with an imaging means, and prompting selection of the wavelength range of the illumination light; Obtained by irradiating the sample with illumination light in the switched wavelength range, and a step of switching light from an illumination light source for illumination light having a spectrum in a predetermined wavelength band at least in the visible light region according to the selected wavelength range The amount of received light received is picked up by an image pickup device having a light receiving characteristic corresponding to illumination light in a selected wavelength region among the image pickup devices arranged in the image pickup means, and a displacement amount corresponding to the pixel interval of the image pickup device. , The image sensor The steps of detecting the received light amount at different positions after the shift by the image sensor and the shift and received light amount detecting step for the three or more target pixel groups mutually adjacent to the image sensor Repeating a round of pixel positions of the group, and synthesizing the amount of received light detected at each pixel position of the pixel group of interest to obtain an observation image for illumination light in the selected wavelength range. be able to. Thereby, the illumination light of the wavelength range according to the observation purpose can be irradiated to the sample, and the observation image can be picked up with high resolution. This is because the image pickup device corresponding to the illumination light in the selected wavelength band shifts the image pickup device so as to acquire the light reception signal in units of pixels. As a result, it is possible to obtain a light reception signal corresponding to the illumination light in units of pixels and realize an excellent feature that a high-definition observation image can be captured.
さらにまた、第10の拡大観察プログラムは、異なる波長の受光特性を備える撮像素子が一定の画素間隔で隣接して配置された撮像手段を備える拡大観察装置を操作して、撮像対象の試料に照明光を照射し、該照明光の反射光又は透過光の受光量を撮像手段で検出して、試料の観察像を撮像するための拡大観察プログラムであって、照明光の波長域の選択を促す機能と、少なくとも可視光の領域において所定の波長帯域のスペクトルを有する照明光用の照明光源が発する光を、選択された波長域に従って切り替える機能と、切り替えられた波長域の照明光を試料に照射して得られる受光量を、撮像手段に配置される撮像素子の内、選択された波長域の照明光と対応する受光特性を備える撮像素子で撮像する機能と、撮像素子の画素間隔に相当する変位量分、撮像素子を相対的にシフトさせて、シフト後の異なる位置での受光量を撮像素子で検出する機能と、シフト及び受光量検出機能を、撮像素子と相互に隣接する3以上の注目画素群について、注目画素群の画素位置を一巡するように繰り返す機能と、注目画素群の各画素位置で検出された受光量を合成して、選択された波長域の照明光につき観察像を取得する機能と、をコンピュータに実現させることができる。これにより、観察目的に応じた波長域の照明光を試料に照射し、観察像を高解像度で撮像できる。それは、選択された波長帯域の照明光に応じた撮像素子が、画素単位で受光信号を取得するように撮像素子をシフトさせているからである。この結果、照明光に応じた受光信号を画素単位で取得でき、高精細な観察像を撮像できるという優れた特徴が実現される。 Furthermore, the tenth magnification observation program operates a magnification observation apparatus including an imaging unit in which imaging elements having light receiving characteristics of different wavelengths are arranged adjacent to each other at a fixed pixel interval to illuminate a sample to be imaged. A magnification observation program for irradiating light, detecting the amount of reflected or transmitted light of the illumination light with an imaging means, and capturing an observation image of the sample, and prompting selection of the wavelength range of the illumination light Function, a function to switch the light emitted by the illumination light source for illumination light having a spectrum in a predetermined wavelength band at least in the visible light region according to the selected wavelength region, and irradiating the sample with illumination light in the switched wavelength region The amount of received light obtained is equivalent to the function of imaging with an imaging device having a light receiving characteristic corresponding to the illumination light of the selected wavelength region among the imaging devices arranged in the imaging means, and the pixel interval of the imaging device 3 or more adjacent to the image sensor, and a function for detecting the received light amount at different positions after the shift by the image sensor relative to the displacement amount, and a function for detecting the shift and received light amount. For the target pixel group, the function of repeating the pixel position of the target pixel group and the received light amount detected at each pixel position of the target pixel group are combined, and an observation image is obtained for the illumination light in the selected wavelength range. And the function of acquiring the information can be realized by a computer. Thereby, the illumination light of the wavelength range according to the observation purpose can be irradiated to the sample, and the observation image can be picked up with high resolution. This is because the image pickup device corresponding to the illumination light in the selected wavelength band shifts the image pickup device so as to acquire the light reception signal in units of pixels. As a result, it is possible to obtain a light reception signal corresponding to the illumination light in units of pixels and realize an excellent feature that a high-definition observation image can be captured.
さらにまた実施の形態に係るコンピュータで読み取り可能な記録媒体は、上記プログラムを格納したものである。記録媒体には、CD−ROM、CD−R、CD−RWやフレキシブルディスク、磁気テープ、MO、DVD−ROM、DVD−RAM、DVD−R、DVD+R、DVD−RW、DVD+RW、Blu−ray、HD DVD(AOD)等の磁気ディスク、光ディスク、光磁気ディスク、半導体メモリその他のプログラムを格納可能な媒体が含まれる。またプログラムには、上記記録媒体に格納されて配布されるものの他、インターネット等のネットワーク回線を通じてダウンロードによって配布される形態のものも含まれる。さらに記録媒体にはプログラムを記録可能な機器、例えば上記プログラムがソフトウェアやファームウェア等の形態で実行可能な状態に実装された汎用もしくは専用機器を含む。さらにまたプログラムに含まれる各処理や機能は、コンピュータで実行可能なプログラムソフトウエアにより実行してもよいし、各部の処理を所定のゲートアレイ(FPGA、ASIC)等のハードウエア、又はプログラムソフトウエアとハードウェアの一部の要素を実現する部分的ハードウエアモジュールとが混在する形式で実現してもよい。 Furthermore, a computer-readable recording medium according to the embodiment stores the above program. Recording media include CD-ROM, CD-R, CD-RW, flexible disk, magnetic tape, MO, DVD-ROM, DVD-RAM, DVD-R, DVD + R, DVD-RW, DVD + RW, Blu-ray, HD A medium that can store a program such as a magnetic disk such as a DVD (AOD), an optical disk, a magneto-optical disk, a semiconductor memory, or the like is included. The program includes a program distributed in a download manner through a network line such as the Internet, in addition to a program stored and distributed in the recording medium. Further, the recording medium includes a device capable of recording the program, for example, a general purpose or dedicated device in which the program is implemented in a state where the program can be executed in the form of software, firmware, or the like. Furthermore, each process and function included in the program may be executed by computer-executable program software, or each part of the process or hardware may be executed by hardware such as a predetermined gate array (FPGA, ASIC), or program software. And a partial hardware module that realizes a part of hardware elements may be mixed.
以下、本発明の実施の形態を図面に基づいて説明する。ただし、以下に示す実施の形態は、本発明の技術思想を具体化するための拡大観察装置、拡大画像観察方法、拡大画像観察プログラムを例示するものであって、本発明は拡大観察装置、拡大画像観察方法、拡大画像観察プログラムを以下のものに特定しない。また、本明細書は特許請求の範囲に示される部材を、実施の形態の部材に特定するものでは決してない。特に実施の形態に記載されている構成部品の寸法、材質、形状、その相対的配置等は特に特定的な記載がない限りは、本発明の範囲をそれのみに限定する趣旨ではなく、単なる説明例にすぎない。なお、各図面が示す部材の大きさや位置関係等は、説明を明確にするため誇張していることがある。さらに以下の説明において、同一の名称、符号については同一もしくは同質の部材を示しており、詳細説明を適宜省略する。さらに、本発明を構成する各要素は、複数の要素を同一の部材で構成して一の部材で複数の要素を兼用する態様としてもよいし、逆に一の部材の機能を複数の部材で分担して実現することもできる。また、一部の実施例、実施形態において説明された内容は、他の実施例、実施形態等に利用可能なものもある。 Hereinafter, embodiments of the present invention will be described with reference to the drawings. However, the embodiments shown below, magnifying observation apparatus for embodying the technical idea of the present invention, the enlarged image observation method, intended to illustrate an enlarged image observation program, the present invention is magnifying observation apparatus, enlarged image observation method, not specific to the following enlarged image observation program. Further, the present specification by no means specifies the members shown in the claims to the members of the embodiments. In particular, the dimensions, materials, shapes, relative arrangements, and the like of the component parts described in the embodiments are not intended to limit the scope of the present invention unless otherwise specified, and are merely explanations. It is just an example. Note that the size, positional relationship, and the like of the members shown in each drawing may be exaggerated for clarity of explanation. Further, in the following description, the same name and reference numeral indicate the same or the same members, and detailed description will be omitted as appropriate. Furthermore, each element constituting the present invention may be configured such that a plurality of elements are constituted by the same member and the plurality of elements are shared by one member, and conversely, the function of one member is constituted by a plurality of members. It can also be realized by sharing. In addition, the contents described in some examples and embodiments may be used in other examples and embodiments.
本発明の実施例において使用される拡大観察装置、拡大画像観察方法、拡大画像観察プログラムとこれに接続される操作、制御、表示、その他の処理等のためのコンピュータ、プリンタ、外部記憶装置その他の周辺機器との接続は、例えばIEEE1394、RS−232xやRS−422、USB等のシリアル接続、パラレル接続、あるいは10BASE−T、100BASE−TX、1000BASE−T等のネットワークを介して電気的、あるいは磁気的、光学的に接続して通信を行う。接続は有線を使った物理的な接続に限られず、IEEE802.x等の無線LANやBluetooth(登録商標)等の電波、赤外線、光通信等を利用した無線接続等でもよい。さらにデータの交換や設定の保存等を行うための記録媒体には、メモリカードや磁気ディスク、光ディスク、光磁気ディスク、半導体メモリ等が利用できる。なお本明細書において拡大観察装置とは、拡大観察装置本体のみならず、これにコンピュータ、外部記憶装置等の周辺機器を組み合わせた拡大観察システムも含む意味で使用する。 Magnifying observation apparatus, an enlarged image observation method used in the Examples of the present invention, magnified image observation program and operations connected thereto, control, display, other computer for processing and the like, a printer, an external storage device other For example, IEEE1394, RS-232x, RS-422, serial connection such as USB, parallel connection, or 10BASE-T, 100BASE-TX, 1000BASE-T, etc. Communication is performed by connecting magnetically and optically. The connection is not limited to a physical connection using a wire, but IEEE802. Wireless connection using radio waves such as wireless LAN such as x, Bluetooth (registered trademark), infrared rays, optical communication, or the like may be used. Furthermore, a memory card, a magnetic disk, an optical disk, a magneto-optical disk, a semiconductor memory, or the like can be used as a recording medium for exchanging data or storing settings. In this specification, the term “magnification observation device” is used to include not only the magnification observation device body but also a magnification observation system in which peripheral devices such as a computer and an external storage device are combined.
また、本明細書において拡大観察装置は、拡大観察を行うシステムそのもの、ならびに撮像に関連する入出力、表示、演算、通信その他の処理をハードウェア的に行う装置や方法に限定するものではない。ソフトウェア的に処理を実現する装置や方法も本発明の範囲内に包含する。例えば汎用の回路やコンピュータにソフトウェアやプログラム、プラグイン、オブジェクト、ライブラリ、アプレット、コンパイラ、モジュール、特定のプログラム上で動作するマクロ等を組み込んで撮像そのものあるいはこれに関連する処理を可能とした装置やシステムも、本発明の拡大観察装置に該当する。また本明細書においてコンピュータには、汎用あるいは専用の電子計算機の他、ワークステーション、端末、携帯型電子機器、PDCやCDMA、W−CDMA、FOMA(登録商標)、GSM、IMT2000や第4世代等の携帯電話、PHS、PDA、ページャ、スマートフォンその他の電子デバイスも包含する。さらに本明細書においてプログラムとは、単体で使用されるものに限られず、特定のコンピュータプログラムやソフトウェア、サービス等の一部として機能する態様や、必要時に呼び出されて機能する態様、OS等の環境においてサービスとして提供される態様、環境に常駐して動作する態様、バックグラウンドで動作する態様やその他の支援プログラムという位置付けで使用することもできる。 Further, in this specification, the magnification observation apparatus is not limited to a system that performs magnification observation, and an apparatus or method that performs input / output, display, calculation, communication, and other processes related to imaging in hardware. An apparatus and method for realizing processing by software are also included in the scope of the present invention. For example, a general-purpose circuit or computer that incorporates software, programs, plug-ins, objects, libraries, applets, compilers, modules, macros that operate on specific programs, etc., and enables imaging itself or related processing The system also corresponds to the magnification observation apparatus of the present invention. In this specification, the computer includes a general-purpose or dedicated computer, a workstation, a terminal, a portable electronic device, PDC, CDMA, W-CDMA, FOMA (registered trademark), GSM, IMT2000, fourth generation, and the like. Mobile phones, PHS, PDAs, pagers, smartphones and other electronic devices. Further, in the present specification, the program is not limited to a program that is used alone, an aspect that functions as a part of a specific computer program, software, service, etc., an aspect that is called and functions when necessary, an environment such as an OS, etc. It can also be used as a mode provided as a service, a mode that operates resident in the environment, a mode that operates in the background, and other support programs.
以下、図2から図3を用いて、本発明の一実施の形態に係る拡大観察装置100を説明する。拡大観察装置100は、図2に示すように観察対象の試料(又はワークその他の被写体)Sを照明するための照明手段60と、照明手段60により照明された試料Sを撮像する撮像部10と、撮像部10で撮像された拡大画像を表示する表示手段52を有する本体部50を備える。撮像部10はヘッド部15ととして、ケーブル部24を介して本体部50と接続される。さらに図2の拡大観察装置100は、試料Sを固定する試料固定部として、試料Sを載置するステージ30と、光学系11を介して入射するステージ30に固定された試料Sからの反射光又は透過光を電気的に読み取る撮像素子12と、ステージ30と光学系11の光軸方向における相対距離を変化させ焦点を調整する焦点調整部としてステージ昇降器20とを備える。さらにまた本体部50は、図3に示すようにステージ昇降器20によって焦点を調整したときのステージ30と光学系11の光軸方向における相対距離に関する焦点距離情報を、光軸方向とほぼ垂直な面内における試料Sの2次元位置情報と共に記憶する焦点距離情報記憶部としてメモリ53と、撮像素子12によって読み取られた画像を表示する表示手段52と、ヘッド部15およびステージ昇降器20とデータを通信するためのインターフェイス54とを備える。この拡大観察装置100は、光学系11を介して入射するステージ30に固定された試料Sからの反射光又は透過光を電気的に読み取る撮像素子12を用いて観察像を撮像し、表示手段52に表示させる。 Hereinafter, the magnifying observation apparatus 100 according to an embodiment of the present invention will be described with reference to FIGS. As shown in FIG. 2, the magnifying observation apparatus 100 includes an illuminating unit 60 for illuminating a sample (or workpiece or other subject) S to be observed, and an imaging unit 10 for imaging the sample S illuminated by the illuminating unit 60. The main body 50 includes a display unit 52 that displays an enlarged image captured by the imaging unit 10. The imaging unit 10 is connected to the main body unit 50 via the cable unit 24 as the head unit 15. Further, the magnified observation apparatus 100 in FIG. 2 serves as a sample fixing unit for fixing the sample S, and a reflected light from the stage 30 on which the sample S is placed and the sample S fixed on the stage 30 incident through the optical system 11. Or the image pick-up element 12 which electrically reads transmitted light, and the stage elevator 20 as a focus adjustment part which changes the relative distance in the optical axis direction of the stage 30 and the optical system 11 and adjusts a focus. Furthermore, as shown in FIG. 3, the main body 50 indicates the focal length information regarding the relative distance between the stage 30 and the optical system 11 in the optical axis direction when the focal point is adjusted by the stage elevator 20, substantially perpendicular to the optical axis direction. A memory 53, a display means 52 for displaying an image read by the imaging device 12, a head unit 15, the stage elevator 20, and data are stored as a focal length information storage unit that stores the two-dimensional position information of the sample S in the plane. And an interface 54 for communication. The magnification observation apparatus 100 captures an observation image using the imaging element 12 that electrically reads reflected light or transmitted light from the sample S fixed to the stage 30 incident via the optical system 11, and displays the display unit 52. To display.
さらに拡大観察装置100は、表示手段52によって表示された画像上で領域を設定可能な領域設定部として操作部55と、領域設定部によって設定された領域に対応する試料Sの一部又は全部に関するメモリ53に記憶された焦点距離情報に基づいて、領域設定部によって設定された領域に対応する試料Sの光軸方向における高さを演算する制御部51を備える。この拡大観察装置100は、撮像素子12を用いて指定された領域に対応する試料Sの光軸方向における平均高さ(深さ)を演算できる。 Further, the magnification observation apparatus 100 relates to the operation unit 55 as a region setting unit capable of setting a region on the image displayed by the display unit 52 and a part or all of the sample S corresponding to the region set by the region setting unit. Based on the focal length information stored in the memory 53, a control unit 51 is provided that calculates the height in the optical axis direction of the sample S corresponding to the region set by the region setting unit. The magnification observation apparatus 100 can calculate an average height (depth) in the optical axis direction of the sample S corresponding to a region designated by using the imaging element 12.
この制御部51は、後述する光路シフト手段14を作動させる光路シフト制御手段81、複数の照明フィルタを用いて試料Sの同一の視野について撮像した複数の観察像を表示手段52に同時に表示した状態から、一を選択可能な画像選択手段82、画像選択手段82で選択された観察像の撮像に使用された照明フィルタの種別を含む像観察条件を、撮像条件として設定する撮像条件設定手段83、同一の試料Sを異なる照明フィルタを用いて撮像した少なくとも2つの観察像を合成する画像合成手段85、画像合成手段85で観察像を合成してカラーの高解像画像観察像を取得する動作を自動で行う自動合成手段84、照明光源63が発する光の波長帯域に含まれる複数の異なる波長域について、いずれかの波長域に選択的に切り替え可能な照明光選択手段90等の機能を実現する。この制御部51はASICやFPGA等のゲートアレイ等で構成できる。 This control unit 51 is a state in which a plurality of observation images taken for the same field of view of the sample S using a plurality of illumination filters are simultaneously displayed on the display unit 52 using an optical path shift control unit 81 for operating the optical path shift unit 14 described later. From the image selection means 82 that can select one, the imaging condition setting means 83 that sets the image observation condition including the type of the illumination filter used for imaging the observation image selected by the image selection means 82 as the imaging condition, An image synthesizing unit 85 that synthesizes at least two observation images obtained by imaging the same sample S using different illumination filters, and an operation of synthesizing the observation images by the image synthesizing unit 85 to obtain a color high-resolution image observation image. Automatic synthesizing means 84 that performs automatically, and a plurality of different wavelength ranges included in the wavelength range of light emitted from the illumination light source 63 can be selectively switched to any one of the wavelength ranges. To realize the functions such as the illumination light selection means 90. The control unit 51 can be composed of a gate array such as an ASIC or FPGA.
操作部55は本体部50又はコンピュータと有線もしくは無線で接続され、あるいはコンピュータに固定されている。一般的な操作部55としては、例えばマウスやキーボード、スライドパッド、トラックポイント、タブレット、ジョイスティック、コンソール、ジョグダイヤル、デジタイザ、ライトペン、テンキー、タッチパッド、アキュポイント等の各種ポインティングデバイスが挙げられる。またこれらの操作部55は、拡大観察用操作プログラムの操作の他、拡大観察装置100自体やその周辺機器の操作にも利用できる。さらに、インターフェース画面を表示するディスプレイ自体にタッチスクリーンやタッチパネルを利用して、画面上をユーザが手で直接触れることにより入力や操作を可能としたり、又は音声入力その他の既存の入力手段を利用、あるいはこれらを併用することもできる。図2の例では、操作部55はマウス等のポインティングデバイスで構成される。
(照明手段60)
The operation unit 55 is connected to the main body unit 50 or the computer in a wired or wireless manner, or is fixed to the computer. Examples of the general operation unit 55 include various pointing devices such as a mouse, keyboard, slide pad, track point, tablet, joystick, console, jog dial, digitizer, light pen, numeric keypad, touch pad, and accu point. In addition to the operation of the operation program for magnification observation, these operation units 55 can be used for operations of the magnification observation apparatus 100 itself and its peripheral devices. Furthermore, using a touch screen or touch panel on the display itself that displays the interface screen, the user can directly input or operate the screen by hand, or use voice input or other existing input means, Or these can also be used together. In the example of FIG. 2, the operation unit 55 is configured by a pointing device such as a mouse.
(Lighting means 60)
照明手段60は、撮像素子12に結像される試料Sを照明する照明光を生成する。照明手段60の照明光源63(図5)は、本体部50に内蔵され、光ファイバ61を介して照明光がヘッド部15の照明手段60に伝達される。照明手段60は、ヘッド部15に組み込み式としたり、ヘッド部15と脱着可能な別体のいずれも採用できる。また照明光の照明方式としては、落射照明や透過照明等が適宜利用できる。図2に示す照明手段60は、試料Sに落射光を照射するための落射照明60Aと、透過光を照射するための透過照明60Bを備えている。これらの照明は、光ファイバー61を介して本体部50と接続される。本体部50は光ファイバー61を接続するコネクタ62を備えると共に、コネクタ62を介して光ファイバー61に光を送出するための照明光源63を内蔵する。また落射照明60Aはリング状照明としている。リング状照明は、全周照明と側射照明を切り替えることができる。これを実現するため、照明光の一部をカットするターレット式のマスクや、リング状照明として複数のLEDを環状に配置し、一部のLEDをON/OFFする構成等が利用できる。
(照明光源63)
The illumination unit 60 generates illumination light that illuminates the sample S imaged on the image sensor 12. The illumination light source 63 (FIG. 5) of the illumination unit 60 is built in the main body unit 50, and illumination light is transmitted to the illumination unit 60 of the head unit 15 through the optical fiber 61. The illuminating means 60 can be incorporated in the head unit 15 or can be separated from the head unit 15. As the illumination method of illumination light, epi-illumination, transmission illumination, or the like can be used as appropriate. The illuminating means 60 shown in FIG. 2 includes an epi-illumination 60A for irradiating the sample S with epi-illumination and a transmissive illumination 60B for irradiating the transmitted light. These illuminations are connected to the main body 50 via the optical fiber 61. The main body 50 includes a connector 62 for connecting the optical fiber 61 and a built-in illumination light source 63 for sending light to the optical fiber 61 via the connector 62. The epi-illumination 60A is a ring-shaped illumination. The ring-shaped illumination can be switched between all-around illumination and side illumination. In order to realize this, a turret-type mask that cuts a part of the illumination light, a configuration in which a plurality of LEDs are arranged in a ring shape as ring-shaped illumination, and a part of the LEDs are turned on / off can be used.
(Illumination light source 63)
照明光源63としては、幅広い波長域の白色光を発する白色光源として、ハロゲンランプ、キセノンランプ、HIDランプ等が利用できる。また可視光のみならず赤外光を照射可能な光源が好ましい。特にハロゲンランプは、発光波長の波長域が広いため好ましい。また、単一の光源を利用するのみならず、複数の光源を備え、これらを同時に点灯して混色光を照明光としたり、あるいは切り替えて照明することもできる。さらにLED(Light Emitting Diode)やLD(Laser Diode)といった半導体発光素子を照明光源として利用することもできる。例えば、RGBの波長域を有するLEDを用意し、各LEDの点灯により照明光を赤、緑、青色にそれぞれ切り替えたり、これらの混色によって白色光を得ることができる。特にLEDはON/OFF応答性に優れるため、測定のスループットを向上できる利点も得られる。また長寿命で低消費電力であり、発熱量も少なく、機械的衝撃に強いといった特長も備える。あるいは、光源光の紫外線や可視光線で励起される蛍光体等の波長変換部材を利用した光源とすることもできる。これにより、1個のLEDでも白色光を発光できる。さらに、可視光以外に紫外光や赤外光を照射可能なLEDを光源として用いることもできる。例えば赤外光による観察は、不良品の解析や生体組織の組織分布等において有用である。
(LED照明)
As the illumination light source 63, a halogen lamp, a xenon lamp, an HID lamp, or the like can be used as a white light source that emits white light in a wide wavelength range. A light source capable of irradiating not only visible light but also infrared light is preferable. In particular, a halogen lamp is preferable because the wavelength range of the emission wavelength is wide. In addition to using a single light source, a plurality of light sources can be provided, and these can be turned on simultaneously to make mixed color light illumination light, or can be switched to illuminate. Furthermore, a semiconductor light emitting element such as an LED (Light Emitting Diode) or an LD (Laser Diode) can be used as an illumination light source. For example, an LED having an RGB wavelength range is prepared, and illumination light can be switched to red, green, and blue by turning on each LED, or white light can be obtained by mixing these colors. In particular, since the LED is excellent in ON / OFF responsiveness, there is an advantage that the measurement throughput can be improved. It also has features such as long life, low power consumption, low heat generation, and resistance to mechanical shock. Or it can also be set as the light source using wavelength conversion members, such as the fluorescent substance excited by the ultraviolet-ray of visible light, or visible light. Thereby, even one LED can emit white light. Further, an LED capable of emitting ultraviolet light or infrared light in addition to visible light can be used as a light source. For example, observation with infrared light is useful for analysis of defective products, tissue distribution of living tissue, and the like.
(LED lighting)
図12にこのような照明光源63’の例として、緑色、赤色、青色、白色に発光可能なLED G、R、B、Wを順に配列した環状のリング状照明60A’の例を示す。このリング状照明60A’は、図2に示すように光学系11および撮像素子12を有するヘッド部15の先端近傍の周囲に配置されて、試料Sを照明する。またこの照明光源63’は、照明光を選択する照明光選択手段90として発光素子選択手段91と電気的に接続されており、発光素子選択手段91によりLEDの選択及び点灯が制御される。すなわち、照明光として緑色を選択した場合は、緑色LED Gのみを点灯させ、また赤色、青色、白色の照明光が選択された場合は、各照明光に該当するLED R、B、Wが選択されて点灯制御される。このように異なる発光色のLEDで構成した照明光源は、発光色の変更を容易に行える利点が得られる。 As an example of such an illumination light source 63 ', FIG. 12 shows an example of an annular ring illumination 60A' in which LEDs G, R, B, and W that can emit green, red, blue, and white light are sequentially arranged. As shown in FIG. 2, the ring-shaped illumination 60 </ b> A ′ is disposed around the vicinity of the tip of the head unit 15 having the optical system 11 and the image sensor 12 to illuminate the sample S. The illumination light source 63 ′ is electrically connected to the light emitting element selecting means 91 as the illumination light selecting means 90 for selecting the illumination light, and the selection and lighting of the LEDs are controlled by the light emitting element selecting means 91. That is, when green is selected as the illumination light, only the green LED G is turned on, and when red, blue, and white illumination light is selected, the LEDs R, B, and W corresponding to each illumination light are selected. The lighting is controlled. Thus, the illumination light source comprised by LED of different luminescent color has the advantage that a luminescent color can be changed easily.
なおこの例ではLEDとして緑色G、赤色R、青色B、白色Wの4種類が一定周期で交互に並ぶように配置しているが、配置パターンや個数、発光色の組み合わせ等は適宜変更できることはいうまでもない。例えば、緑色LEDの出力を上げたい場合は緑色LEDをより多く配置したり、あるいはRGBの同時点灯で白色光を得る場合は、白色LEDを排除できる。またRGBの混色によって白色光に限られず種々の発光色を得ることができる。またフィルタを使用しないためフィルタの切り替えといった機械的な動作を不要とでき、電気信号のみでの安定した高速な照明光切り替えが実現される。またLEDは長寿命であるため、電球の交換等のメンテナンス作業も省力化できる。さらに、半導体発光素子はバルブに比べ小型であるため、複数種類の発光素子を省スペースで配置できる利点もある。例えば赤外光発光素子や紫外光発光素子も備えることで、照明光を可視光のみならず赤外光、紫外光等に切り替えることが容易に行える。このようにして、異なる波長域の発光素子を複数備える照明光源を照明光選択手段90で制御し、所望の波長域の発光素子を選択して点灯し照明光を照射することができる。
(フィルタ手段86;フィルタ選択手段88)
In this example, four types of LEDs, green G, red R, blue B, and white W, are arranged alternately at a constant cycle. However, the arrangement pattern, number, combination of emission colors, etc. can be changed as appropriate. Needless to say. For example, when it is desired to increase the output of the green LED, more green LEDs are arranged, or when white light is obtained by simultaneous lighting of RGB, the white LED can be eliminated. In addition, various emission colors can be obtained without being limited to white light by RGB color mixing. Further, since no filter is used, a mechanical operation such as filter switching is unnecessary, and stable high-speed illumination light switching using only an electric signal is realized. Further, since LEDs have a long life, maintenance work such as replacement of a light bulb can be saved. Furthermore, since the semiconductor light emitting element is smaller than the bulb, there is an advantage that a plurality of types of light emitting elements can be arranged in a space-saving manner. For example, by providing an infrared light emitting element and an ultraviolet light emitting element, it is possible to easily switch the illumination light to not only visible light but also infrared light, ultraviolet light, and the like. In this way, an illumination light source having a plurality of light emitting elements in different wavelength ranges can be controlled by the illumination light selecting means 90, and a light emitting element in a desired wavelength range can be selected and lit to irradiate illumination light.
(Filter means 86; Filter selection means 88)
照明光源63と試料固定部との間には、照明光選択手段90の一形態としてフィルタ手段86が配置される。照明手段60は、照明光源63からの白色光を、フィルタ手段86を介してRGBあるいは白色光を照明光として取り出すことができる。フィルタ手段86は複数の照明フィルタを備えており、フィルタ選択手段88によってこれらを切り替える。例えば、図4に示すように、回転式のターレットに赤色フィルタRF、青色フィルタBF、緑色フィルタGF、及び透過フィルタPFの各照明フィルタを設け、ターレットの回転によって機械的にこれらを切り替える。透過フィルタPFは照明光源63が照射する光の波長をすべて透過するものであり、典型的には開口である。青色フィルタBF、赤色フィルタRF、緑色フィルタGFは、それぞれの色に対応する波長域を透過するカラーフィルタであり、透過する波長域を規定したガラス等が利用できる。またカラーフィルタは、RGB3原色の他、これらの補色(例えばシアン・マゼンダ・イエロー)を適宜利用することもできる。その他、フィルタとして紫外光や赤外光を透過させるフィルタを利用することもできる。フィルタ選択手段88は、図5に示すようにターレットを回転させることで照明フィルタを切り替えることができる。ターレットはフィルタ回転モータ89の回転軸に固定されて、フィルタ回転モータ89により回転自在に制御される。またターレットには、フィルタ位置センサ87が備えられており、フィルタ位置センサ87の出力及びフィルタ回転モータ89の回転制御入力はフィルタ選択手段88に接続される。これによりフィルタ選択手段88は現在選択中の照明フィルタの種別を判別でき、またフィルタ回転モータ89を回転させることでターレットを所望の姿勢に回転でき、照明光源63の光軸に対し選択した照明フィルタを配置できる。ユーザはフィルタ選択手段88で照明フィルタを選択することで、所望の波長の照明光を照射できる。 A filter unit 86 is disposed between the illumination light source 63 and the sample fixing unit as one form of the illumination light selection unit 90. The illumination unit 60 can extract RGB light or white light from the illumination light source 63 as illumination light via the filter unit 86. The filter means 86 includes a plurality of illumination filters, and these are switched by a filter selection means 88. For example, as shown in FIG. 4, a rotary turret is provided with illumination filters of a red filter RF, a blue filter BF, a green filter GF, and a transmission filter PF, and these are mechanically switched by the rotation of the turret. The transmission filter PF transmits all wavelengths of light emitted from the illumination light source 63, and is typically an opening. The blue filter BF, the red filter RF, and the green filter GF are color filters that transmit the wavelength ranges corresponding to the respective colors, and glass or the like that defines the transmitted wavelength ranges can be used. In addition to the three primary colors RGB, these color complementary colors (for example, cyan, magenta, and yellow) can be used as appropriate for the color filter. In addition, a filter that transmits ultraviolet light or infrared light can be used as a filter. The filter selection means 88 can switch the illumination filter by rotating the turret as shown in FIG. The turret is fixed to the rotation shaft of the filter rotation motor 89 and is controlled to be rotatable by the filter rotation motor 89. The turret is provided with a filter position sensor 87, and the output of the filter position sensor 87 and the rotation control input of the filter rotation motor 89 are connected to the filter selection means 88. As a result, the filter selection unit 88 can determine the type of the currently selected illumination filter, and can rotate the turret to a desired posture by rotating the filter rotation motor 89, and the illumination filter selected with respect to the optical axis of the illumination light source 63. Can be placed. The user can irradiate illumination light of a desired wavelength by selecting an illumination filter with the filter selection means 88.
なお、照明フィルタの配置は、試料Sの透過光を観察する場合は照明光源63と試料Sとの間に配置し、試料Sの反射光もしくは励起光を観察する場合は、照明光源63と試料Sの間に配置するか、もしくは対物レンズと接眼レンズ又は撮像素子の間に配置する。加えてフィルタ手段86には、カラーフィルタ以外に、拡散フィルタ、偏光フィルタ等を備えることもできる。このようにフィルタ手段86は、フィルタを切り替えることで照明光の波長のみならず、強度、偏光状態等の特性を変化させることができる。また、フィルタを2段あるいは3段以上の複数構成とすることで、波長と強度、偏光状態等複数の特性を変化させることもできる。 The illumination filter is arranged between the illumination light source 63 and the sample S when the transmitted light of the sample S is observed, and when the reflected light or excitation light of the sample S is observed, the illumination light source 63 and the sample are arranged. S between the objective lens and the eyepiece or the image sensor. In addition, the filter means 86 can include a diffusion filter, a polarizing filter, and the like in addition to the color filter. Thus, the filter means 86 can change not only the wavelength of illumination light but also characteristics such as intensity and polarization state by switching the filter. In addition, a plurality of characteristics such as wavelength, intensity, polarization state, and the like can be changed by using a plurality of filters having two or more stages.
あるいは、ターレット式の照明フィルタに代わって、液晶RGBフィルタを用いて印加電圧によってR、G、Bと透過分光特性をスイッチング、若しくは透過を切り替えることもできる。この場合、フィルタ選択手段88は液晶RGBフィルタの印加電圧を制御して、照明光を選択できる。さらには、照明光源としてハロゲンランプ等の白色光に代わり、LEDやLD等の半導体発光素子を使用することもできる。例えば、RGBのLEDを用意し、各LEDを点灯させることで、照明光をRGBに切り替えでき、さらにRGBを同時に点灯させることで混色により白色光を得ることができる。またRGB3原色に限られず、その補色を利用することも可能である点は上述の通りである。
(撮像部10)
Alternatively, instead of the turret type illumination filter, R, G, B and transmission spectral characteristics can be switched or transmission can be switched by an applied voltage using a liquid crystal RGB filter. In this case, the filter selection unit 88 can select the illumination light by controlling the voltage applied to the liquid crystal RGB filter. Furthermore, instead of white light such as a halogen lamp as an illumination light source, a semiconductor light emitting element such as an LED or LD can be used. For example, by preparing RGB LEDs and turning on each LED, the illumination light can be switched to RGB, and by simultaneously turning on RGB, white light can be obtained by color mixing. Further, the present invention is not limited to the three primary colors of RGB but can use complementary colors as described above.
(Imaging unit 10)
撮像部10は、照明手段60により照明された観察対象の試料Sから、光学系11を介して入射する反射光を電気的に読み取る撮像素子12を備える。撮像素子12は、この例ではCMOSを利用しているが、CCD等、他の受光素子も利用できる。この撮像素子12は、照明光源63からフィルタ手段86を介して試料Sに照射された照明光に対する受光量の内、特定の波長について受光可能な単板の撮像素子を、異なる波長域に対応させた複数種類用意し、画素毎に一素子を配列した2次元カラー撮像素子であり、これによりカラー画像の撮像が可能となる。各撮像素子は、一定の画素間隔で配置しており、さらに隣接する画素同士が異なる波長の受光特性を備えるよう配置される。好ましくは、2次元カラー撮像素子は図1に示すようなベイヤー配列とする。撮像素子12で取得された画像は、必要に応じてメモリ53に保持される。なお、照明光の波長域に対応する撮像素子とは、照明光の波長域に対して感度の高い撮像素子であり、例えば照明光が赤色の場合は、赤色光の波長域に受光感度の高い撮像素子を指す。また撮像素子として照明光の補色を利用している場合は、該当する補色の領域に受光感度の高い撮像素子を指し、例えば赤色の照明光に対して赤色の補色である緑色領域に受光感度を有する撮像素子が該当する。
(光路シフト手段14)
The imaging unit 10 includes an imaging element 12 that electrically reads reflected light incident via the optical system 11 from the sample S to be observed illuminated by the illumination unit 60. In this example, the imaging device 12 uses a CMOS, but other light receiving devices such as a CCD can also be used. This image pickup device 12 is a single plate image pickup device that can receive light of a specific wavelength in the amount of received light with respect to the illumination light irradiated to the sample S from the illumination light source 63 through the filter means 86, and corresponds to different wavelength ranges. A two-dimensional color imaging device having a plurality of types prepared and one element for each pixel is arranged, thereby enabling a color image to be captured. Each image sensor is arranged at a constant pixel interval, and further, adjacent pixels are arranged to have light receiving characteristics of different wavelengths. Preferably, the two-dimensional color imaging device has a Bayer arrangement as shown in FIG. An image acquired by the image sensor 12 is held in the memory 53 as necessary. The imaging element corresponding to the wavelength range of the illumination light is an imaging element having high sensitivity to the wavelength range of the illumination light. For example, when the illumination light is red, the light reception sensitivity is high in the wavelength range of the red light. It refers to an image sensor. When the complementary color of the illumination light is used as the image sensor, the image sensor having a high light reception sensitivity is indicated in the corresponding complementary color region, for example, the light reception sensitivity is given to the green region which is a red complementary color with respect to the red illumination light. The imaging element which has is applicable.
(Optical path shifting means 14)
さらに拡大観察装置100は、撮像素子12の検出位置を相対的にシフトさせるための光路シフト手段14と、光路シフト手段14を作動させる光路シフト制御手段81とを備えている。具体的には、3以上の注目画素群について、注目画素群を構成する各撮像素子の画素の位置で受光信号が一巡して受光量が各々の位置で検出されるよう、撮像素子の画素間隔に相当する変位量分、注目画素群を構成するいずれかの撮像素子の検出位置を光路シフト手段14で相対的にシフトさせる。
(光路シフト制御手段81)
Furthermore, the magnification observation apparatus 100 includes an optical path shift unit 14 for relatively shifting the detection position of the image sensor 12 and an optical path shift control unit 81 for operating the optical path shift unit 14. Specifically, for three or more target pixel groups, the pixel interval of the image sensor so that the light reception signal makes a round at the position of each pixel of the image sensor constituting the target pixel group and the received light amount is detected at each position. The detection position of one of the image sensors constituting the target pixel group is relatively shifted by the optical path shift means 14 by the amount of displacement corresponding to.
(Optical path shift control means 81)
一方光路シフト制御手段81は、フィルタ選択手段88で選択された照明フィルタを介して所定波長の照明光が試料Sに照射される際、複数の撮像素子の内、該波長域に対応する撮像素子で受光量を検出するように、光路シフト手段14を作動させる。これにより、照明フィルタと撮像素子の選択及び画素ずらしを連動させることが可能となり、ユーザは面倒な切り替えや照明光とこれに応じた照明フィルタ、撮像素子の選択の組み合わせを意識することなく、高解像度の観察像を簡単に取得できる。 On the other hand, when the sample S is irradiated with illumination light of a predetermined wavelength via the illumination filter selected by the filter selection unit 88, the optical path shift control unit 81 is an image sensor corresponding to the wavelength region among the plurality of image sensors. The optical path shift means 14 is operated so as to detect the amount of received light. As a result, the selection of the illumination filter and the image sensor and the pixel shift can be linked, and the user can perform high-speed switching without cumbersome switching or illumination light and the combination of the illumination filter and the image sensor corresponding to the illumination light. A resolution observation image can be easily acquired.
図3の例では、撮像部10に光路シフト手段14が備えられており、画素ずらしによってCMOSの持つ解像度以上の高解像度を得ることができる。画素ずらしとは、例えば単板タイプについて特許文献2や、3板タイプについて特許文献3に記載されるように、圧電素子等を用いることにより、隣接する素子と素子(画素)との間の空間に、素子を物理的にシフトさせるピクセルシフトにより、例えば画素ピッチの半分だけ試料Sをずらして撮影した画像と、ずらす前の画像とを合成することにより高解像度化を図るものである。また1画素ピッチ分ずらして各画素でRGBのデータを取得することにより、色再現性も向上される。代表的な画像ずらしの機構としては、撮像素子12をアクチュエータAC等により移動させる撮像素子駆動方式、LPFを傾斜させるLPF傾斜方式、レンズを移動させるレンズ移動方式等がある。 In the example of FIG. 3, the optical path shift unit 14 is provided in the imaging unit 10, and a higher resolution than the resolution of the CMOS can be obtained by pixel shifting. The pixel shift is a space between an adjacent element and an element (pixel) by using a piezoelectric element or the like as described in Patent Document 2 for a single plate type and Patent Document 3 for a three-plate type, for example. In addition, by pixel shift that physically shifts the element, for example, an image obtained by shifting the sample S by half the pixel pitch and an image before the shift are combined with each other to increase the resolution. In addition, the color reproducibility is also improved by acquiring RGB data at each pixel by shifting by one pixel pitch. As typical image shifting mechanisms, there are an image sensor driving method in which the image sensor 12 is moved by an actuator AC, an LPF tilt method in which the LPF is tilted, a lens moving method in which the lens is moved, and the like.
画素ずらし機能を実行すると、図1に示すように、撮像素子がベイヤー配列でマトリクス状に画素毎に配置された状態において、光路シフト手段14は図6に示すように、隣接する2×2の画素位置にシフトさせるよう切り替えることができる。これにより、ベイヤー配列された異なる受光特性の撮像素子を、隣接する2×2の注目画素につき、一巡するように光路シフト手段14でシフトさせて、2×2のすべての画素位置で受光信号を取得することができ、高解像度の観察像を得ることができる。なお、光路シフト手段14で撮像素子を相対的にシフトさせるシフト量は、図6の例では撮像素子の画素間隔に相当する変位量分として、反時計回りに4回、計4画素分移動させているが、上下、左右等隣接する2画素のみ、あるいは3画素分だけ移動させることもできる。また、移動量は撮像素子の1画素分に限られず、1/2画素分や1/3画素分等とすることもできる。撮像素子を構成する各画素の受光感度のピーク位置やレンジに応じて移動量を調整することで、1画素分以下の移動量でも受光量を向上できるので、高解像度化を図ることができる。このように、撮像素子の画素間隔に相当する変位量分とは、画素ピッチと同等もしくはその整数倍に限られず、1/2画素分や1/3画素分といった分数倍も含まれる。
(表示手段52)
When the pixel shifting function is executed, as shown in FIG. 1, in the state in which the image pickup elements are arranged in a matrix in a Bayer array for each pixel, the optical path shifting means 14 has an adjacent 2 × 2 as shown in FIG. It can be switched to shift to the pixel position. As a result, the image pickup devices having different light receiving characteristics arranged in a Bayer array are shifted by the optical path shift means 14 so as to make a round for adjacent 2 × 2 pixels of interest, and light reception signals are transmitted at all 2 × 2 pixel positions. It is possible to obtain a high-resolution observation image. Note that the shift amount by which the image sensor is relatively shifted by the optical path shift means 14 is moved four times counterclockwise, a total of four pixels, as the amount of displacement corresponding to the pixel interval of the image sensor in the example of FIG. However, it is also possible to move only two adjacent pixels such as up and down, left and right, or 3 pixels. Further, the amount of movement is not limited to one pixel of the image sensor, and may be set to 1/2 pixel or 1/3 pixel. By adjusting the amount of movement according to the peak position and range of the light receiving sensitivity of each pixel constituting the image sensor, the amount of received light can be improved even with a moving amount of one pixel or less, so that high resolution can be achieved. Thus, the amount of displacement corresponding to the pixel interval of the image sensor is not limited to the pixel pitch or an integer multiple thereof, and includes fractional multiples such as 1/2 pixel and 1/3 pixel.
(Display means 52)
またこのような画像データやメモリ53に保持された設定内容は、表示手段52にて表示させることができる。表示手段52はCRTや液晶ディスプレイ、有機EL等のモニタが利用できる。また、制御部51に対して、ユーザが各種操作を行うための操作部55を接続している。操作部55はコンソールやマウス等の入力デバイスである。なおこの例においても表示手段や操作部は、本体部と一体的に組み込むことも、外付けの部材とすることもできる。さらに表示手段をタッチパネルで構成すれば、表示手段と操作部を一体に構成することもできる。 Further, such image data and setting contents held in the memory 53 can be displayed on the display means 52. As the display means 52, a monitor such as a CRT, a liquid crystal display, or an organic EL can be used. In addition, an operation unit 55 is connected to the control unit 51 for a user to perform various operations. The operation unit 55 is an input device such as a console or a mouse. Also in this example, the display means and the operation unit can be integrated with the main body unit or can be an external member. Furthermore, if the display means is configured by a touch panel, the display means and the operation unit can be configured integrally.
本体部50は、モータ制御回路22に対してステッピングモータ21の制御に関する制御データを入力することによって、試料固定部であるステージ30と、光学系11および撮像素子12を有するヘッド部15との光軸方向における相対距離、ここではz方向における高さを変化させる。具体的には、本体部50は、ステージ昇降器20の制御に必要な制御データをモータ制御回路22に入力することによってステッピングモータ21の回転を制御し、ステージ30の高さz(z方向の位置)を昇降させる。ステッピングモータ21は、回転に応じた回転信号を生成する。本体部50は、モータ制御回路22を介して入力される回転信号に基づいて、試料固定部と光学系11の光軸方向における相対距離に関する情報としてのステージ30の高さzを記憶する。このステージ30は、試料Sに対して観察位置の位置決めを行う観察位置決め手段として機能する。なお本実施の形態においては、ステージ30の高さを変化させることによって試料固定部と光学系11の光軸方向における相対距離を変化させる例を示したが、ステージを固定して光学系の高さ、例えばカメラの高さを変化させてもよい。また、ステージは拡大観察装置本体に設ける他、本体と別部材としたヘッド部に設けたり、あるいはステージを省略した撮像部をヘッド部に設けることもできる。ステージを省略した撮像部は、取り付けスタンドに装着したり、ユーザが手持ち可能とすることもできる。このようなヘッド部は拡大観察装置本体とケーブルにより接続される。 The main body 50 inputs the control data related to the control of the stepping motor 21 to the motor control circuit 22, whereby the light from the stage 30 that is the sample fixing unit and the head unit 15 that includes the optical system 11 and the image sensor 12 is obtained. The relative distance in the axial direction, here, the height in the z direction is changed. Specifically, the main body 50 controls the rotation of the stepping motor 21 by inputting control data necessary for controlling the stage elevator 20 to the motor control circuit 22, and the height z of the stage 30 (in the z direction). Position). The stepping motor 21 generates a rotation signal corresponding to the rotation. The main body 50 stores the height z of the stage 30 as information regarding the relative distance between the sample fixing unit and the optical system 11 in the optical axis direction based on the rotation signal input via the motor control circuit 22. The stage 30 functions as an observation positioning unit that positions the observation position with respect to the sample S. In the present embodiment, the example in which the relative distance in the optical axis direction between the sample fixing unit and the optical system 11 is changed by changing the height of the stage 30 is shown. However, the height of the optical system is fixed by fixing the stage. For example, the height of the camera may be changed. Further, in addition to providing the stage in the main body of the magnifying observation apparatus, the stage can be provided in a head part that is a separate member from the main body, or an imaging part in which the stage is omitted can be provided in the head part. The imaging unit from which the stage is omitted can be mounted on a mounting stand or can be held by the user. Such a head portion is connected to the magnifying observation apparatus main body by a cable.
撮像素子12は、x方向およびy方向に2次元状に配置された画素毎に受光量を電気的に読み取ることができる。撮像素子12上に結像された試料Sの像は、撮像素子12の各画素において受光量に応じて電気信号に変換され、撮像素子制御回路13においてさらにデジタルデータに変換される。本体部50は、撮像素子制御回路13において変換されたデジタルデータを受光データDとして、光軸方向(図3中のz方向)とほぼ垂直な面内(図3中のx、y方向)における試料Sの2次元位置情報としての画素の配置情報(x、y)と共にメモリ53に記憶する。ここで、光軸方向とほぼ垂直な面内とは、厳密に光軸に対して90°をなす面である必要はなく、その光学系および撮像素子における解像度において試料Sの形状を認識できる程度の傾きの範囲内にある観察面であればよい。 The image sensor 12 can electrically read the amount of received light for each pixel arranged two-dimensionally in the x and y directions. The image of the sample S formed on the image sensor 12 is converted into an electrical signal in accordance with the amount of received light in each pixel of the image sensor 12, and further converted into digital data in the image sensor control circuit 13. The main body 50 uses the digital data converted by the image sensor control circuit 13 as the received light data D in a plane (x and y directions in FIG. 3) substantially perpendicular to the optical axis direction (z direction in FIG. 3). The pixel arrangement information (x, y) as the two-dimensional position information of the sample S is stored in the memory 53. Here, the in-plane substantially perpendicular to the optical axis direction does not need to be a plane strictly forming 90 ° with respect to the optical axis, and is such that the shape of the sample S can be recognized by the resolution in the optical system and the image sensor. Any observation surface that falls within the range of the inclination of the angle may be used.
また、以上の説明では試料固定部の一例として、試料Sがステージ30に載置される例を示したが、例えばステージの代わりにアームを取り付け、その先端に試料Sを固定する構成とすることもできる。さらにヘッド部15は、カメラ取り付け部43に装着して使用する他、脱着可能として手持ち等の方法により所望の位置、角度に配置することもできる。
(制御部51)
In the above description, an example in which the sample S is placed on the stage 30 is shown as an example of the sample fixing unit. However, for example, an arm is attached instead of the stage and the sample S is fixed to the tip. You can also. Further, the head unit 15 can be used by being attached to the camera attachment unit 43, and can be arranged at a desired position and angle by a method such as hand-holding so as to be removable.
(Control unit 51)
制御部51は、撮像した観察画像を、表示手段52で表示可能な解像度に変換して表示するよう制御する。図2の拡大観察装置100においては、撮像部10が撮像素子12によって試料Sを撮像した観察画像を表示手段52に表示する。一般にCMOSやCCD等の撮像素子の性能は、表示手段での表示能力を上回ることが多いので、撮像した観察画像を一画面に表示するためには画像を間引く等して解像度を一画面で表示可能なサイズまで落とし、縮小表示している。撮像部10で読み取ったときの読取解像度を第一の解像度とすると、表示手段52においては第一の解像度よりも低い第二の解像度で表示されることとなる。 The control unit 51 controls the captured observation image to be displayed after being converted to a resolution that can be displayed by the display unit 52. In the magnifying observation apparatus 100 of FIG. 2, the imaging unit 10 displays an observation image obtained by imaging the sample S with the imaging element 12 on the display unit 52. In general, the performance of an image sensor such as a CMOS or CCD often exceeds the display capability of the display means, so in order to display the captured observation image on one screen, the resolution is displayed on one screen by thinning the image. Reduced to the possible size and reduced. Assuming that the reading resolution when reading by the imaging unit 10 is the first resolution, the display unit 52 displays the second resolution lower than the first resolution.
さらに、観察像の静止画を連続的に撮像し、これを表示手段52で表示する際にも、連続的に撮像画像を切り替えて表示することで、あたかも動画のように表示させてもよい。このような連続撮影モードは、制御部51によって通常の静止画像の撮影、表示モードと切り替えることができる。またこのような連続撮影に際しても、画素ずらし機能を働かせることもできる。
(拡大観察装置操作プログラム)
Further, when still images of observation images are continuously captured and displayed on the display unit 52, the captured images may be displayed by switching them continuously to display them as if they were moving images. Such a continuous shooting mode can be switched to normal still image shooting and display mode by the control unit 51. In addition, the pixel shifting function can also be used during such continuous shooting.
(Magnification observation device operation program)
図7に観察条件設定画面の一例として、照明条件選択画面200を示す。この図は拡大観察装置100を操作するための拡大観察装置操作プログラムのユーザインターフェース画面であり、操作画面は、拡大観察装置100の表示手段52や外部接続されたコンピュータ70のモニタ上に表示できる。ユーザは表示された画面上から、拡大観察装置100の各種設定や操作を行う。拡大観察装置操作プログラムは、本体部50に組み込まれている。
(照明光切り替えの手順)
FIG. 7 shows an illumination condition selection screen 200 as an example of the observation condition setting screen. This figure is a user interface screen of a magnification observation apparatus operation program for operating the magnification observation apparatus 100, and the operation screen can be displayed on the display means 52 of the magnification observation apparatus 100 or a monitor of a computer 70 connected externally. The user performs various settings and operations of the magnification observation apparatus 100 from the displayed screen. The magnification observation apparatus operation program is incorporated in the main body unit 50.
(Procedure for switching illumination light)
図7に示す照明条件選択画面200では、照明光を切り替えることができる。具体的には、「波長切替」ボタンを押すと、波長帯域を選択するダイアログが現れる。ここではプルダウンメニュー形式で、青色照明、緑色照明、赤色照明、赤外照明、高解像度カラー画像取得、赤外+カラー画像取得のいずれかを選択できる。照明手段60には複数の照明フィルタが用意されており、ここで選択した波長に応じて、図5に示すようにカラーフィルタが切り替わる。ここでは、照明光として白色光以外を選択した場合、画像を表示させる際、あるいは静止画を保存する際に常時画素ずらし機能が働くように設定されている。このような画素ずらしによって、解像感を損なうことなく単色の観察像を取得できる。
(撮像条件選択画面300)
In the illumination condition selection screen 200 shown in FIG. 7, illumination light can be switched. Specifically, when a “wavelength switching” button is pressed, a dialog for selecting a wavelength band appears. Here, in the pull-down menu format, one of blue illumination, green illumination, red illumination, infrared illumination, high-resolution color image acquisition, and infrared + color image acquisition can be selected. A plurality of illumination filters are prepared in the illumination means 60, and the color filters are switched as shown in FIG. 5 according to the wavelength selected here. Here, when a light other than white light is selected as the illumination light, the pixel shift function is set to always work when displaying an image or storing a still image. By such pixel shifting, a monochrome observation image can be acquired without impairing the resolution.
(Imaging condition selection screen 300)
さらに、本実施の形態では照明光を変化させた観察が簡便に行えることから、試料Sの同一視野に対して、複数の異なる照明光で取得した画像を並べて撮像条件選択画面300として表示し、ユーザが所望の画像を選択することで、選択した画像に設定された観察条件(照明光や照明フィルタ、撮像素子の選択等)に決定する観察条件のイージー設定機能も実現できる。撮像条件選択画面300の例としては、図8に示すように照明光を白色光、赤色光、緑色光、青色光としてそれぞれ撮像した観察像を、表示手段52を4分割して一覧表示したものが利用できる。ユーザはこの撮像条件選択画面300を画像選択手段82として、実際に得られた種々の観察像を対比しながら、所望の観察像を画面上から選択すると、選択された画像の撮像に用いた照明フィルタ、撮像素子12の組み合わせが読み出され、以降の観察においてこの条件が像観察条件として撮像条件設定手段83により自動的に設定される。また、撮像条件選択画面300で取得する観察像は、通常の観察像とする他、例えばフレームレートを落とす等してより短時間で簡易的に撮像した簡易観察像とすることもできる。簡易観察像を取得するための簡易撮像条件は、演算手段の撮像条件設定手段83が自動的に設定する。このようにして各観察像の撮像時間を短縮することで、複数枚の簡易観察像を短時間で取得できる。ここでは、「プレビュー機能」ボタン(図示せず)を押下することで、すべての照明フィルタを用いた簡易観察像を各々取得し、自動的に撮像条件選択画面300を表示する。これにより、ユーザは複数の照明フィルタの切り替え操作や観察像の取得、保存等の操作を行うことなく、短時間で像観察条件の異なる複数の観察像を取得でき、しかも実際に得られた画像イメージに基づいて感覚的に像観察条件を選択できるので、複数のパラメータの意味や相関、調整作業等に煩わされることなく、容易に所望の観察を行うことができる。なお図8の例では、照明光のみを変化させた例を示しているが、フレームレートや画素ずらしの有無等、その他の像観察条件を変更した撮像条件選択画面を構成することもできる。
(画像合成手段85)
Furthermore, in this embodiment, since the observation with the illumination light changed can be easily performed, the images acquired with a plurality of different illumination lights are displayed side by side as the imaging condition selection screen 300 for the same field of view of the sample S, When the user selects a desired image, an easy setting function of an observation condition that is determined as an observation condition (such as selection of illumination light, illumination filter, and image sensor) set in the selected image can be realized. As an example of the imaging condition selection screen 300, as shown in FIG. 8, observation images obtained by imaging illumination light as white light, red light, green light, and blue light are respectively displayed in a list by dividing the display means 52 into four. Is available. When the user selects the desired observation image from the screen while using the imaging condition selection screen 300 as the image selection means 82 and contrasts various actually obtained observation images, the illumination used for imaging the selected image. The combination of the filter and the image sensor 12 is read out, and this condition is automatically set by the imaging condition setting unit 83 as an image observation condition in subsequent observations. In addition to the normal observation image, the observation image acquired on the imaging condition selection screen 300 can be a simple observation image that is simply captured in a shorter time, for example, by reducing the frame rate. The simple imaging condition for acquiring the simple observation image is automatically set by the imaging condition setting unit 83 of the calculation unit. Thus, by shortening the imaging time of each observation image, a plurality of simple observation images can be acquired in a short time. Here, by pressing a “preview function” button (not shown), simple observation images using all the illumination filters are acquired, and the imaging condition selection screen 300 is automatically displayed. As a result, the user can acquire a plurality of observation images with different image observation conditions in a short time without performing a switching operation of a plurality of illumination filters, an operation of acquiring or storing an observation image, and the actually obtained image. Since the image observation conditions can be selected sensuously based on the image, desired observation can be easily performed without being bothered by the meaning, correlation, adjustment work, etc. of the plurality of parameters. Although the example of FIG. 8 shows an example in which only the illumination light is changed, an imaging condition selection screen in which other image observation conditions such as a frame rate and the presence / absence of pixel shift are changed can be configured.
(Image composition means 85)
さらに画像合成手段85を用いて、高分解能のカラー画像を取得することもできる。短波長の照明光で観察を行えば、分解能の高い画像が得られる。この性質を利用して、青色の照明光を用い、かつ画素ずらしを行うことによって、図9に示すような高分解能の単色画像を得ることができる。特に照明光の波長域を制限することで色収差の影響を抑制でき、これによって分解能を一層向上させる効果が得られる。ただしこの画像には青色の情報しかなく、フルカラー画像ではない。そこで、別途白色の照明光を用いたフルカラー画像を取得し(図10)、画像合成手段85で単色画像の輝度情報にフルカラー画像の色情報(色度、彩度)を重ね合わせることにより、図11に示すような分解能の高いカラー画像を得ることができる。すなわち、単板の撮像素子の内、波長の短い照明光を撮像可能な撮像素子、具体的には青色用の撮像素子を用いてモノクロの高解像度画像を撮像し、別途撮影したカラーの観察像と合成することで、高解像度のモノクロ観察像に色情報を加えて、カラーの高解像度観察像を得ることができる。 Furthermore, a high-resolution color image can be acquired using the image composition means 85. If observation is performed with illumination light having a short wavelength, an image with high resolution can be obtained. By utilizing this property and using blue illumination light and pixel shifting, a high-resolution monochromatic image as shown in FIG. 9 can be obtained. In particular, by limiting the wavelength range of the illumination light, the influence of chromatic aberration can be suppressed, thereby obtaining the effect of further improving the resolution. However, this image has only blue information and is not a full color image. Therefore, a full color image using white illumination light is obtained separately (FIG. 10), and the image composition means 85 superimposes the color information (chromaticity, saturation) of the full color image on the luminance information of the single color image. A color image with high resolution as shown in FIG. 11 can be obtained. In other words, among single-plate image sensors, an image sensor that can capture illumination light with a short wavelength, specifically, a monochrome high-resolution image is captured using a blue image sensor, and a color observation image taken separately. Can be combined with the high resolution monochrome observation image to obtain a color high resolution observation image.
従来の拡大観察装置では、一画素で検出できる色情報が単一であるため、カラー画像を得るためには、(1)各画素において検出できない色情報について、周囲に隣接する(該検出できない色情報を検出できる)画素の色情報に基づいて、色情報を予測したり、(2)いわゆる3CCD等の3板タイプの撮像素子を用いる等の必要があった。 In the conventional magnification observation apparatus, since color information that can be detected by one pixel is single, in order to obtain a color image, (1) color information that cannot be detected in each pixel is adjacent to the surroundings (the color that cannot be detected). There is a need to predict color information based on color information of pixels (which can detect information) and (2) to use a three-plate type imaging device such as a so-called 3CCD.
これに対し、上記の画像合成手段85による合成方法では、(1)の予測によるカラー化よりも分解能が高く、試料のエッジが鋭く現れるカラー画像が得られ、また(2)の3CCDよりも安価に構成できる。さらに3CCDに比べ撮像素子すなわちカメラのサイズも小さくできる。また画素ずらしは1画素分だけ画素をずらす他、1/2や1/3画素分だけずらすことも可能であり、同じ画素数の3CCDに比べてより高解像度の画像を取得できる利点も得られる。さらに、RGB各波長毎に画素ずらしを行う必要が無く、波長の短い高解像度の画像につき1回画素ずらしを行い、通常の白色光によるカラー画像を撮像して合成するのみで足りるため、短時間で高解像度のカラー画像を合成できるという利点も得られる。
(自動合成手段84)
On the other hand, in the synthesis method by the image synthesis means 85 described above, a color image having a higher resolution than the colorization by prediction of (1), a sharp edge of the sample can be obtained, and less expensive than 3CCD of (2). Can be configured. Furthermore, the size of the image sensor, that is, the camera can be reduced as compared with 3CCD. In addition to shifting the pixel by one pixel, it is also possible to shift the pixel by 1/2 or 1/3 pixel, and there is an advantage that a higher resolution image can be obtained compared to 3CCD having the same number of pixels. . Furthermore, it is not necessary to shift the pixels for each wavelength of RGB, and it is sufficient to shift the pixels once for a high-resolution image with a short wavelength and to synthesize and synthesize a color image with ordinary white light. The advantage of being able to synthesize a high-resolution color image is also obtained.
(Automatic synthesis means 84)
さらに、この一連の画像取得し、画像を合成する工程を、ユーザが手動で行うことなく、自動合成手段84で自動的に行わせることもできる。これにより、ユーザは高解像度のカラー画像を簡単に取得できるようになり、高精細な観察が実現される。自動合成手段84で合成画像を自動的に取得する手順は、ユーザが図7に示す拡大観察装置操作プログラムの操作画面上から、「高解像度カラー画像取得」ボタンを押下すると、自動合成手段84が、(1)フィルタ選択手段88に対して青色フィルタBFを選択する指示を送ると共に、光路シフト制御手段81に光路シフト手段14を作動させて、青色の撮像素子を各画素位置において撮像し合成した青色波長域の高解像度観察像を得る動作;
(2)フィルタ選択手段88に対して透過フィルタPFを選択する指示を送ると共に、光路シフト制御手段81に光路シフト手段14を作動させて、すべての撮像素子を各画素位置において撮像した白色波長域のカラー観察像を得る動作;
(3)画像合成手段85で、高解像度観察像にカラー観察像の色情報を合成して、カラーの高解像画像観察像を合成させる動作
を自動で行わせる。これにより、カラーの高解像度画像を、ほぼワンタッチで取得でき、ユーザの使い勝手は極めて高い。なお、上記(1)、(2)の動作は、いずれを先に行ってもよい。すなわち、先に白色光でカラー画像を撮像した後、青色高解像画像を撮像して合成することでも、同様の結果を得ることができる。また、上記の例では青色照明光を使用して高解像度画像を撮像したが、観察用途に応じて、緑色、赤色照明光と白色光とを合成することもできる。赤色光や緑色光の照明による観察像は、寸法計測用途でのエッジ検出等において有益である。例えば着色された反射率の低いワークのエッジ部分を強調して、エッジ検出を容易にできる。またこれらの色に限られず、用途に応じて種々の照明光が利用でき、例えば照明光を黄色にすれば、感光に敏感なイエロールームでの画像測定が可能となる。さらに、青色光、緑色光、赤色光で各々撮像した単色画像を合成することでも、高解像度のカラー画像を取得できる。この場合は、3枚の観察像を取得するため、撮像時間が長くかかる一方、RGBそれぞれの波長成分につき輝度信号を取得できるため、より鮮明な画像を取得できる利点が得られる。
(拡大観察装置の使用方法)
Furthermore, the automatic synthesizing unit 84 can automatically perform the steps of acquiring a series of images and synthesizing the images without the user manually performing the steps. As a result, the user can easily obtain a high-resolution color image, and high-definition observation is realized. The procedure for automatically acquiring the composite image by the automatic combining means 84 is as follows. When the user presses the “acquire high resolution color image” button on the operation screen of the magnification observation apparatus operation program shown in FIG. (1) An instruction to select the blue filter BF is sent to the filter selection means 88, and the optical path shift means 14 is operated by the optical path shift control means 81 so that the blue image pickup device is imaged at each pixel position and synthesized. Operation to obtain a high-resolution observation image in the blue wavelength range;
(2) Sending an instruction to select the transmission filter PF to the filter selection unit 88 and operating the optical path shift unit 14 to the optical path shift control unit 81 so that all image sensors are imaged at each pixel position. To obtain a color observation image of
(3) The image synthesizing unit 85 automatically performs the operation of synthesizing the color information of the color observation image with the high resolution observation image and synthesizing the color high resolution image observation image. As a result, a color high-resolution image can be acquired with almost one touch, and the user-friendliness is extremely high. Any of the operations (1) and (2) may be performed first. That is, the same result can be obtained by first capturing a color image with white light and then capturing and synthesizing a blue high-resolution image. In the above example, a high-resolution image is captured using blue illumination light. However, green and red illumination light and white light can be combined depending on the observation application. An observation image obtained by illumination with red light or green light is useful for edge detection or the like in dimension measurement applications. For example, it is possible to enhance edge detection by emphasizing the edge portion of a colored workpiece having a low reflectance. In addition to these colors, various illumination lights can be used depending on the application. For example, if the illumination light is yellow, it is possible to measure an image in a yellow room sensitive to light exposure. Furthermore, a high-resolution color image can also be acquired by synthesizing single-color images captured with blue light, green light, and red light. In this case, since three observation images are acquired, it takes a long imaging time. On the other hand, since a luminance signal can be acquired for each wavelength component of RGB, there is an advantage that a clearer image can be acquired.
(How to use the magnifier)
以上の拡大観察装置100を用いて、解像度の高い鮮明な観察像を撮像し、表示手段52に表示させて観察することができる。ユーザは目的に応じて選択した特定波長域の光を試料に対して照射する。例えば解像度を向上させる用途においては波長の短い青色照明、透過率を向上させる用途においては波長の長い赤色照明、可視光を透過しない試料の内部を観察する用途においては赤外照明等である。また赤外照明と白色光照明を組み合わせることで、試料の内部と外部を同時に観察することができる。例えば観察対象の試料がICチップの場合、赤外線の効果によりシリコン内部に存在する構造物を確認できる一方で、白色光によりチップ表面上にマーキングされている番号等の文字情報を認識できる。このように赤外光を併用すれば、試料の内部と外部の両方を観察できる利点が得られる。 Using the magnification observation apparatus 100 described above, a clear observation image with high resolution can be taken and displayed on the display means 52 for observation. The user irradiates the sample with light in a specific wavelength range selected according to the purpose. For example, blue illumination with a short wavelength is used for improving the resolution, red illumination with a long wavelength is used for improving the transmittance, and infrared illumination is used for observing the inside of a sample that does not transmit visible light. Further, by combining infrared illumination and white light illumination, the inside and outside of the sample can be observed simultaneously. For example, when the sample to be observed is an IC chip, the structure existing in the silicon can be confirmed by the effect of infrared rays, while the character information such as the number marked on the chip surface can be recognized by white light. Thus, when infrared light is used together, there is an advantage that both the inside and the outside of the sample can be observed.
これら照明光の組み合わせは、フィルタ選択手段88を用いて、光源光に対して適切な照明フィルタをフィルタ手段86から選択する。画像撮影時には、ユーザがフィルタ選択手段88で選択した照明光に対し、撮像素子において最も感度の高いカラーフィルタの画素情報のみを撮像素子制御回路13が選択して観察像を取得する。さらに画素ずらし機能によって、光路シフト手段14として2次元カラー撮像素子に微細なアクチュエータACを連結させ、図6に示すように、選択した素子を光路シフト手段14がピクセル単位で上下左右に移動させて複数回撮影を行う。このようにして得られた画素情報を元に全体の画像情報を再構築することで、高解像度の単一色(モノクロ)画像が得られる。このように、ユーザが選択した照射光の波長に応じてR・G・B3色のうちから最適な画素情報を選択的に利用した高画質の画像を作成することができる。例えば、図7に示す拡大観察装置の操作画面上からユーザが照射光として青色光を選択した場合には、最も感度の高い撮像素子の画素は青色カラーフィルタの画素である。そこで、赤、緑の画素情報は無視して、画素ずらし機能を用いることによって青の色情報だけで画像を作成する。これによって、通常のカラー撮像素子を用いたカメラを利用しながら、照明条件によってカメラの解像度と感度を損なうことなく、最適な観察画像を取得することが可能となる。 The combination of these illumination lights uses the filter selection means 88 to select an appropriate illumination filter for the light source light from the filter means 86. At the time of image capture, the image sensor control circuit 13 selects only the pixel information of the color filter with the highest sensitivity in the image sensor for the illumination light selected by the filter selection means 88, and acquires an observation image. Further, by the pixel shifting function, a fine actuator AC is connected to the two-dimensional color imaging device as the optical path shifting means 14, and the selected path is moved by the optical path shifting means 14 in the vertical and horizontal directions in units of pixels as shown in FIG. Take multiple shots. By reconstructing the entire image information based on the pixel information obtained in this manner, a high-resolution single color (monochrome) image can be obtained. In this manner, a high-quality image can be created that selectively uses optimal pixel information from among the R, G, and B colors according to the wavelength of irradiation light selected by the user. For example, when the user selects blue light as the irradiation light from the operation screen of the magnification observation apparatus shown in FIG. 7, the pixel of the image sensor with the highest sensitivity is the pixel of the blue color filter. Therefore, red and green pixel information is ignored, and an image is created using only the blue color information by using the pixel shifting function. This makes it possible to obtain an optimal observation image without damaging the resolution and sensitivity of the camera depending on illumination conditions while using a camera using a normal color image sensor.
本発明の拡大観察装置、拡大画像観察方法、拡大画像観察プログラムは、顕微鏡や反射、透過型等のデジタルマイクロスコープ、デジタルカメラに好適に利用できる。また、本技術を蛍光顕微鏡に適用する場合、照明光に対する試料からの反射光若しくは透過光は、励起光として読み替えることができる。 Magnifying observation apparatus, an enlarged image observation method of the present invention, magnified image observation program is microscope or reflection, digital microscope of the transmission type or the like can be suitably used in a digital camera. In addition, when the present technology is applied to a fluorescence microscope, reflected light or transmitted light from a sample with respect to illumination light can be read as excitation light.
100…拡大観察装置
10…撮像部
11…光学系
12…撮像素子;13…撮像素子制御回路
14…光路シフト手段;15…ヘッド部
20…ステージ昇降器;21…ステッピングモータ;22…モータ制御回路
24…ケーブル部
30…ステージ
43…カメラ取り付け部
50…本体部;51…制御部;52…表示手段
53…メモリ;54…インターフェイス;55…操作部
60…照明部;60A…落射照明;60B…透過照明;60A’…リング状照明
61…光ファイバー;62…コネクタ;63、63’…照明光源
70…コンピュータ
81…光路シフト制御手段
82…画像選択手段
83…撮像条件設定手段
84…自動合成手段
85…画像合成手段
86…フィルタ手段
87…フィルタ位置センサ
88…フィルタ選択手段
89…フィルタ回転モータ
90…照明光選択手段
91…発光素子選択手段
200…照明条件選択画面
300…撮像条件選択画面
S…試料
AC…アクチュエータ
RF…赤色フィルタ;BF…青色フィルタ;GF…緑色フィルタ;PF…透過フィルタ
R…赤色LED;G…緑色LED;;B…青色LED;W…白色LED
DESCRIPTION OF SYMBOLS 100 ... Magnification observation apparatus 10 ... Image pick-up part 11 ... Optical system 12 ... Image pick-up element; 13 ... Image pick-up element control circuit 14 ... Optical path shift means; 15 ... Head part 20 ... Stage elevator; 21 ... Stepping motor; 24 ... Cable unit 30 ... Stage 43 ... Camera mounting unit 50 ... Main body unit; 51 ... Control unit; 52 ... Display means 53 ... Memory; 54 ... Interface; 55 ... Operation unit 60 ... Illumination unit; Transmitted illumination; 60A '... ring illumination 61 ... optical fiber; 62 ... connector; 63, 63' ... illumination light source 70 ... computer 81 ... optical path shift control means 82 ... image selection means 83 ... imaging condition setting means 84 ... automatic synthesis means 85 ... Image synthesis means 86 ... Filter means 87 ... Filter position sensor 88 ... Filter selection means 89 ... Filter rotation motor 9 Illumination light selection means 91 ... Light emitting element selection means 200 ... Illumination condition selection screen 300 ... Imaging condition selection screen S ... Sample AC ... Actuator RF ... Red filter; BF ... Blue filter; GF ... Green filter; PF ... Transmission filter R ... Red LED; G ... Green LED ;; B ... Blue LED; W ... White LED
Claims (10)
少なくとも可視光の領域において所定の波長帯域のスペクトルを有する照明光用の照明光源と、
前記照明光源が発する光の波長帯域に含まれる複数の異なる波長域について、いずれかの波長域に切り替え可能な照明光選択手段と、
前記照明光源が発する光の波長を前記照明光選択手段で選択された波長域とした照明光で試料に照射し、該照明光に対する受光量のうち特定の波長域について受光可能な単板の撮像素子であって、複数が画素毎に配列されると共に、一定の画素間隔で隣接する画素同士では異なる波長域の受光特性を備える素子が配置されてなる複数の撮像素子と、
異なる波長域の受光特性を備える撮像素子同士が相互に隣接して配置される3以上の注目画素群について、注目画素群を構成する各撮像素子の画素の位置を一巡して受光量が各々の位置で検出されるよう、前記撮像素子の画素間隔に相当する変位量分、注目画素群を構成するいずれかの撮像素子の検出位置を相対的にシフトさせるための光路シフト手段と、
前記照明光選択手段で選択された波長域の照明光が試料に照射される際、注目画素群を構成する各撮像素子の画素の各々の位置において、前記複数の撮像素子の内、該波長域に対応する撮像素子で受光量を検出するように、前記光路シフト手段を作動させる光路シフト制御手段と、
を備えることを特徴とする拡大観察装置。 A magnification observation apparatus that irradiates a sample to be imaged with illumination light, detects the amount of reflected light or transmitted light of the illumination light, and can capture an observation image of the sample,
An illumination light source for illumination light having a spectrum of a predetermined wavelength band at least in a visible light region;
For a plurality of different wavelength ranges included in the wavelength band of light emitted from the illumination light source, illumination light selection means that can be switched to any wavelength range,
Imaging of a single plate capable of receiving light in a specific wavelength region out of the amount of light received with respect to the illumination light by irradiating the sample with illumination light having a wavelength of light emitted from the illumination light source selected by the illumination light selection means A plurality of image pickup elements in which a plurality of elements are arranged for each pixel, and elements having light receiving characteristics in different wavelength ranges are arranged between adjacent pixels at a fixed pixel interval;
With respect to three or more target pixel groups in which image sensors having light reception characteristics in different wavelength ranges are arranged adjacent to each other, the amount of received light is determined by making a round of the positions of the pixels of each image sensor constituting the target pixel group. An optical path shifting means for relatively shifting the detection position of any one of the imaging elements constituting the target pixel group by a displacement amount corresponding to the pixel interval of the imaging element so as to be detected at a position;
When the sample is irradiated with illumination light in the wavelength range selected by the illumination light selection means, the wavelength range of the plurality of image sensors at each position of each pixel of the image sensor constituting the pixel group of interest. An optical path shift control means for operating the optical path shift means so as to detect the amount of light received by the image sensor corresponding to
A magnifying observation apparatus comprising:
前記光路シフト手段が作動することにより検出された受光量に基づいて、前記照明光選択手段で選択された波長域に対応する単一色の画像を作成可能に構成されることを特徴とする拡大観察装置。 Magnified observation characterized in that a single color image corresponding to the wavelength range selected by the illumination light selection means can be created based on the amount of received light detected by operating the optical path shifting means apparatus.
前記照明光選択手段が、
前記照明光源と試料との間に配置され、前記照明光源が発する光を、異なる波長域の照明光として取り出す複数の照明フィルタを切り替え可能に備えるフィルタ手段と、
前記フィルタ手段が備える複数の照明フィルタから、所望の照明フィルタを選択するためのフィルタ選択手段と、
を含むことを特徴とする拡大観察装置。 In the enlarged image observation apparatus according to claim 1 or 2 ,
The illumination light selecting means is
Filter means arranged between the illumination light source and the sample and provided with a plurality of illumination filters capable of switching light emitted from the illumination light source as illumination light in different wavelength ranges, and
Filter selection means for selecting a desired illumination filter from a plurality of illumination filters provided in the filter means;
A magnifying observation apparatus comprising:
前記フィルタ手段が、照明フィルタとして、前記照明光源が照射する光の波長域を略全域で透過する透過フィルタと、青色成分の波長域を透過させる青色フィルタを少なくとも備えることを特徴とする拡大観察装置。 In the enlarged image observation apparatus according to claim 3 ,
The magnifying observation apparatus, wherein the filter means includes, as an illumination filter, at least a transmission filter that transmits the wavelength range of the light emitted from the illumination light source over substantially the entire wavelength range and a blue filter that transmits the wavelength range of the blue component. .
前記撮像素子で撮像された観察像を表示可能な表示手段と、
前記フィルタ手段が備える複数の照明フィルタを用いて、試料の同一の視野について撮像した複数の観察像を前記表示手段に同時に表示した状態から、一を選択可能な画像選択手段と、
前記画像選択手段で選択された観察像の撮像に使用された照明フィルタの種別を含む像観察条件を、撮像条件として設定する撮像条件設定手段と、
を備えることを特徴とする拡大観察装置。 In the magnified image observation device according to claim 3 or 4 , further,
Display means capable of displaying an observation image captured by the image sensor;
An image selection means capable of selecting one from a state in which a plurality of observation images captured with respect to the same field of view of the sample are simultaneously displayed on the display means using a plurality of illumination filters provided in the filter means ;
Imaging condition setting means for setting an image observation condition including the type of illumination filter used for imaging the observation image selected by the image selection means as an imaging condition;
A magnifying observation apparatus comprising:
同一の試料を異なる照明フィルタを用いて撮像した少なくとも2つの観察像を合成する画像合成手段を備えることを特徴とする拡大観察装置。 In the enlarged image observation device according to any one of claims 3 to 5 ,
An magnifying observation apparatus comprising: an image synthesizing unit that synthesizes at least two observation images obtained by imaging the same sample using different illumination filters.
前記画像合成手段で合成される少なくとも2つの観察像は、
一の観察像が、前記照明光源が照射する光の波長域を略全域で透過する透過フィルタを用いて、前記光路シフト手段を作動させて各画素位置においてすべての撮像素子で撮像した白色波長域のカラー画像であり、
他の観察像が、青色成分の波長域を透過させる青色フィルタを用いて、前記光路シフト手段を作動させて各画素位置において青色の撮像素子で撮像した青色波長域の高解像度観察像であることを特徴とする拡大観察装置。 In the magnified image observation device according to claim 6 ,
At least two observation images synthesized by the image synthesis means are:
A white wavelength range in which one observation image is captured by all image sensors at each pixel position by operating the optical path shifting means using a transmission filter that transmits the wavelength range of the light emitted by the illumination light source in substantially the entire region. Is a color image of
The other observation image is a high-resolution observation image in the blue wavelength range imaged by the blue image sensor at each pixel position by operating the optical path shifting means using a blue filter that transmits the wavelength range of the blue component. Magnifying observation device characterized by
前記画像合成手段で観察像を合成する際、
前記フィルタ選択手段で前記青色フィルタを選択すると共に、前記光路シフト制御手段が前記光路シフト手段を作動させて、青色照明光に対応した青色の撮像素子を各画素位置において撮像し合成した青色波長域の高解像度観察像を得る動作と、
前記フィルタ選択手段で前記透過フィルタを選択すると共に、前記光路シフト制御手段が前記光路シフト手段を作動させて、すべての撮像素子を各画素位置において撮像した白色波長域のカラー観察像を得る動作と、
前記画像合成手段で、前記高解像度観察像にカラー観察像の色情報を合成して、カラーの高解像画像観察像を取得する動作と、
を自動で行う自動合成手段を備えることを特徴とする拡大観察装置。 The magnified image observation apparatus according to claim 7 , further comprising:
When synthesizing the observation image by the image synthesizing means,
A blue wavelength range in which the blue filter is selected by the filter selection unit, and the optical path shift control unit operates the optical path shift unit to capture and synthesize a blue image sensor corresponding to blue illumination light at each pixel position. To obtain a high-resolution observation image of
An operation of selecting the transmission filter by the filter selection unit and operating the optical path shift unit by the optical path shift control unit to obtain a color observation image in a white wavelength region obtained by imaging all the image sensors at each pixel position; ,
An operation of combining the color information of the color observation image with the high-resolution observation image to obtain a color high-resolution image observation image by the image synthesis means;
A magnifying observation apparatus comprising an automatic synthesizing means for automatically performing the above.
撮像対象の試料に照明光を照射し、該照明光の反射光又は透過光の受光量を前記撮像手段で検出して、試料の観察像を撮像する拡大観察方法であって、
照明光の波長域の選択を促す工程と、
少なくとも可視光の領域において所定の波長帯域のスペクトルを有する照明光用の照明光源からの光を、前記選択された波長域に従って切り替える工程と、
前記切り替えられた波長域の照明光を試料に照射して得られる受光量を、前記撮像手段に配置される撮像素子の内、前記選択された波長域の照明光と対応する受光特性を備える撮像素子で撮像する工程と、
前記撮像素子の画素間隔に相当する変位量分、前記撮像素子を相対的にシフトさせて、シフト後の異なる位置での受光量を前記撮像素子で検出する工程と、
シフト及び受光量検出工程を、前記撮像素子と相互に隣接する3以上の注目画素群について、注目画素群を構成する各撮像素子の画素の各々の位置を一巡するように繰り返す工程と、
注目画素群の各画素位置で検出された受光量を合成して、前記選択された波長域の照明光につき観察像を取得する工程と、
を含むことを特徴とする拡大観察方法。 Using an enlargement observation apparatus including an imaging unit in which imaging elements having light receiving characteristics of different wavelengths are arranged adjacent to each other at a fixed pixel interval,
A magnification observation method of irradiating a sample to be imaged with illumination light, detecting the amount of reflected light or transmitted light of the illumination light with the imaging means, and capturing an observation image of the sample,
Urging the selection of the wavelength range of the illumination light;
Switching light from an illumination light source for illumination light having a spectrum in a predetermined wavelength band at least in a visible light region according to the selected wavelength region;
Imaging having a light receiving characteristic corresponding to the illumination light of the selected wavelength range among the imaging devices arranged in the imaging means, the received light amount obtained by irradiating the sample with illumination light of the switched wavelength range A step of imaging with an element;
A step of relatively shifting the image sensor by a displacement amount corresponding to a pixel interval of the image sensor, and detecting a received light amount at a different position after the shift by the image sensor;
A step of repeating the shift and received light amount detection step so as to make a round of the positions of the pixels of each image sensor constituting the target pixel group for three or more target pixel groups mutually adjacent to the image sensor ;
Synthesizing the amount of received light detected at each pixel position of the pixel group of interest to obtain an observation image for the illumination light in the selected wavelength range; and
A magnified observation method comprising:
照明光の波長域の選択を促す機能と、
少なくとも可視光の領域において所定の波長帯域のスペクトルを有する照明光用の照明光源が発する光を、選択された波長域に従って切り替える機能と、
切り替えられた波長域の照明光を試料に照射して得られる受光量を、前記撮像手段に配置される撮像素子の内、選択された波長域の照明光と対応する受光特性を備える撮像素子で撮像する機能と、
前記撮像素子の画素間隔に相当する変位量分、前記撮像素子を相対的にシフトさせて、シフト後の異なる位置での受光量を前記撮像素子で検出する機能と、
シフト及び受光量検出機能を、前記撮像素子と相互に隣接する3以上の注目画素群について、注目画素群を構成する各撮像素子の画素の各々の位置を一巡するように繰り返す機能と、
注目画素群の各画素位置で検出された受光量を合成して、前記選択された波長域の照明光につき観察像を取得する機能と、
をコンピュータに実現させることを特徴とする拡大画像観察プログラム。 By operating an enlargement observation apparatus including an image pickup unit in which image pickup elements having light receiving characteristics of different wavelengths are arranged adjacent to each other at a fixed pixel interval, illumination light is irradiated onto a sample to be imaged, and reflected light of the illumination light Or a magnified observation program for detecting an amount of transmitted light received by the imaging means and capturing an observation image of the sample,
A function to prompt the selection of the wavelength range of the illumination light,
A function of switching light emitted from an illumination light source for illumination light having a spectrum of a predetermined wavelength band at least in a visible light region according to a selected wavelength region;
The amount of received light obtained by irradiating the sample with illumination light in the switched wavelength range is an image pickup device having a light receiving characteristic corresponding to illumination light in a selected wavelength range among the image pickup devices arranged in the image pickup means. A function to capture images,
A function of relatively shifting the image sensor by a displacement amount corresponding to the pixel interval of the image sensor, and detecting the received light amount at a different position after the shift by the image sensor;
A function of repeating the shift and received light amount detection function so as to make a round of the position of each pixel of each image sensor that constitutes the target pixel group for three or more target pixel groups adjacent to each other ;
A function of synthesizing the amount of received light detected at each pixel position of the pixel group of interest and obtaining an observation image for illumination light in the selected wavelength range;
A magnified image observing program characterized in that a computer is realized.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007305114A JP5118948B2 (en) | 2007-11-26 | 2007-11-26 | Magnification observation apparatus, magnification image observation method, magnification image observation program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2007305114A JP5118948B2 (en) | 2007-11-26 | 2007-11-26 | Magnification observation apparatus, magnification image observation method, magnification image observation program |
Related Child Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012142689A Division JP5347051B2 (en) | 2012-06-26 | 2012-06-26 | Magnification observation apparatus, magnification observation method, and magnification observation program |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2009128726A JP2009128726A (en) | 2009-06-11 |
JP2009128726A5 JP2009128726A5 (en) | 2010-11-04 |
JP5118948B2 true JP5118948B2 (en) | 2013-01-16 |
Family
ID=40819691
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2007305114A Expired - Fee Related JP5118948B2 (en) | 2007-11-26 | 2007-11-26 | Magnification observation apparatus, magnification image observation method, magnification image observation program |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5118948B2 (en) |
Families Citing this family (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5533275B2 (en) * | 2010-05-31 | 2014-06-25 | 株式会社ニコン | Display program, display device, and microscope system |
US9930316B2 (en) | 2013-08-16 | 2018-03-27 | University Of New Brunswick | Camera imaging systems and methods |
CA2811260C (en) * | 2010-10-22 | 2013-10-29 | University Of New Brunswick | Camera imaging systems and methods |
JP5673002B2 (en) * | 2010-11-15 | 2015-02-18 | ソニー株式会社 | Focal position information detection apparatus, microscope apparatus, and focal position information detection method |
JP5722060B2 (en) * | 2011-01-27 | 2015-05-20 | Hoya株式会社 | Intraocular microscope and filter unit |
JP2012185210A (en) * | 2011-03-03 | 2012-09-27 | Hairokkusu:Kk | Digital microscope |
JP5822067B2 (en) * | 2011-09-01 | 2015-11-24 | 横河電機株式会社 | Microscope equipment |
JP5865667B2 (en) * | 2011-10-19 | 2016-02-17 | 株式会社キーエンス | Magnifying observation device |
GB2512793B (en) * | 2012-01-30 | 2018-06-27 | Leica Microsystems | Microscope with wireless radio interface and microscope system |
JP5347051B2 (en) * | 2012-06-26 | 2013-11-20 | 株式会社キーエンス | Magnification observation apparatus, magnification observation method, and magnification observation program |
JP6253225B2 (en) * | 2012-09-18 | 2017-12-27 | オリンパス株式会社 | Microscope system and microscope observation method |
JP6334099B2 (en) * | 2013-06-24 | 2018-05-30 | Hoya Candeo Optronics株式会社 | Light irradiation device |
JP6325815B2 (en) | 2013-12-27 | 2018-05-16 | 株式会社キーエンス | Magnification observation apparatus, magnification image observation method, magnification image observation program, and computer-readable recording medium |
JP6355334B2 (en) * | 2013-12-27 | 2018-07-11 | 株式会社キーエンス | Magnification observation apparatus, magnification image observation method, magnification image observation program, and computer-readable recording medium |
JP2015127779A (en) | 2013-12-27 | 2015-07-09 | 株式会社キーエンス | Microscope and magnifying observation method using the same |
JP6270473B2 (en) * | 2013-12-27 | 2018-01-31 | 株式会社キーエンス | Magnification observation apparatus, magnification image observation method, magnification image observation program, computer-readable recording medium, and recorded apparatus |
JP6325816B2 (en) | 2013-12-27 | 2018-05-16 | 株式会社キーエンス | Magnification observation apparatus, magnification image observation method, magnification image observation program, and computer-readable recording medium |
JP6558609B2 (en) * | 2014-04-25 | 2019-08-14 | パナソニックIpマネジメント株式会社 | Computer |
JP6394960B2 (en) * | 2014-04-25 | 2018-09-26 | パナソニックIpマネジメント株式会社 | Image forming apparatus and image forming method |
KR101606197B1 (en) * | 2014-05-16 | 2016-03-25 | 참엔지니어링(주) | Defect Observation Device and Laser Processing Apparatus having the same |
DE102016219055A1 (en) | 2016-09-30 | 2018-04-05 | Carl Zeiss Microscopy Gmbh | Actuator for adjusting an element to be moved, uses and method for adjustment |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3303865B2 (en) * | 1999-11-22 | 2002-07-22 | セイコーエプソン株式会社 | Image input by light emission according to image change |
JP4783065B2 (en) * | 2005-06-07 | 2011-09-28 | 株式会社キーエンス | Magnification observation apparatus, operation method of magnification observation apparatus, magnification observation apparatus operation program, and computer-readable recording medium |
JP4883751B2 (en) * | 2005-06-17 | 2012-02-22 | レーザーテック株式会社 | 3D shape measuring apparatus and 3D shape measuring method |
-
2007
- 2007-11-26 JP JP2007305114A patent/JP5118948B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009128726A (en) | 2009-06-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5118948B2 (en) | Magnification observation apparatus, magnification image observation method, magnification image observation program | |
US9690088B2 (en) | Magnifying observation apparatus, magnified image observing method and computer-readable recording medium | |
JP6325816B2 (en) | Magnification observation apparatus, magnification image observation method, magnification image observation program, and computer-readable recording medium | |
JP6487156B2 (en) | Magnification observation apparatus, magnification image observation method, magnification image observation program, and computer-readable recording medium | |
JP4673000B2 (en) | Fluorescence microscope, display method using fluorescence microscope apparatus, fluorescence microscope image display program, computer-readable recording medium, and stored device | |
JP6307770B2 (en) | Image sensor | |
JP5347051B2 (en) | Magnification observation apparatus, magnification observation method, and magnification observation program | |
JP5806504B2 (en) | Imaging apparatus and microscope system including the same | |
JP2008139796A (en) | Fluorescence microscope, method of operating fluorescence microscope, fluorescence microscope operation program, computer-readable recording medium, and recorded equipment | |
JP2009128726A5 (en) | ||
US9798129B2 (en) | Microscope system and method for deciding stitched area | |
US9726873B2 (en) | Microscope and magnifying observation method using the same | |
US20150116477A1 (en) | Microscopic Imaging Device, Microscopic Imaging Method, and Microscopic Imaging Program | |
JP2014523545A (en) | Microscope system and method for in vivo imaging | |
JP2008139794A (en) | Fluorescence microscope, method of operating fluorescence microscope, operation program for fluorescence microscope, computer-readable recording medium, and recorded equipment | |
JP4783065B2 (en) | Magnification observation apparatus, operation method of magnification observation apparatus, magnification observation apparatus operation program, and computer-readable recording medium | |
JP4883751B2 (en) | 3D shape measuring apparatus and 3D shape measuring method | |
JP6355334B2 (en) | Magnification observation apparatus, magnification image observation method, magnification image observation program, and computer-readable recording medium | |
JP6270473B2 (en) | Magnification observation apparatus, magnification image observation method, magnification image observation program, computer-readable recording medium, and recorded apparatus | |
US7589330B2 (en) | Ultraviolet microscope apparatus | |
JP2015127769A (en) | Device, method, and program for magnifying observation, and computer readable recording medium | |
JP2015127776A (en) | Magnifying observation device and magnified image observation method | |
JP4050039B2 (en) | Scanning confocal microscope and its image construction method | |
JP2024512993A (en) | Method of providing a composite image using a digital microscope, digital microscope system, and program for providing a composite image using a digital microscope | |
JP2019078866A (en) | Microscope system, observation method, and observation program |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20100915 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100915 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120316 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120703 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120822 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20121009 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20121022 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5118948 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20151026 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |