Mobile QR Code QR CODE : The Transactions P of the Korean Institute of Electrical Engineers
The Transactions P of the Korean Institute of Electrical Engineers

Korean Journal of Air-Conditioning and Refrigeration Engineering

ISO Journal TitleTrans. P of KIEE
  • Indexed by
    Korea Citation Index(KCI)

  1. (School of Electronics Engineering, Chungbuk National University, Korea.)



Auto-focusing, Random forest, Focusing value, Machine vision

1. 서 론

디스플레이 산업은 브라운관TV 보급과 함께 본격적으로 성장한 산업으로 평판 디스플레이를 거쳐 현재는 차세대 디스플레이로 전환이 이루어지고 있다. 차세대 디스플레이는 국가 주력 수출 산업으로, 유비리서치의 2019 OLED 연간보고서에 따르면 올해 OLED 시장 규모만 322억 달러에 이를 것으로 전망되고 있다. 이러한 디스플레이 산업의 대형화, 고화질화에 맞추어 디스플레이의 원자재인 유리기판 및 플라스틱 기판의 크기는 더욱 커지고 있으며 두께 또한 더욱 얇아지고 있어 유리 기판의 미세한 결함 검출이 요구되고 있다.

미세한 결함 검출을 하기 위하여 고배율 렌즈를 사용한 검사 수행 시 얇은 대형 유리기판의 평탄도에 따라서 렌즈의 심도 문제가 발생하게 되는데 고정 포커스 방식에서는 초점이 맞지 않으면 흐릿한 이미지를 획득하게 되어 결함을 검출하기 어려워진다. 또한 검사 장비에 적용된 기존의 오토포커싱 방식은 많은 계산량으로 인한 처리속도가 증가로 공정 시간을 지연시키는 문제가 있다. 이에 매 유리 기판 상에서 매 검사 시 마다 빠르면서 정확하게 초점을 조절해 주는 오토포커스 장치가 필요하다.

영상을 취득하는 시스템에서 피사체에 초점이 자동으로 맺히도록 렌즈를 이동시키는 방식을 오토포커싱이라 한다. 오토포커싱은 일반적으로 능동 방식과 수동 방식으로 나뉘는데, 능동 방식은 거리 측정을 위해 카메라가 초음파나 적외선을 방출하여 피사체에 반사되어 돌아오는 신호를 이용하여 시간을 측정하고, 이를 이용하여 거리를 계산하는 방식이다. 이러한 능동 방식은 초음파나 적외선이 도달할 수 있는 거리 한계가 있기 때문에 먼 거리에 있는 물체는 초점을 맞출 수 없는 문제점이 있다. 수동 방식은 피사체로부터 반사된 빛을 이용하여 초점을 맞추는 방식이다. 수동 방식은 대비나 광량이 작을 경우 초점 조절이 어려운 단점이 있다. 오토포커싱은 렌즈를 피사계 범위 내로 이동시키기 위하여 현재 위치에서 초점값을 계산하여 계산된 초점값을 통해 정초점 위치를 검색 한다(1)(2). 초점값을 계산하는 방법은 Tenengrad(3)이 일반적으로 사용된다. 정초점의 위치를 검색하는 방법은 전역 검색(4), 피보나치 검색(5), Hill-Climbing 검색(6) 등이 있다.

본 논문에서는 유리 기판에 자동 초점을 맞출 수 있는 광학 시스템과 초점을 빠르고 정확하게 조정할 수 있는 알고리즘을 제안합니다. 광학 시스템은 Koehler 조명을 사용하여 FIA (Field of Field)의 대비를 측정하여 일반 유리에 효과적이다. 랜덤 포레스트를 사용하는 자동 초점 알고리즘은 초점 거리를 추정하여 입력 이미지의 목표 값을 설정함으로써 학습된다. 새로운 이미지가 주어지면 초점 거리 추정치가 계산된다.

2. 오토 포커싱 기술

2.1 오토포커싱 방식

오토포커싱은 능동방식과 수동방식이 있다. 능동 방식은 거리 측정을 위해 카메라가 초음파나 적외선을 방출하여 피사체에 반사되어 돌아오는 신호의 시간을 측정하고, 이를 이용하여 거리를 계산하는 방식으로 적외선 신호의 강, 약에 의해 거리를 산출한다. 이 방식은 광량과 관계없이 빛이 부족한 곳에서도 사용할 수 있다는 장점이 있다. 반면 카메라와 피사체 사이에 투명한 유리 등 이 있는 경우에는 유리가 초음파나 적외선을 반사하기 때문에 초점을 맞추지 못하며 또한 초음파나 적외선이 도달할 수 있는 거리 한계가 있어 먼 거리에 있는 물체는 초점 조절을 할 수 없다.

그림. 1. 적외선 기반의 오토포커스 방식

Fig. 1. Infrared based autofocus method

../../Resources/kiee/KIEEP.2020.69.1.55/fig1.png

수동 방식은 피사체로부터 반사된 빛을 이용하여 초점을 조절하는 방식으로, 대표적인 방법으로 위상차 검출 방식과 대비 검출 방식이 있다. 위상차 검출 방식은 대부분의 SLR 카메라에서 사용하는 방식으로 렌즈를 통해 들어오는 빛을 한 쌍으로 나누어 영상의 파형을 비교하는 방식으로 초점을 조절한다. 위상차 검출 방법은 렌즈를 통해서 들어오는 피사체의 화상 정보를 오토포커싱 검출 센서 내의 렌즈를 사용해 2개의 상을 만든 후, 상 사이의 간격(위상)을 계측하여 초점이 얼마나 어긋났는지 계산하는 방식으로 대비 검출 방식보다 빠른 초점 조절이 가능하지만, 대비나 광량이 작은 경우 초점 조절이 어려우며, 위상차를 측정하기 위한 별도의 장치가 필요하다.

그림. 2. 위상차 검출 기반의 오토포커스 방법

Fig. 2. Autofocus method based on phase detection

../../Resources/kiee/KIEEP.2020.69.1.55/fig2.png

대비 검출 방식은 렌즈를 움직이면서 피사체 일부의 초점값인 대비를 반복 계산하여 대비가 최대가 되었을 때 초점이 맞았다고 판단한다. 카메라를 통해 획득한 영상에서 대비를 계산하기 때문에 영상처리형 오토포커싱 방식이라고도 불린다. 이 방식은 컴팩트 디지털 카메라 및 미러리스 카메라에서 흔히 쓰이며 수동 방식의 단점인 광량이 부족할 경우 초점 조절이 어려운 단점이 존재한다. 또한, 렌즈를 움직이면서 대비를 반복 계산하여야 하므로 위상차 검출 방식 대비 속도가 느리다. 그러나 대비 검출 방식은 광량이 확보되는 상황에서는 오토포커싱 성능이 매우 뛰어나며, 위상차 검출 방식처럼 위상차를 측정하기 위한 별도의 장치가 필요 없어 구성이 간단한 장점이 있다. 본 논문에서는 대비 검출 방식을 이용하여 빠르고 정확하게 초점을 조절할 수 있는 알고리즘을 제안 하였다.

그림. 3. 대비 검출 기반의 오토포커스 방법

Fig. 3. Autofocus method based on contrast detection

../../Resources/kiee/KIEEP.2020.69.1.55/fig3.png

2.2 초점 검색 알고리즘

초점 검색 알고리즘은 전역검색과 ) Hill Climbing 검색이 있다. 대비 검출 방식에서 가장 일반적인 초점 탐색 방법으로 그림 3와 같이 검사 구간 내 모든 렌즈 위치 영역에 대하여 초점값을 계산한 후 초점값이 최대가 된 지점을 정초점 위치로 결정한다(3). 전역 검색 방식은 검사 구간 내 모든 렌즈 위치 영역에 대하여 초점값을 계산하므로 잡음으로 인한 국지적 최대값을 갖는 초점값에 대한 오류 확인이 가능한 장점이 있다. 그러나 소요 시간이 가장 많이 걸리는 단점이 있다.

그림. 4. 전역 검색 방법

Fig. 4. Global search method

../../Resources/kiee/KIEEP.2020.69.1.55/fig4.png

Hill Climbing 검색은 초점값 그래프가 산의 형태로 분포한다는 것을 이용한다(6). 이 방법은 그림 5와 같이 국지적인 최대값을 정초점 위치로 잘못 판단 할 수 있는 단점이 있다.

그림. 5. Hill Climbing 방법

Fig. 5. Hill Climbing method

../../Resources/kiee/KIEEP.2020.69.1.55/fig5.png

3. 제안한 오토포커싱 알고리즘

그림 6에서는 본 논문에서 사용된 전체적인 하드웨어 시스템 구성을 나타낸다. 고정된 스테이지와 오토포커싱을 위한 카메라와 렌즈, 조명이 부착된 Z축으로 구성되어 있으며, 피사체를 스테이지에 위치시킨 후 Z축을 이동하여 거리별 초점값을 계산하였다. 본 논문에서는 전역 검색 방법으로 전체 검사 구간에 대한 영상을 취득하였으며, 취득한 영상을 이용하여 랜덤 포레스트(7) 기반의 오토포커싱 알고리즘을 개발하였다.

그림. 6. 시스템 구성도

Fig. 6. System configuration

../../Resources/kiee/KIEEP.2020.69.1.55/fig6.png

패턴이 있는 글라스는 초점 상태에 따라 패턴 영역 경계부분의 대비차가 존재하여 초점값 계산이 가능하다. 그러나 7과 같은 패턴이 없는 유리 기판은 초점이 맞는 상태와 맞지 않는 상태의 대비차가 없어 초점값 계산이 어렵다. 패턴이 없는 유리 기판에 대해 오토포커싱을 수행하기 위해서는 초점의 상태에 따른 경계의 대비가 나타나도록 해야 한다. 이에 본 논문에서는 쾰러 조명을 응용한 오토포커싱 시스템을 개발하였다. 광학 현미경은 확대 관측을 위한 결상 렌즈와 관측 대상에 빛을 조사해주는 조명, 조명용 렌즈로 구성된다. 이러한 조명 방식을 쾰러 조명(Kohler illumination)이라 한다.

그림. 7. 점에 따른 취득 영상

Fig. 7. cquired image according to focus (a) In focus (b) Out of focus

../../Resources/kiee/KIEEP.2020.69.1.55/fig7.png

쾰러 조명은 샘플의 전체 영역에서 밝고 균일한 조명을 구현하기 위한 방법으로, 조명 광원도 광학계 내부에서 결상을 하게 된다. 과거 크리티컬 조명 방식에서는 샘플의 상에 조명광원의 필라멘트 상이 겹쳐서 보이는 문제가 있었는데 쾰러 조명은 조명의 상을 무한보정 대물렌즈의 후 초점면에 결상하도록 유도함으로 샘플의 상에 광원의 상이 맺히는 문제점을 해결하였다. 또한, 샘플 전체에 균일한 조명을 조사하는 것이 가능하게 되어 현대 광학 현미경은 모두 쾰러 조명을 채택하고 있다. 그림 8에서는 쾰러 조명을 채택한 광학 현미경 구조를 나타낸다. 그림과 같이 A위치의 측정 대상을 렌즈를 통하여 B위치에 확대 또는 축소 시키는데 이를 결상이라 한다. C위치는 시야 조리개로서 물체의 범위를 결정하게 되는데, 이는 A와 B 뿐만 아니라 C위치 또한 결상의 위치이기 때문이다. 즉 C위치인 시야조리개에 물체를 위치시키면 B위치에서 확인이 가능함을 의미한다. D위치는 개구 조리개로서 렌즈에 들어오는 빛의 양을 조절하여 영상의 밝기 및 심도를 결정한다.

그림. 8. 쾰러 조명 방식 광학계 구조

Fig. 8. Kohler illumination system

../../Resources/kiee/KIEEP.2020.69.1.55/fig8.png

그림 9에서 보는 바와 같이 쾰러 조명을 채택한 현미경 초점 조정 시에는 시야 조리개를 작게 하여 집광기를 위아래로 움직여 시야 조리개 날이 선명하게 보일 때 까지 사용자가 수동으로 초점을 조절한다. 본 논문에서 제안된 오토포커싱 시스템에서는 이러한 방법을 응용하여 시야 조리개 날 영역을 초점값 계산 및 제안된 랜덤 포레스트 알고리즘의 학습 및 검증에 사용하였다.

그림. 9. 퀼러 조명방식에 의해 취득한 영상

Fig. 9. Image acquired by Kohler illumination

../../Resources/kiee/KIEEP.2020.69.1.55/fig9.png

Breiman에 의해 제안된 랜덤 포레스트 기법은 회귀 문제뿐만 아니라 분류 문제에도 폭넓게 사용될 수 있으며, 몇 개의 파라미터 조정만으로 뛰어난 성능을 나타내고 있다(7). 랜덤 포레스트는 여러 개의 독립적인 트리 정의를 기반으로 하기 때문에 간단한 병렬구조로 빠른 처리 속도가 가능하다. 그러나 붓스트랩 샘플의 크기가 크기 때문에 트리에 대한 직접적인 병렬 학습은 다루기가 어려울 수 있다. 또한 랜덤 포레스트에는 집중적인 리샘플링이 포함되어있어 병렬 처리 외에도 대규모 온라인 상황에 맞게 조정된 붓스트랩 방식을 고려한다.

CART는 성장 단계와 가지치기 단계를 수행하여 최적의 단일 트리를 설계하는 잘 알려진 방법이지만 랜덤 포레스트는 붓스트랩과 랜덤 트리 형성이라는 두 개의 메커니즘으로 얻은 많은 이진 결정 트리를 집계하는 것이다.(5) 여기서 붓스트랩 단계에서는 전체 표본 대신 랜덤하게 선택된 서브 학습 데이터를 형성하고, 랜덤 트리 형성단계에서는 붓스트랩에 의해 선택된 각각의 서브샘플에 대해 CART를 적용하지 않고 랜덤하게 모델을 구성한다. 최종 융합단계에서는 개별 트리 예측 중 다수 투표를 수행한다. 그림 10에서는 랜덤 포레스트를 이용한 모델 형성과정을 나타냈다. 그림에서 보는 바와 같이 전체 데이터 세트로부터 $n$개의 관측값을 무작위로 선택하는 붓스트랩 샘플을 형성하고, 임의의 이진 결정트리를 학습한 후 최종 단계에서는 융합과정을 진행한다.

그림. 10. 랜덤 포레스트 모델 형성

Fig. 10. Random forest construction scheme

../../Resources/kiee/KIEEP.2020.69.1.55/fig10.png

4. 실험 결과

본 논문에서는 유리기판 영상을 취득하기 위하여 그림 11에서 나타낸 실험 장치를 이용하였다. 유리 기판을 스테이지에 위치시킨 후 Z축을 이동하여 초점 거리 별 초점 값을 계산하였다.

그림. 11. 구현된 오토포커싱 시스템

Fig. 11. Implemented auto-focusing System

../../Resources/kiee/KIEEP.2020.69.1.55/fig11.png

영상 취득을 위한 카메라로는 Sentech STC- CMB2MPOE를 선정하였다. 이 카메라는 이더넷 인터페이스 기반의 카메라로서 Frame Grabber 없이 PC로 직접 연결하여 영상 취득이 가능하다. 실험에 사용한 렌즈는 Mitutoyo 사의 대물렌즈인 M Plan APO 5X 렌즈를 선정하였다. 광원은 White LED 동축 낙사 스팟 조명을 사용하였으며, 조명 밝기 제어를 위해 255단계로 제어가 되는 LED 조명 컨트롤러를 사용하였다. Z축 모션 컨트롤을 위해 Fastech 사의 Ezi-Servo Plus-R 모터 드라이브 및 EzM42 시리즈 모터를 사용하였다.

정초점(0㎛)으로부터 -100㎛에서 +100㎛까지 10㎛ 단위로 이동하여 1세트당 21장의 영상을 취득하였으며, 취득한 영상에서 시야 조리개 날 영역을 관심영역으로 선정하여 학습 및 검증에 사용하였다. 동일한 위치이더라도 조명 변화 및 기구 부 변동으로 인하여 영상에 미세한 변화가 발생할 수 있으므로, 본 논문에서는 동일한 위치의 영상을 여러 번 반복 취득하여 랜덤 포레스트 알고리즘의 학습에 사용하였다.

표 1에서는 개발된 알고리즘의 성능을 분석하기 위한 학습 및 검증 DB 구성에 대해 나타냈다. 표 1에서 보는 바와 같이 학습데이터는 특정위치에서 초점위치별로 이동하면서 500번 반복 취득하여 총 500 세트의 영상 DB를 구축하였다. 또한 알고리즘의 성능 분석을 위하여 학습데이터를 취득한 위치에서 학습에 사용하지 않은 영상 및 근처 다른 위치에서 취득한 영상으로 영상 DB를 구축하였다. 즉 검증데이터 중에서 Case-1 DB는 학습용 데이터와 동일한 위치에서 취득한 영상 데이터이고, Case-2 DB와 Case-3 DB는 학습용 데이터와 다른 위치에서 취득한 영상으로 구성하였다.

표 1. 학습 및 검증용 DB 구성

Table 1. DB configuration for training and testing

DB classification

DB configuration

Training data

500 set (total 10,500 images)

Testing

Data

Case-1

100 set (total 2,100 images)

Case-2

100 set (total 2,100 images)

Case-3

100 set (total 2,100 images)

랜덤 포레스트의 학습데이터는 각 초점 거리별 500개씩, 21개의 위치에 대하여 총 10,500개의 관심영역 영상을 사용하였으며, 각 관심영역 영상은 3,200개의 특징 요소로 구성되었다. 학습과정으로 랜덤트리를 성장 시킬 때 사용한 정지 기준은 트리의 깊이가 최대 5를 넘지 않도록 설정하였고, 분리노드에 도달하는 최소 학습영상의 수는 10 이상이 되도록 제한을 두었다. 또한, 다른 랜덤트리와의 연관성 감소 및 임의성 향상을 위하여 임의요소 추출 개수를 56개로 설정하였다. 500 세트의 학습 DB를 이용하여 랜덤 포레스트 학습 결과 총 63개의 랜덤트리가 생성되었다.

표 2. 랜덤 포레스트 학습 결과

Table 2. Training results by random forest

Features

Number

Number of feature in image

3,200

Tree Depth

5

Minimum training image for splitting node

10

Number of random feature

56

Number of generation for random Tree

63

그림 12는 학습데이터와 동일한 위치에서 취득하였지만 학습에 사용하지 않은 Case-1 DB에 대한 각 초점 거리별 검증 결과를 나타냈다. 100세트로 구성된 총 2,100장의 영상을 이용하여 검증한 결과 전체 구간에 대한 정 인식률이 100%로 나타났다. 따라서 랜덤 포레스트 알고리즘의 반복 재현성이 높음을 알 수 있다.

그림. 12. Case-1에 대한 실험결과

Fig. 12. Experimental results for Case-1

../../Resources/kiee/KIEEP.2020.69.1.55/fig12.png

그림 13은 Case-2 DB 위치에서 각 초점 거리별 검증 결과를 나타냈다. 100세트로 구성된 총 2,100장의 영상을 이용하여 검증한 결과 전체 구간에 대한 정 인식률은 51.05%로 낮게 나타났지만, 초점 거리 -70㎛∼+70㎛구간만을 고려하였을 때 ±10㎛범위내로 추정한 인식률은 100%로 나타났다. 이는 피사계 심도 허용 범위인 ±20㎛내로 들어와 해당 초점 거리 구간에서는 랜덤 포레스트 알고리즘의 초점 거리 추정 성능이 높음을 확인할 수 있다.

그림. 13. Case-2에 대한 실험결과

Fig. 13. Experimental results for Case-2

../../Resources/kiee/KIEEP.2020.69.1.55/fig13.png

그림 14는 Case-3 DB 위치에서 각 초점 거리별 검증 결과를 나타냈다. 100세트로 구성된 총 2,100장의 영상을 이용하여 검증한 결과 전체 구간에 대한 정 인식률은 33.86%로 낮게 나타났지만, 초점 거리 -70㎛∼+70㎛구간만을 고려하였을 때 ±20㎛범위내로 추정한 인식률은 100%로 나타났다. 이는 피사계 심도 허용 범위인 ±20㎛내로 들어와 해당 초점 거리 구간에서는 랜덤 포레스트 알고리즘의 초점 거리 추정 성능이 높음을 확인할 수 있다.

그림. 14. Case-3에 대한 실험결과

Fig. 14. Experimental results for Case-3

../../Resources/kiee/KIEEP.2020.69.1.55/fig14.png

5. 결 론

본 논문에서는 디스플레이 산업의 원자재인 유리 기판의 결함 검출에 필수적인 오토포커싱 알고리즘을 랜덤 포레스트 기법을 이용하여 개발하였다. 개발 알고리즘의 성능을 다각적으로 분석하기 위하여 학습 데이터의 영상 취득 위치와 검증 데이터의 영상 취득 위치를 다르게 한 후, 초점별로 영상을 다양하게 취득하여 실험을 진행하였다. 실험결과 정초점으로부터 초점 거리 -70㎛∼+70㎛ 범위 내에서 취득한 영상은 개발한 랜덤 포레스트 알고리즘에 의해 정 인식 또는 심도 허용 범위 ±20㎛ 이내로 추정한 인식률이 100%로 매우 높게 나타났다. 이는 산출된 초점 거리 추정값을 이용한 오토포커싱 결과가 심도 허용 범위내로 들어와 신뢰성이 높음을 의미한다. 반면, 초점 거리 -70㎛∼+70㎛ 범위 외곽 영역에서 취득한 영상의 인식률은 현저히 저하되는 것으로 나타났다. 이는 두 번의 랜덤 포레스트 알고리즘을 이용한 초점 거리추정을 통해 해결 할 수 있다.

Acknowledgements

본 과제(결과물)는 교육부와 한국연구재단의 재원으로 지원을 받아 수행된 사회맞춤형 산학협력 선도대학(LINC+) 육성사업의 연구결과입니다.

References

1 
K. S. Choi, J. S. Lee, S. J. Ko, 1999, New autofocus technique using the frequency selective weighted median filter for video cameras, IEEE Trans. Consumer Electronic, Vol. 45, No. 3, pp. 820-827DOI
2 
S. K. Nayar, Y. Nakagawa, 1994, Shape from focus, IEEE Trans. Pattern Analysis and Machine Intelligence, Vol. 16, pp. 824-831DOI
3 
J. M. Tenenbaum, 1970, Accommodation in computer vision, Ph.D. ThesisGoogle Search
4 
N. K. Cherm, P. A. Neow, M. H. Ang Jr, 2001, Practical Issues in Pixel-Based Autofocusing for Machine Vision, in Proc. of IEEE International Conference on Robotics and Automation, pp. 2791-2796DOI
5 
E. Krotkov, 1987, Focusing, International Journal of Computer Vision, Vol. 1, No. 3, pp. 223-237DOI
6 
R. A. Javis, 1976, Focus optimization criteria for computer image processing, Microscope, Vol. 24, No. 2, pp. 163-180Google Search
7 
R. Genuer, J. Poggi, C. Tuleau-Malot, N. Vialaneix, 2017, Random Forests for Big Data, Big Data Research, Vol. 9, pp. 28-46DOI

저자소개

윤경호 (Kyeong-Ho Yoon)
../../Resources/kiee/KIEEP.2020.69.1.55/au1.png

2008년 신라대학교 멀티미디어공학과 졸업 (학사)

2020년 충북대학교 전기전자공학과 대학원 졸업예정(공학석사)

관심분야 : 영상처리, 인공지능, 빅데이터

이대종(Dae-Jong Lee)
../../Resources/kiee/KIEEP.2020.69.1.55/au2.png

1995년 충북대학교 전기공학과 졸업 (학사)

1997년 동 대학원 졸업(공학석사)

2002년 동 대학원 졸업(공학박사)

2006년~2008년 충북대학교 초빙 조교수

관심분야 : 영상처리, 인공지능, 빅데이터

전명근(Myung-Genu Chun)
../../Resources/kiee/KIEEP.2020.69.1.55/au3.png

1987년부산대학교 전자공학과 졸업.

1989년한국과학기술원 전기및전자공학과 대학원 졸업(공학석사).

1993년한국과학기술원 전기및전자공학과 대학원 졸업(공학박사).

1993년∼1996년 삼성전자 자동화 연구소 선임연구원.

2000년~2001년University of Alberta 방문 교수.

2010년∼2011년 Temple University 방문 교수.

1996년∼현재 충북대학교 전자공학부 교수.

2008년∼현재 TTA PG505 표준위원회 부의장.

관심분야 : 지능시스템, 바이오인식

E-mail : mgchun@cbnu.ac.kr