Textboxes: A fast text detector with a single deep neural network (AAAI 2017)

  • 논문제목: Textboxes: A fast text detector with a single deep neural network
  • 주저자: Liao, M. (Huazhong University of Science and Technology)
    본 연구의 주요 기여는 text detection 에 적합한 anchor box architecture 를 제시했다는 것에 있다. 일반적인 object detection 의 anchor box 는 정사각형 형태를 기준으로 가로, 세로 방향으로 각각 조금씩 더 긴 anchor box set 에 기반하여 이미지 내의 object 와 가장 가까운 anchor box 를 할당하는 구조이다. 그러나, text line 의 경우 가로-세로 비율이 사람, 개, 자동차 등과 같은 일반적인 객체와는 조금 다르다. 즉, text line 은 대체로 가로 방향으로 매우 긴 특징이 있다. 이를 위해서 본 연구에서는 anchor box 를 세로 방향으로는 매우 짧고, 가로 방향으로는 매우 긴 형태의 anchor box set 을 제안하고 있다. 이 경우, 정사각형의 중심 기준으로만 anchor box 를 설정하게 되면, 아래 위로 인접한 두 개의 정사각형 anchor box 접점 위치에서는 가로 방향으로 긴 anchor box 가 설정되지 못한다 (아래 figure 2 참조).


    본 연구에서 적용한 CNN 구조에 대한 설명은 아래와 같다.
    • VGG-16, SSD 구조를 이용한 word-based OCR approach
    • Multiple feature map 을 활용하는 text-box layer 추가 (아래 그림 참조)
    • Fully convolutional network (only convolutional and pooling layers)
    • Text-box layer -> classification score와 box offset 동시 추정
    • 학습 시 SSD 와 동일한 방식으로 ground truth BBOX 를 default box 에 매핑
      • box overlap 기반 매핑
      • Long default box 6종 채택 (1, 2, 3, 5, 7, 10 aspect ratios)
        • word/text 특성 고려
        • 세로로 듬성듬성 -> Vertical offset 을 default box 에 추가
      • 1 x 5 CNN kernel 채택
    • Multi-scale input images -> robust detection
      • (width*height) 300*300, 700*700, 300*700, 500*700, and 1600*1600
    • NMS 적용
    • CRNN model (Shi, Bai, and Yao 2015) 을 이용한 text recognizer 통합
      • Lexicon 이 주어지면, text recognizer 를 이용하여 text 가 아닌 것을 잘 걸러낼 수 있다


     

    Loss function 은 location 정확도와 objectless score (confidence) 두 가지 loss 를 더한 것으로 설정하였다. Location loss 는 smoothed L1 loss 를 적용하였으며, confidence score loss 는 2 class softmax loss 를 적용하였다.


    • Dataset
      • SynthText (Gupta, Vedaldi, and Zisserman 2016)
      • ICDAR 2011 (IC11)(Shahab, Shafait, and Dengel 2011)
      • ICDAR 2013 (IC13)(Karatzas et al. 2013)
      • Street View Text (SVT) (Wang and Belongie 2010)
    • Implementation details
      • 300*300 image input
      • Stochastic gradient descent (SGD)
      • Momentum 0.9
      • Weight decay 5 x10**-4
      • Initial learning rate 10**-3 (40k iteration 후 10**-4 으로 감소)
      • SynthText DB + 50k iteration 으로 초기 모델 만들고, 나머지 DB 는 fine-tuning 해서 적용 (2k iteration)
      • SVT 외 모든 나머지 DB: 2k iteration fine tuning
      • SVT: SVT training dataset 으로 fine tuning
      • Data augmentation: crop, flip(Liu et al. 2016)
      • One Titan X GPU -> 25 시간 학습
      • Pre-trained CRNN (Shi, Bai, and Yao 2015) model 로 텍스트 인식 (저자가 공개한 모델 적용)
    실험결과는 아래와 같다고 보고되어 있다.



Comments

Post a Comment

Popular posts from this blog

EAST: an efficient and accurate scene text detector (CVPR 2017)

Image
논문 제목: EAST: An Efficient and Accurate Scene Text Detector 연구 기관: Megvii Word box detection 의 정확성을 높이는 기술에 촛점을 맞춘 연구 논문이다 (인식 기술 자체는 본 논문의 연구 대상이 아니다). 저자는 지금까지의 word box detection 은 많은 프로세스 단계를 거쳐야 하므로, error propagation 문제가 있음을 지적하고 있다 (아래 그림에서 다른 기술들과 본 기술의 프로세스 구조를 비교하고 있다). 본 연구에서는 3 단계 프로세스 만으로 가장 우수한 multi-oriented word box detection 성능을 확보하였다고 주장하고 있다 (아래 그림 (e) 가 저자가 제안하는 기술 구조이다). Multi-oriented word box detection 은 문자열이 가로 방향이 아닌, 임의 방향으로 존재하여도 문제없이 검출하는 것을 의미한다 (가로 방향만 검출하는 것은 horizontal box detection 이다). [ Data Annotation ] Word 를 둘러싸는 임의 형태 사각형의 꼭지점 (직사각형 아님, 아래 그림 (a), 노란색 점선은 word 크기에 딱 맞는 사각형이며, 녹색 실선은 margin 을 두어 크기를 줄인 사각형), 임의 형태 사각형의 안쪽 영역을 나타내는 text score map (일종의 heat map, 아래 그림 (b)), 임의 형태 사각형을 둘러싸는 가장 작은 크기의 직사각형 (아래 그림 (c) 의 분홍색 선), heat map 영역 내의 각 포인트에서 직사각형 4변 까지의 거리 (아래 그림 (d)), 직사각형이 기울어진 각도 (아래 그림 (e)) 를 ground truth annotation 정보로 만들고 이를 추정한다. 임의 형태 사각형 정보는 word 크기에 딱 맞는 사각형 (아래 그림 (a) 노란색 점선) 및 margin 을 두고 축소시킨 사각형 (아래 그림 (a) 초록색 실선) 정보가 존...
Read more

Realtime multi-person 2d pose estimation using part affinity fields (CVPR 2017)

Image
논문 제목: Realtime multi-person 2d pose estimation using part affinity fields 연구 기관: Carnegie Mellon University 본 리뷰 글은 CMU 에서 발표한 pose estimation 논문 시리즈 중 마지막 리뷰 글이다 (물론 본 글 게재 이 후에도 CMU 는 새로운 pose estimation 논문을 계속 발표하겠지만...). 두 개의 선행 연구 논문은 아래와 같으며, 여기를 클릭하면 ( Pose Machine ,  Convolutional Pose Machine ) 리뷰 글을 볼 수 있다. 선행 연구 논문 Ramakrishna, V., Munoz, D., Hebert, M., Bagnell, J. A., & Sheikh, Y. (2014, September). Pose machines: Articulated pose estimation via inference machines. In European Conference on Computer Vision (pp. 33-47). Springer, Cham. Wei, S. E., Ramakrishna, V., Kanade, T., & Sheikh, Y. (2016). Convolutional pose machines. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (pp. 4724-4732). 본 연구 역시 선행 연구들에서 채택하였던 cascaded stage architecture 를 그대로 유지하고 있다. 다만, feature extraction 및 belief map 을 생성하는 CNN 구조를 조금 바꾸고, 'part affinity field' 라는 새로운 개념을 도입하여, part 사이의 상관 관계를 보다 명시적으로 (explicitly) 네트워크에 반영하였다 (이...
Read more

Towards Accurate Multi-person Pose Estimation in the Wild (CVPR 2017)

Image
논문 제목: Towards Accurate Multi-person Pose Estimation in the Wild 연구 기관: 구글 본 연구는 Faster R-CNN 으로 사람 영역의 rectangular bounding box 를 찾고, box 영역 내에서 pose estimation 을 처리하는 2단계 기술 구조를 제안한다 (아래 그림 참조). [ Network Architecture ] Person detection 을 위한 faster R-CNN 은 ResNet101 을 backbone 으로 사용하였다. Person detection 에 의해 검출된 영역은 가로 또는 세로 길이를 변환하여 가로/세로 비율이 일정 비율을 가지도록 하였다  (위 그림 (1) 의 person detection 결과인 붉은 색 box 가 (2) 에서는 세로 방향으로 축소된 모습을 볼 수 있다) . 학습 시의 데이터 증강을 위해 person detection 결과 box 영역을 1.0 ~ 1.5 사이의 scale factor 값을 무작위 선정하여 조금 더 넓은 person box 를 학습 데이터로 추가하였다. 추론 시에는   scale factor 값을 1.25로 고정시켰다. 이와 같은 image cropping 및 re-sizing 을 통해 최종적으로 353 x 257 크기의 이미지를 생성하여 pose estimation module 로 전달한다. 또한, activation feature point 의 이미지 분석 대상 영역을 넓히기 위해서 atrouse convolution 을 적용하였다. Atrouse convolution 은 convolution kernel 의 분석 포인트를 일정 간격을 두고 배치한 kernel 이다. 아래 그림에서 (a) 가 일반적인 convolution kernel 이고, (b) 와 (c) 그림이 각각 convolution point 를 일정 간격을 두고 convolution point...
Read more