Pose machines: Articulated pose estimation via inference machines (ECCV 2014)


  • 논문 제목: Pose machines: Articulated pose estimation via inference machines
  • 연구 기관: Carnegie Mellon University

    본 연구는 multi-stage classifier 를 이용하여 human pose 를 추정하는 기술에 관한 것이다. 본 연구는 neural network 기반의 기술이 아니라 hand-crafted feature function 을 적용 하였다. 아래 본 연구의 후속 연구에서 유사한 전체 기술 구조에 기반하여 hand-crafted function 을 neural network 로 대체한 기술을 발표하였다. 따라서 본 연구는 기술의 key idea 에 대해 간단히 설명하고, 자세한 내용은 조만간 게재할 후속 연구 리뷰 글에서 기술하기로 한다.


    본 연구에서 제안하는 전체적인 기술 구조는 아래 그림과 같으며, 연구자들은 'Pose Machine' 이라고 명명하였다. 
    <Pose Machine Architecture>


    이해를 돕기 위해, 용어 정의 부터 설명한다.

    • Part
      • 추정하고자 하는 사람의 관절
    • P (p: 1 ~ P)
      • 전체 part 개수
    • Confidence map
      • 이미지 내 각 픽셀이 part 위치일 확률 (입력 이미지 크기와 동일 크기의 map)
      • 각 part 마다 1장 씩 할당 (위 그림에서 파란색 그림에 해당)
    • Image patch
      • 전체 이미지 중 특정 location z 픽셀 주위의 일정 영역 (local image)
    • Level (l: 1 ~ L)
      • Image patch 크기를 나타내는 인덱스
    • xz
      • 픽셀 위치 z에서 Image patch 의 특성을 나타내는 hand-crafted feature (feature function 은 고정)
      • Histogram of Gradients (HOG) features, Lab color features, 및 gradient magnitude 등
    • gt
      • Confidence map 을 출력하는 multi-class classifier
    • ⍦
      • Confidence map 을 context feature 로 변환하는 feature function
    위 그림 (a) 는 level 1 에 해당하는 image patch 로 부터 feature xz 를 생성하고, multi-class classifier gt 를 통해 각 파트의 confidence map bt 를 출력하는 과정을 도식화 한 것이다.

    위 그림 (b) 는 각 레벨 마다 서로 다른 multi-class classifier 를 배치하고, 이러한 stage 를 복수 개로 순차 연결한 최종 기술 구조를 도식화 한 것이다.
    Multi-class classifier 출력인 confidence map 의 개수는 각 레벨 마다 다르게 설정된다. 레벨 이 낮으면 (image patch size 가 작으면) confidence map 개수가 많으며, 레벨 이 높으면 (image patch size 가 크면) confidence map 개수가 작다. 
    예를 들어, 레벨 1 은 출력 confidence map 개수를 P 개 로 설정하고 (전체 파트 개수), 레벨 L 은 출력 confidence map 개수가 1 로 설정할 수 있다. 이 경우, 레벨 1 에서는 part 1개당 confidence map 1 개를 할당하여 'local context' 를 분석하고, 레벨 L 에서는 전체 part P 에 대해 confidence map 1 개를 할당하여 'global context' 를 분석하는 구조로 설계할 수 있다.
    이렇게 분석한 local and global context 는 다음 stage 로 전달되어 stage 가 진행될 수록 보다 정교한 confidence map 을 추정하게 된다. 이 과정에서, 각 레벨은 다른 레벨로 부터의 정보를 함께 입력받음으로써, local and global context 를 모두 이용하여 현재 레벨의 confidence map 을 생성한다.



    아래 그림은 stage 가 진행될 수록 보다 정교한 confidence map 이 출력되는 것을 보여준다.





    Comments

    Post a Comment

    Popular posts from this blog

    EAST: an efficient and accurate scene text detector (CVPR 2017)

    Image
    논문 제목: EAST: An Efficient and Accurate Scene Text Detector 연구 기관: Megvii Word box detection 의 정확성을 높이는 기술에 촛점을 맞춘 연구 논문이다 (인식 기술 자체는 본 논문의 연구 대상이 아니다). 저자는 지금까지의 word box detection 은 많은 프로세스 단계를 거쳐야 하므로, error propagation 문제가 있음을 지적하고 있다 (아래 그림에서 다른 기술들과 본 기술의 프로세스 구조를 비교하고 있다). 본 연구에서는 3 단계 프로세스 만으로 가장 우수한 multi-oriented word box detection 성능을 확보하였다고 주장하고 있다 (아래 그림 (e) 가 저자가 제안하는 기술 구조이다). Multi-oriented word box detection 은 문자열이 가로 방향이 아닌, 임의 방향으로 존재하여도 문제없이 검출하는 것을 의미한다 (가로 방향만 검출하는 것은 horizontal box detection 이다). [ Data Annotation ] Word 를 둘러싸는 임의 형태 사각형의 꼭지점 (직사각형 아님, 아래 그림 (a), 노란색 점선은 word 크기에 딱 맞는 사각형이며, 녹색 실선은 margin 을 두어 크기를 줄인 사각형), 임의 형태 사각형의 안쪽 영역을 나타내는 text score map (일종의 heat map, 아래 그림 (b)), 임의 형태 사각형을 둘러싸는 가장 작은 크기의 직사각형 (아래 그림 (c) 의 분홍색 선), heat map 영역 내의 각 포인트에서 직사각형 4변 까지의 거리 (아래 그림 (d)), 직사각형이 기울어진 각도 (아래 그림 (e)) 를 ground truth annotation 정보로 만들고 이를 추정한다. 임의 형태 사각형 정보는 word 크기에 딱 맞는 사각형 (아래 그림 (a) 노란색 점선) 및 margin 을 두고 축소시킨 사각형 (아래 그림 (a) 초록색 실선) 정보가 존...
    Read more

    Realtime multi-person 2d pose estimation using part affinity fields (CVPR 2017)

    Image
    논문 제목: Realtime multi-person 2d pose estimation using part affinity fields 연구 기관: Carnegie Mellon University 본 리뷰 글은 CMU 에서 발표한 pose estimation 논문 시리즈 중 마지막 리뷰 글이다 (물론 본 글 게재 이 후에도 CMU 는 새로운 pose estimation 논문을 계속 발표하겠지만...). 두 개의 선행 연구 논문은 아래와 같으며, 여기를 클릭하면 ( Pose Machine ,  Convolutional Pose Machine ) 리뷰 글을 볼 수 있다. 선행 연구 논문 Ramakrishna, V., Munoz, D., Hebert, M., Bagnell, J. A., & Sheikh, Y. (2014, September). Pose machines: Articulated pose estimation via inference machines. In European Conference on Computer Vision (pp. 33-47). Springer, Cham. Wei, S. E., Ramakrishna, V., Kanade, T., & Sheikh, Y. (2016). Convolutional pose machines. In Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (pp. 4724-4732). 본 연구 역시 선행 연구들에서 채택하였던 cascaded stage architecture 를 그대로 유지하고 있다. 다만, feature extraction 및 belief map 을 생성하는 CNN 구조를 조금 바꾸고, 'part affinity field' 라는 새로운 개념을 도입하여, part 사이의 상관 관계를 보다 명시적으로 (explicitly) 네트워크에 반영하였다 (이...
    Read more

    Towards Accurate Multi-person Pose Estimation in the Wild (CVPR 2017)

    Image
    논문 제목: Towards Accurate Multi-person Pose Estimation in the Wild 연구 기관: 구글 본 연구는 Faster R-CNN 으로 사람 영역의 rectangular bounding box 를 찾고, box 영역 내에서 pose estimation 을 처리하는 2단계 기술 구조를 제안한다 (아래 그림 참조). [ Network Architecture ] Person detection 을 위한 faster R-CNN 은 ResNet101 을 backbone 으로 사용하였다. Person detection 에 의해 검출된 영역은 가로 또는 세로 길이를 변환하여 가로/세로 비율이 일정 비율을 가지도록 하였다  (위 그림 (1) 의 person detection 결과인 붉은 색 box 가 (2) 에서는 세로 방향으로 축소된 모습을 볼 수 있다) . 학습 시의 데이터 증강을 위해 person detection 결과 box 영역을 1.0 ~ 1.5 사이의 scale factor 값을 무작위 선정하여 조금 더 넓은 person box 를 학습 데이터로 추가하였다. 추론 시에는   scale factor 값을 1.25로 고정시켰다. 이와 같은 image cropping 및 re-sizing 을 통해 최종적으로 353 x 257 크기의 이미지를 생성하여 pose estimation module 로 전달한다. 또한, activation feature point 의 이미지 분석 대상 영역을 넓히기 위해서 atrouse convolution 을 적용하였다. Atrouse convolution 은 convolution kernel 의 분석 포인트를 일정 간격을 두고 배치한 kernel 이다. 아래 그림에서 (a) 가 일반적인 convolution kernel 이고, (b) 와 (c) 그림이 각각 convolution point 를 일정 간격을 두고 convolution point...
    Read more