[음악]
딥 신경망이 훌륭하다는 것도 알았고
높은 정확도를 가졌다는 것도, 만들고 학습시키기 어렵다는 것도
데이터가 많이 필요하다는 것도 알았습니다
이제 아주 흥미로운 이야기를 하려고 합니다
딥 특징이라는 건데 데이터가 많이 없어도
신경망을 구축할 수 있게 도와줍니다
데이터 이미지 분류 파이프라인으로 돌아가서
이미지에서 시작해서 특징이나 다른 표현을 탐지하고
선형 분류기 같은 데 집어넣었습니다
그렇다면 신경망을 통해 배운 특징을
다른 데서 사용할 수 없을까요?
구석, 선, 얼굴 특징을 분류기에 넣는 거죠
좀 다르게 해볼 수 있을까요?
그러니까
딥 특징이란 발상은 전이 학습이란 겁니다
전이 학습은 꽤 오래된 개념인데
최근 딥 신경망 분야에서 꽤 큰 영향을 끼쳤죠
그러니까 아주 많은 데이터로
신경망을 훈련시킵니다
고양이와 개를 구분하는 작업이라고 할게요
8층, 160만 파라미터가 있는 복잡한 신경망을 학습시킵니다
고양이와 개 구분 작업에서는 정확도가 높겠죠
이제 새로운 작업을 하려는데 데이터가
조금밖에 없습니다
의자, 코끼리, 자동차, 카메라를 수백 카테고리에서 골라낸다고 합시다
고양이와 개를 구분할 때 썼던 특징을 재활용해서
101개의 새로운 카테고리에 대해서도 높은 정확도를 낼 수 있을까요?
이게 전이 학습의 개념입니다
고양이와 개 구분에서 학습된 특징이
코끼리와 카메라를 구분하는 새로운 작업에서의 정확도 향상에 도움을 주는 거죠
전이 학습과 딥 신경망을 이해하기 위해
딥 신경망이 뭘 학습하는지 정리해봅시다
고양이와 개를 구분하는 딥 신경망입니다
이 작업에는 아주 높은 정확도를
보인다고 합시다
마지막 층들은 고양이와 개에
아주 특화돼 있겠죠
전에 보여드린 예제에서는
마지막 층에서 산호를 탐지했었죠
중간층은 좀더 일반적입니다
구석, 선, 원, 구불구불한 패턴 같은
101개의 새 카테고리에도 적용될 수 있는
일반적인 패턴을 표현합니다
두 번째 작업인 101개의 카테고리를 어떻게 처리하나 볼까요
고양이와 개를 구분하는 딥 신경망이 작업 2에도 적용될 수 있다는 걸 배웠죠
생각해보면
신경망의 마지막 부분은 고양이와 개에 특화돼서
의자 탐지에는 별 쓸모가 없을 겁니다
그러니 마지막 층 몇 개를 잘라내고
앞층에 대해서는 가중치를 유지합니다
일반적으로 적용되는 특징이기 때문이죠
이제 마지막 층을 선형 분류기로 연결해서
의자, 코끼리, 카메라에 대해
조금 있는 데이터를 훈련시킵니다
이전에 설명드린 세 층이 있을 때의
예제로 돌아갑니다
첫 번째 층에서 대각선을 탐지했죠
두 번째에서 구불구불한 패턴과 구석을 탐지했습니다
세 번째는 산호와 얼굴인데
이 층들을 새 작업에 활용할 건데 조심해야 합니다
3층은 너무 특화돼 있을지 몰라도 1층과 2층은 쓸만해 보입니다
전이 학습이란 개념을 배웠는데
딥러닝 파이프라인을 딥 특징과 함께 복습해보죠
라벨이 붙은 데이터로 시작하죠 적은 데이터로도 충분합니다
설명드린 딥 신경망으로
특징을 추출합니다
이 데이터 세트를 훈련과 검증 테스트 세트로 나눕니다
선형 분류기, 서포트 벡터 머신와 같은
간단한 분류기로 학습시킨 후
검증하면 간단한 분류기라
조정할 파라미터가 많이 없습니다
간단하죠
적은 데이터만 학습시켜도 성능이 뛰어납니다
이 개념이 잘 적용되는 분야가 여럿 있고
모듈 초반에 보여드린 드레스 고르는 데모가
정확히 이 개념을 활용한 겁니다
드레스에 대한 설명은 많이 없었지만
이미지넷에서 훈련시킨 모델을 통해 드레스 쇼핑을 무사히 마쳤습니다
그렇다면 딥 특징은 얼마나 일반적일까요?
특이하고 아주 드문 작업에도 써먹을 수 있을까요?
놀라실 겁니다
쓰레기에 대해 말씀드리죠
[웃음] 컴폴로지란 회사가 있습니다
아주 재밌는 회사인데요
쓰레기 수거 방식을 재창조하려고 하고 있습니다
보통 쓰레기차가 집집마다 가게마다 돌아다니면서
정기적으로 쓰레기를 매일 매주 수거합니다
쓰레기차의 경로를 최적화해서
수거에 드는 시간을 최소하하려고 합니다
쓰레기통에 카메라를 설치해서
얼마나 들어있나 알아냅니다
꽉찬 쓰레기통 이미지 라벨은 없지만
딥 특징과 사람에 의한 약간의 훈련 데이터로
쓰레기통이 찬 정도를 알아내서 쓰레기 탐지기를 학습시켰고
이를 통해 쓰레기차의 경로를 최적화했습니다
쓰레기 수거에 드는 시간을 줄였죠
딥 특징은 쓰레기에도 유용합니다
[음악]