Posts

Showing posts from January, 2017

(딥 러닝) 자연어 처리의 4가지 주요 공식: Embed, Encode, Attend, Predict

Image
자연어 처리 관련 딥 러닝 아키텍처를 보면 대게 Embed, Encode, Attend, Predict 4가지로 구성된다. 때문에 이 4가지만 제대로 알아도 이해가 가능하다.

 그러면, 제일 먼저 Embed. 단어를 n차원 실수 공간으로 옮기는 작업을 말한다. Image 따위를 vector로 변환하는건 다른 위상 공간으로 embedding하는 것이 아니므로 그냥 encoding이라는 표현을 쓴다. 여튼 수학표기는 다음과 같지:

\(W: \mathrm{words} \to \mathbb{R}^n\)

 다음은 Encoding 작업인데, "embedded vectors"를 sentence matrix로 계산하는 과정이다. 여기서 s는 (zero-padded) sentence length이고, d는 embedding의 dimensionality를 뜻한다:

sentence matrix \(A \in \mathbb{R}^{s×d}\)

 다음으로 Attend. "attended vector" 라는 표현을 자주 볼 수 있는데, 이는 행렬이 다시 single vector로 차원 축소되었다는 얘기다. max-pooling, sum-pooling 뭐 그런 방법을 사용하는데, MathJax에 익숙치 않아서 대강 적어보면 요정도 되시겠다:

attention vector \(σ\) = SumPool\((A_{i,1})\), ..., SumPool\((A_{i,K})\)

 마지막으로 Predict. 위 단계에서 구한 "attended vector"가 출력층에 전달되는 과정이다. SoftMax 뭐 그런 확률 모델 등이 있는데 너무 많으니 생략. NLP 모델은 대게 feed-forward 구조라서 보통 이 4가지의 단계를 따른다. Training은 back propagation이 있겠는데 최적화 이론은 조금 긴 얘기라 역시 생략. 

 그림으로 표현해서 구독자들께 전달하고 싶긴하나 귀찮고 어려운 작업이라 .. 검색한 이미지를 가져…

존! 나 고심끝에 이직해

Image
네이버, KT, 오라클, 그리고 잠깐의 사업을 거쳐 삼성전자에 입사한지도 2년이 지났습니다. 2016년 병신년을 뒤로하며 이번에는 꽤 색다른 도전에 나섭니다. 무슨 일이야!? 국내 O2O 숙박전문 회사 CTO로 조인합니다!


존! 나 고심끝에 이직해~
 그간 입사 제의를 받더라도 이직 자체가 비용이며 리스크이기 때문에 움직일 생각은 별로 안하고 있었습니다. 그런데, 특별히 이런 결정을 내린 계기가 있느냐 ...

 누군가 나에게 "당신이 생각하는 4차 산업 혁명의 키워드를 대봐라" 하면 AI, IoT internet, On-demand economy, O2O commerce 라 딱 4개 대답합니다.

 앞의 AI와 IoT internet은 주도 기술이며 뒤의 On-demand economy, O2O commerce는 기술 변화에 따른 경제 구조와 소비 양식의 변화를 말합니다.

 영리기업의 인공지능 R&D는 결국 지능적 서비스-이익 체인 시스템을 위한 겁니다. O2O 상거래 순환 구조 안에 그러한 기술이 총망라 될 것으로 보고 있고, 온-오프 사업자, 광고주, 그리고 소비자 간 win-win-win 모델이 형성되며 신종 B2C, B2B 신규 사업 확장의 기회 또한 상당히 클 것이라 내다 보고 있지요.

 이러한 변화는 어느 정도 예견은 되고 있었습니다. 그게 생각보다 상당히 빠르게 다가오고 있는게 현실인데, 역시나 이를 잘 대응하는 것은 대기업이 아니라 startup들입니다.

 모텔/숙박 O2O 또한 그 지점 한켠에 잘 포지션 되어있는데, 가령 기존 소비 패턴인 웹을 통한 숙박정보 조사와 예약 과정의 틈을 사이언스와 정보기술 엔지니어링으로 잘 메울 경우, 소비자는 다양한 편의성과 비용절감 효과가, 비즈니스 소유자는 완전히 추적 가능한 매출 흐름을 창출 할 수 있게 됩니다. 광고주는 지역 비지니스 특성상 필요한 마케팅 지출을 효과적으로 집행하도록 하는 한편 ROI를 온전히 보상받을 수 있게 되죠.

 결론적으로, 기업의 아이덴티티, 그리고 CTO…

Java에서 Aparapi를 이용하여 GPU 활용해보기

AMD에서 개발한 Aparapi를 이용하면 Java에서도 굉장히 편하게 GPU를 활용해볼 수 있다. 먼저 AMD APP SDK (AMD OpenCL™ Accelerated Parallel Processing) 를 설치해보자: 다운로드
% bzip2 -d AMD-APP-SDKInstaller-v3.0.130.136-GA-linux64.tar.bz2 % tar xvf AMD-APP-SDKInstaller-v3.0.130.136-GA-linux64.tar % sh ./AMD-APP-SDK-v3.0.130.136-GA-linux64.sh % ls ~/AMDAPPSDK-3.0/include/ 기타 설정은 https://wiki.tiker.net/OpenCLHowTo 에서 확인할 수 있고, 최종 설치가 잘 완료 되었는지 확인을 위해서 tools-master를 사용해보면 devices 정보가 나온다. 실험장비에는 Tesla k80이 총 16개 꽂혀있다.
$ curl https://codeload.github.com/hpc12/tools/tar.gz/master | tar xvfz - $ cd tools-master $ make OPENCL_INC=/home/edward.yoon/AMDAPPSDK-3.0/include/ $./print-devices ./print-devices: /usr/local/cuda-7.5/lib64/libOpenCL.so.1: no version information available (required by ./print-devices) platform 0: vendor 'NVIDIA Corporation' device 0: 'Tesla K80' device 1: 'Tesla K80' device 2: 'Tesla K80' device 3: 'Tesla K80' device 4: 'Tesla K80' device 5: &…