인공지능 이모저모

DNN의 성공으로, 최근 DNN software library가 매우 많이 발표되고 있다. TensorFlow, PyTorch, Apache MXNet, Caffe2, 등등.. 모두 각각의 장점을 가지고 있지만, 하나의 framework에서 다른 framework으로 모델을 이동시키기 매우 힘들다는 불편함이 있다. 최근, MS 와 FB가 이 불편함을 해소하기 위해 framework 간 변환이 가능한 표준을 만들려고 하고 있다. 이름은 ONNX (Open Neural Network Exchange). 현재는 PyTorch <--> Caffe2 만 지원하지만, 향후 더 많은 framework을 지원할 예정이다. 원본문서는:  https://research.fb.com/facebook-and-microsoft-introduce-new-open-ecosystem-for-interchangeable-ai-frameworks/

중력렌즈 현상은 천문학에서 매우 중요한 현상 중에 하나이다. 빛이 중력에 의해 휘는 성질에 의해, 무거운 물체가 우리와 어떤 천체 (일반적으로 은하) 사이에 존재할 때 그 휨에 의해 원래는 보이지 않아야 할 그 천체가 휘어진 형태로 보이게 된다. 여기서 "보이지 않아야 할"의 의미는, 너무 멀리 있어서 어두워 원래는 보이지 않는 천체를 의미한다. 천문학에서, 멀리 있는 천체는, 동시에 오래된 천체를 의미한다. (빛의 속도가 유한하기 때문에 멀리 있을 수록 오래전에 빛을 우리가 관측하는 셈이다) 보다 자세한 내용은:  https://en.wikipedia.org/wiki/Gravitational_lens 이 현상은, 일반적으로 찾기가 매우 힘든데, 그 이유는 위 사진처럼 휘어진 형태로 나타나기도 하고, 또 그 밝기가 별에 비해 어둡기 때문이다. 최근 Nature 에 DNN을 사용해 이러한 중력렌즈를 검출하는 논문이 발표되었다. 많은 양의, 이미 검출된 중력렌즈 현상을 이용해 DNN 모델을 학습하였고, 학습된 모델을 기존 모델보다 빠르면서도 우수한 성능으로 중력렌즈 현상을 찾아냈다고 한다. 당연한 이야기지만 AI/ML 기법은 여러 과학분야에서도 매우 성공적으로 사용되고 있다는 것을 보여주는 논문이다. Nature 논문은:  https://www.nature.com/articles/nature23463?foxtrotcallback=true

Google이 AlphaGo로 바둑계를 재패한 후, 다음 과제로 StarCraft 를 선택할 것이라는 예측은 꾸준히 있어왔다. 그 연구의 일환으로 강화학습을 이용한 SC II 플레이가 처음 공개되었다. https://www.youtube.com/watch?v=St5lxIxYGkI 영상에서 보이듯이 아직은 초보적인 수준이다. 자원을 캐고 기본건물들을 올리는 수준. 아직 복잡한 전투나 전략에 대한 모습은 보여주고 있지 않다. 원본문서는: https://deepmind.com/research/publications/starcraft-ii-new-challenge-reinforcement-learning/ 논문은: https://arxiv.org/abs/1708.04782

인공지능과는 그다지 상관없는 주제이지만 한번 생각해볼만한 주제다. http://ncase.me/trust/ 시간이 오래 걸리지도 않고 간단하니 한번 해보는 걸 추천한다. 심지어 한국어도 추가되어서 매우 쉽게 이해할 수 있다. 물론 이 단순한 게임으로 복잡한 실제 사회를 설명할 수는 없다. 다만, 가끔은 대부분의 사람들이 간단한 규칙조차 망각하고 있는 경우가 많다는 점을 떠올리면, 이 단순한 게임에서 얻을 수 있는 것은 그리 작지 않다는 생각이 든다. 개인적으로 흥미로웠던 점은, 1) 의사소통이 매우 중요하다. 2) 우리 모두 정해진 "규칙" 안에서 움직이는 존재다. 따라서 공동의 이익을 위해 협력하여 상생하도록 하기 위해서는, 해당 공동체가 정해놓은 규칙이 매우 중요하다. 언뜻 듣기에 매우 당연한 사실이지만, 현재 우리나라 사회에서는, 제대로 지켜지지 않는 경우가 많은 것 같다.

최근 추세를 보면 최신의 AI 연구개발은 주로 Google 혹은 Facebook이 주도하고 있다. MS 이름은 거의 찾아보기 힘든게 사실. 이런 판도를 바꾸려는 것인지 MS 가 AI 연구소를 발족했다.  Google의 아성을 넘어설수 있을까? 아니, 일단 따라가기 부터 해야할까? 원본문서는: https://techcrunch.com/2017/07/12/microsoft-creates-an-ai-research-lab-to-challenge-google-and-deepmind/

위 사진은 어디 일까? 맞춰보자. 정답은.. 아무데도 아니다. 위 사진은 Google의 Deep Learning 기술로 만들어진 "가짜" 사진이다. 요즘은 일반인들도 판별하는 눈이 높아져서 합성사진을 찾아내는 기술이 뛰어나다. 사람을 속이는 정도의 사진을 자동으로 만들어내는 모델을 Google이 개발했다고 한다. 더 많은 가짜 사진을 보고 싶다면: https://google.github.io/creatism/ 논문은: https://arxiv.org/abs/1707.03491

인공지능과는 당장 큰 연관은 없지만 뇌를 연구하는 것은 오랜 기간동안 AI 의 발전에 영향을 끼쳐왔다 (단적으로 Neural Network을 생각해보라). 최근 칼텍의 연구자들이 원숭이의 뇌파를 연구했다. 연구결과, 특정 neuron이 얼굴의 특정 pattern에 반응한다는 것을 알아냈다. 이를 이용해 뇌파를 측정한 후 거의 완벽하게 뇌가 어떤 얼굴을 보고 있는지 예측해냈다. 항상 느끼는 것이지만, 뇌과학은 우리가 생각한 이상으로 빠르게 발전하고 있는 듯 하다. 원본 문서는:  https://singularityhub.com/2017/06/14/forget-police-sketches-researchers-perfectly-reconstruct-faces-by-reading-brainwaves/#sm.0015mlz591bgld01rx31oqo23h2hp

Google이 AutoML에 뛰어들었다는 것을 보여주는 첫번째 결과이다. Neural Network은  여타 Machine Learning 기법과는 조금 다르게 최적의 구조를 찾아내는 것 자체가  매우 힘들고 시간이 드는 일이다. Google이 AutoML기법을 이용해, 이 과정을 자동화하려고 하고 있다. 우리가 알고 있는  많은  수의 Deep Learning 모델은 수동으로 (주로  대학원생들에 의해 :))  찾아내진 모델이다. 앞으로 조금은 Data Scientist의 짐이 덜어질까? 원본문서는:  https://research.googleblog.com/2017/05/using-machine-learning-to-explore.html

구글이 인공지능 개발에 점점 더 박차를 가하고 있다. Google.ai 사이트 오픈과 함께 대규모의 AI 부서를 출범시켰다. 이 행사에서는 크게 TPU와 AutoML에 대한 소개로 이어졌다고 한다. 원본문서는:  https://www.engadget.com/2017/05/17/google-launched-a-massive-open-ai-division/

굳이 여행을  즐기는  사람이  아니더라도  한번쯤은  들어봤을 법한 Airbnb. 전세계 여행자들이 사용하는 사이트이기 떄문에 생산되는 양의 자료도 매우 방대하다. Airbnb에서는, 이런  많은 자료의 분석을 효율적으로  하기위한 한 방안으로 AutoML (Automated Machine Learning) 방법을 사용한다고  한다. Airbnb에서  AutoML에  대한 인식은  아래와 같다:  “...The scope of AML is ambitious, however, is it really effective?... we believe that in certain cases AML can vastly increase a data scientist’s productivity, often by an order of magnitude… “ 즉, 특정  경우에는,  data scientist의 생산성을 수십배 가까이 (an order of magnitude) 향상시킬수  있다는 것.  원본문서는:  https://medium.com/airbnb-engineering/automated-machine-learning-a-paradigm-shift-that-accelerates-data-scientist-productivity-airbnb-f1f8a10d61f8