-
From System 1 Deep Learning to System 2 Deep Learning카테고리 없음 2020. 1. 2. 01:12
https://www.youtube.com/watch?v=FtUbMG3rlFs
좀전에 다른것을 뒤지다가 죠슈아 벤지오 선생이 지난 12월 11일에 NeurIPS에서 발표한 놀라운 내용을 발견하였다. 시스템1 딥러닝에서 시스템2 딥러닝이라는 제목의 강연인데, 국내에는 "생각에 관한 생각" 이라는 제목으로 변역되어 나온 "Thinking, Fast and Slow" 라는 책에서 얘기하는 System1/System2 를 응용하여 시스템2를 위한 Deep Learning 설계에 대한 포부를 밝히는 내용이었다.
문론 전체 내용을 다 이해하지는 못하지만, Sparse Factor Graph 라는 툴로, inner loop 와 outer loop 의 optimizatoin 을 엮어 주는 형태인 듯하다. 문론 inner loop 가 System1, outer loop가 System2이다.
놀란것은, 이것이 딥러닝의 종말(유사과학화)아니면, 신계의 진입... 둘중의 하나로 해석이 되기 때문이다. 하다 하다 더이상 할것이 없어진 Deep Learning의 선봉장이신 Yoshua Bengio 선생이 유사과학의 길로 들어선 것일수도, 혹은 소위 말하는 "강한 인공지능"을 만들어낼 초석이 될 아이디어를 찾아낸 것일 수도 있다. 어느쪽으로 결론이 나던 충격적인 상황이 될 것이다.
outer loop 도 지금의 deep learning에서 사용하는 알고리즘과 거의 동일한 loss optimization을 한다고 하니, 주장의 골격은 inner loop와 outer loop의 sparse 하는 connection이 될 듯한데, 터부시 되던 C-word (Conciousness) 가, 더이상은 아니라는 얘기까지 하면서 얘기를 끌고 나가는 것을 보니.. 신계로 진입한 쪽에 조금더 가까운 듯 하기는 하다.
어느쪽이던 간에, 선봉장이신 죠슈아 선생이 화두를 던졌으니, Deep Learning에서 뛰던 수많은 선수들이 달려들어서 조만간 무언가 돌아가는 놈이 나오지 않을까 싶다.
사족,
http://www.yes24.com/Product/Goods/59616093
생각에 관한 생각
300년 전통경제학의 프레임을 뒤엎은 행동경제학의 바이블2002년 심리학자로는 최초로 노벨경제학상을 수상한 ‘행동경제학’의 창시자이자, 세계에서 7번째로 영향력이 막강한 경제학자(〈이코노미스트〉 선정, 2015)인 대니얼 카너먼의 기념비적인 저작. 최신판에는 번역과 편집을 보강해 세계적인 석학의 이론과 연구 결과를 더욱더 흥미롭고 충실하게 선보인다....
www.yes24.com
생각에 관한 생각은, 책을 처음보면 무서울만큼 두꺼워서 꺼려지지만, 가격도 싸고, 쉬운 언어로 써져 있어서 술술 읽어지니, 한번쯤 읽어 보는것이 좋을듯 하다. 문론, 내용도 훌륭 하다.