?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 댓글로 가기 인쇄 수정 삭제
?

단축키

Prev이전 문서

Next다음 문서

크게 작게 위로 아래로 댓글로 가기 인쇄 수정 삭제








* 이 스터디는 계산언어학 그룹 바벨피쉬와 정통..심리학 그룹 싸이그래머에서 진행합니다.
* 1회차 후기만 공유하겠습니다.

바벨봇은 챗봇과 관련한 최신 연구들을 살펴보는 스터디입니다. 한달에 격주로 2번 합니다. 크게 2개의 커리큘럼으로 구성되어 있습니다. 하나는 챗봇. 하나는 챗봇과 관련된 응용 도메인. 사실은 인공지능 기초에 대한 파이썬 구현 위주의 책을 하나 보고 있고, 하나는 딥러닝 대화형 시스템(챗봇) 워크샵 논문들을 리뷰하고 있습니다.마침 인공지능 파이썬 책이 추천 시스템과 관련이 있어서, 11월부터는 딥러닝 추천시스템 워크샵 자료들을 리뷰하며 진행하기로 했습니다. 
즉 챗봇 + 추천엔진 스터디입니다.

11월 1회차에서는 아래와 같은 내용을 다루었습니다.

* (ConvAgent) Domain Adaptation using Linguistic Knowledge 
https://github.com/pmineiro/ldlmd2016/…/master/nips-nina.pdf
첫번째 발표는 Eunjung Park님이 준비해오셨습니다. 자연어 생성(NLG)을 딥러닝으로 하려 할때, 인코딩-디코딩 모형을 많이 씁니다. 
시맨틱 템플릿이 인풋이고, 언어 발화가 디코딩쪽에서 맡습니다. 다만 이게 도메인마다 새로 구성되어야 했는데, 하나에서 많이 배웠으니 다른 도메인에도 좀만 학습해주면 쉽게 적용되면 좋겠다고 많은 연구자들이 생각해왔습니다. 이런 도메인 적응 문제를 풀기 위해서, Abstract Meaning Representations라는 것을 제안합니다. 언어학적 지식을 시맨틱 표현으로 구성하고(그래프로도 변형가능합니다) 이를 도메인간에 통용되는 공통 지식 표현으로 써먹는 것이죠. 한 도메인에서 학습할 때 사전 지식으로 적용된 어휘 구문 구조(lexical-syntactic constructions)가 다른 도메인으로의 트랜스퍼 러닝을 돕는다는 결과를 보여줍니다. 그래서 Domain Adaptation using Linguistic Knowledge라는 제목인 것이죠. 다만 역시나, 이런 Abstract Meaning Representations를 위한 태깅 작업이 너무 힘이 드는데 추가 연구에선 자동으로 할 수 있도록 시도하겠다로 논문을 마무리하고 있습니다.

* (DeepRecom) (보조자료1) Keynote: Does IR Need Deep Learning? 
http://www.hangli-hl.com/…/3…/does_ir_need_deep_learning.pdf
두번째는 제가 발표했습니다. 정보검색(IR) 영역에 딥러닝이 필요한가? 라는 슬라이드였습니다. Neu-IR: Workshop on Neural Information Retrieval 이라는 딥러닝 기반 정보검색 시스템 관련 워크샵 2016년 키노트 중에 하나를 골랐습니다. 사실 추천이라는게 검색을 뒤집어놓은 것이라서, 추천 시스템을 이해하려면 검색 시스템을 이해할 필요가 있다는 취지하에 보강으로 정보검색, 검색엔진 등에 대해 발표를 준비했습니다. 이 슬라이드를 하기 전에 스탠포드의 정보검색 기초 슬라이드를 좀 참조해서 요약발표 후에, 딥러닝으론 이 영역에 어떤 시도가 있는지를 살펴보았습니다. 슬라이드에서의 결론은 전통적인 IR영역 - 즉, 문서검색 -은 딥러닝이 딱히 장점이 없고, 멀티모달 검색이거나, QA 영역으로 넘어갈 때 강점이 있다. 하지만 단순히 Seq2Seq나 CNN 기반으로는 상호작용형 QA(대화형 시스템의 간접형 표현에 가깝달까요?)는 힘들다. 로 맺고 있습니다. 아마 이 자료 만든 사람은 외부 메모리 뉴랄넷에 대해서는 고려하지 않고, 분류기로 많이 쓰이는 RNN, CNN만 고려한 것 같습니다.

* (DeepRecom) (보조자료2) Deep Learning based Recommender System: A Survey and New Perspectives 
https://arxiv.org/abs/1707.07435
세번째도 제가 발표했습니다. 우선 추천 시스템에 대해 개략적으로 요약발표하고(CF와 컨텐츠베이스드), 딥러닝으로 추천 시스템을 요즘은 어떻게 공략하는지 정리해놓은 서베이 논문을 좀 살펴보았습니다. 이 논문에서 참 정리를 잘해놨는데, 결국 CF, 컨텐츠베이스드, 하이브리드 추천시스템이 모델링하려는 사용자 특징, 아이템 특징, 사용자-아이템 상호작용 - 이 세 부분에 대해 딥러닝이 어디에 어디까지 적용되어 기존보다 성능을 높이려하는지에 대한 것으로 요약될 수 있었습니다. 여기서의 분류와 내용을 다 살펴본 것은 아니고 CNN 기반 추천시스템까지만 살펴보았습니다.

* (DeepRecom) A Deep Multimodal Approach for Cold-start Music Recommendation 
http://dlrs-workshop.org/…/oramas_music_cold_start_dlrs2017…
마지막 발표도 제가 했습니다. 이 발표를 이해하기 전에 검색, 추천, 딥러닝 적용 추천에 대해 좀 보강 리뷰를 한 것입니다. 다음 회차부터는 그냥 바로 딥러닝-추천 워크샵 자료들을 바로 리뷰하면 될 것 같습니다. 음악 추천을 위한 추천 시스템과 관련해서, 새 아티스트나 기존 아티스트의 새 앨범이 등급 정보가 없어서 콜드 스타드 문제가 발생하는 것을 극복해보자. 라는 취지의 논문이었습니다. 아티스트의 바이오그래프와 집계된 사용 데이터 + 온톨로지 확장 메타 정보 등을 이용해서 텍스트 임베딩 벡터를 만듭니다. 그리고 음악 자체에 대해 오디오 임베딩 벡터를 만듭니다. 그리고 이를 결합하는 멀티모드 뉴랄넷으로 추천을 하는 구조였습니다. 세번째에서 살펴본 서베이 논문에 따르면 CNN 기반 멀티모달 추천 시스템으로 분류될 수 있겠네요.

2회차에서는 챗봇 논문 리뷰, 파이썬을 이용한 추천 시스템 기초, 파이썬을 이용한 논리 프로그래밍, 간단한 추천 시스템 적용 리뷰, 딥러닝 기반 추천 시스템 라이브러리 소개(Spotlight: deep learning recommender systems in PyTorch - https://github.com/maciejkula/spotlight) 등을 할 예정입니다. 많은 분들의 참여 바랍니다. 언제나 환영합니다~

------------------------
* 바벨피쉬 페이스북 그룹 - https://www.facebook.com/groups/babelPish/
* 싸이그래머 페이스북 그룹 -https://www.facebook.com/groups/psygrammer/










  1. No Image

    12/2일날 스터디뽀개기 행사 있어서 홍보드립니다.

    Date2017.11.30 By이상열 Views3014
    Read More
  2. No Image

    Microsoft Azure Machine Learning 스터디 열번째 모임이 성공적으로 종료되었습니다.

    Date2017.11.30 By김환태 Views3060
    Read More
  3. 안녕하세요. 고려대학교 통계연구소입니다. 

    Date2017.11.30 ByYoungsun Kim Views4640
    Read More
  4. No Image

    안녕하세요! 강남지역 Machine Learning 스터디에 참여하고 있는 안효준입니다.

    Date2017.11.30 ByHyoJun Ahn Views1916
    Read More
  5. No Image

    Microsoft Azure Machine Learning 스터디 9 번째 모임이 성공적으로 종료되었습니다.

    Date2017.11.30 By김환태 Views1679
    Read More
  6. No Image

    안녕하세요. 기상청 전종희입니다. 2017 기상기후 빅데이터 포럼이 11월 17일 (금) 14시부터 일산 킨텍스에서 무료로 개최되어 알려드립니다.

    Date2017.11.30 ByJong-hee Jeon Views1811
    Read More
  7. #딥리워드X싸이그래머 11월 13일, 딥레스콜라 : 파트 1 - 1회차 스터디 후기

    Date2017.11.30 ByMooSung Kim Views1902
    Read More
  8. No Image

    [#싸이지먼트X싸이그래머 스터디원 모집] 뷰티플체인 : 파트 1 

    Date2017.11.14 ByMooSung Kim Views4206
    Read More
  9. 안녕하세요. 고려대학교 통계연구소입니다. 

    Date2017.11.14 ByYoungsun Kim Views2686
    Read More
  10. No Image

    [#싸이그래머X캐글뽀개기 스터디원 모집] 손바닥ML : 파트 1 

    Date2017.11.14 ByMooSung Kim Views2221
    Read More
  11. 한국보건정보통계학회 추계학술대회 연수교육: 보건의료 데이터의 고급 통계분석방법

    Date2017.11.14 By김호 Views3050
    Read More
  12. No Image

    Microsoft Azure Machine Learning 스터디 8 번째 모임이 성공적으로 종료되었습니다.

    Date2017.11.14 By김환태 Views1867
    Read More
  13. No Image

    #바벨피쉬X싸이그래머 11/2, 목, 바벨봇 : 11월 - 1회차 스터디 후기

    Date2017.11.14 ByMooSung Kim Views2041
    Read More
  14. #딥리워드X싸이그래머 10/23, 월, 딥파블로프 : 파트 - 1회차 스터디 후기

    Date2017.11.14 ByMooSung Kim Views1722
    Read More
  15. No Image

    #싸이그래머X바벨피쉬X바이오스핀 10/27, 금, 바벨케어 : 파트 1 - 1회차 스터디 후기

    Date2017.11.14 ByMooSung Kim Views1877
    Read More
  16. No Image

    통계마당에 밋업 공유드립니다.

    Date2017.11.14 By이상열 Views1893
    Read More
  17. No Image

    Microsoft Azure Machine Learning 스터디 7 번째 모임이 성공적으로 종료되었습니다.

    Date2017.11.14 By김환태 Views1804
    Read More
  18. No Image

    Microsoft Azure Machine Learning 스터디 6 번째 모임도 성공적으로 종료되었습니다.

    Date2017.10.31 By김환태 Views2463
    Read More
  19. No Image

    [스터디원 모집] 딥레스콜라 : 파트 1 (파이썬/텐서플로우를 이용한 딥강화학습 기초)

    Date2017.10.31 ByMooSung Kim Views2720
    Read More
  20. No Image

    [스터디원 모집] 바벨케어 : 파트 1 (베이지안 통계는 R을 이용한 실습)

    Date2017.10.31 ByMooSung Kim Views2302
    Read More
  21. IoT에서 빅데이터 그리고 블록체인까지 4차 산업혁명 시기에 가장 중요한 경영전략을 체험해드리는  제4기 매경빅데이터최고위과정을 모집합니다^^

    Date2017.10.31 BySea Eul Kim Views1875
    Read More
  22. No Image

    Microsoft Azure Machine Learning 스터디 5 번째 모임도 성공적으로 종료되었습니다.

    Date2017.10.31 By김환태 Views1655
    Read More
  23. #싸이그래머 #ReBayes Re:Bayes : 파트 1 - 1회차, 10월 11일 스터디 후기

    Date2017.10.31 ByMooSung Kim Views2237
    Read More
  24. No Image

    안녕하세요.R과 파이썬을 이용하여 추천 시스템을 이해하고 개발해보는 스터디를 진행하려고 합니다. ^^

    Date2017.10.31 ByDennis Lee Views1998
    Read More
  25. No Image

    사)한국빅데이터학회  추계학술행사가 11월2일(목) 코엑스 E홀에서 개최됩니다

    Date2017.10.31 BySea Eul Kim Views2131
    Read More
  26. 안녕하세요. 고려대학교 통계연구소입니다. 

    Date2017.10.14 ByYonghyun Ahn Views2582
    Read More
  27. No Image

    안녕하세요! 정우준입니다. 이번 RUCK 2017을 준비하면서 우여곡절이 많았으나 마지막으로 좋은 소식 하나 전하게 되어 공지합니다.

    Date2017.10.14 By정우준 Views2395
    Read More
  28. No Image

    Microsoft Azure Machine Learning 스터디 4 번째 모임도 성공적으로 종료되었습니다.

    Date2017.10.14 By김환태 Views2251
    Read More
  29. No Image

    <'블록과 함께하는 파이썬 딥러닝 케라스 ' 3부 무료 증정!>

    Date2017.10.14 ByByung Woo Shin Views2406
    Read More
  30. No Image

    매달 진행하는 xwmooc R meetup 행사입니다. 

    Date2017.10.14 By이상열 Views1843
    Read More
  31. No Image

    [#싸이그래머 스터디원 모집] 파이그래머 : 파트 1

    Date2017.10.14 ByMooSung Kim Views1941
    Read More
  32. No Image

    [#싸이그래머X바이오스핀 스터디원 모집] 어바웃 파이썬 : 10월 

    Date2017.10.14 ByMooSung Kim Views2056
    Read More
  33. No Image

    RUCK 2017 관련하여 안내말씀드립니다. 후원을 추가로 받을 수 있게 되어 학생의 등록비를 3만원에서 2만원으로 인하할 수 있게 되었습니다.

    Date2017.10.14 By정우준 Views1868
    Read More
  34. No Image

    #마케팅 데이터분석 스터디원 모집 (10.14 시작 매주 토요일 오후 1시 강남)

    Date2017.10.14 By김성근 Views2591
    Read More
  35. No Image

    [스터디원 모집] 슬로우Cloud : 파트 1 

    Date2017.10.14 ByMooSung Kim Views1833
    Read More
  36. [고려대학교 통계연구소] 2017 가을학기 통계적 방법론 공개강좌 개최 안내

    Date2017.10.13 By용용이90 Views2069
    Read More
  37. No Image

    뽀개기 행사 홍보담당 이상열입니다!

    Date2017.09.27 By이상열 Views2799
    Read More
  38. No Image

    <'R을 이용한 데이터 처리 & 분석 실무' 3부 무료 증정!>

    Date2017.09.27 ByByung Woo Shin Views2984
    Read More
  39. No Image

    <'데이터과학 입문' 3부 무료 증정!>

    Date2017.09.27 ByByung Woo Shin Views3010
    Read More
  40. No Image

    Microsoft Azure Machine Learning 스터디 세 번째 모임도 성공적으로 종료되었습니다.

    Date2017.09.27 By김환태 Views2108
    Read More
  41. No Image

    <'프로그래머를 위한 선형대수' 3부 무료 증정!>

    Date2017.09.27 ByByung Woo Shin Views2499
    Read More
  42. No Image

    [스터디원 모집] 딥파블로프 : 파트 1

    Date2017.09.27 ByMooSung Kim Views1974
    Read More
  43. No Image

    [스터디원 모집] #싸이그래머 Re:Bayes - 파트 1

    Date2017.09.27 ByMooSung Kim Views2789
    Read More
  44. No Image

    [스터디원 모집] #바벨피쉬X싸이그래머 바벨봇 : 10월 

    Date2017.09.27 ByMooSung Kim Views2841
    Read More
  45. No Image

    <무료 도서 증정 이벤트 예정 목록>

    Date2017.09.27 ByByung Woo Shin Views2109
    Read More
  46. <뼈문과를 위한, 파이썬을 이용한 완전 텍스트마이닝 기초> 

    Date2017.09.27 ByMooSung Kim Views2944
    Read More
  47. ※ 제 14차 기업데이터 비교분석 국제학술세미나

    Date2017.09.17 BySinho Kim Views2810
    Read More
  48. 빅데이터 분석 기반 마케팅 교육

    Date2017.09.09 ByYW Song Views3584
    Read More
  49. No Image

    [스터디원모집] #싸이지먼트 애드 에이전트 : 파트 1

    Date2017.09.06 ByMooSung Kim Views2703
    Read More
  50. No Image

    <스터디원 모집> 함수산책 Part5 : 1회차

    Date2017.09.06 By이상열 Views3221
    Read More
Board Pagination Prev 1 2 3 4 5 6 7 8 Next
/ 8