안녕하세요 lightweight robot에서 vision 정보를 바탕으로 제어 쪽 연구를 하고있는 SPK 박사과정입니다.
이런 연구를 한다고는 했지만 사실 저희 연구실은 제어 쪽에 집중해서 연구를 진행을 하고 있는데요, 그러다보니 vision 알고리즘은 저명한 baseline들을 단순 포팅해서 사용하는 것이 일반적입니다(ResNet 혹은 심지어 단순 CNN 류).
그러다보니 평소에 비젼쪽으로 깊은 연구나 고민은 하지 않고 최신 유명 학회 (NIPS, CVPR 등)에 대한 follow up 정도만 하다가 어느덧 연차가 쌓여가다보니 full structure design에 관심이 생겼고 최근에 각잡고 읽어보다가 점점 드는 생각이,
연구의 트렌드가 깊은 theoretical contributions을 찾는 것 보다는 네트워크 구조/파라미터 등 튜닝을 정말 많이 (대학 소규모 연구실이 감당할 수 없을 만큼) 진행하고 그 중에 (벤치마크) 성능이 가장 잘 나오는 것이 결국 페이퍼가 되는 것이 아닌가 하는 생각이 들었습니다.
물론 제가 많이 부족하기에 그렇게 느낄 수 있지만 저희 연구실 동료들과도 비슷한 얘기를 했는데요. 사실 저희가 제어쪽이여서 무조건 이론 이론만 해왔다보니 그럴 수도 있을 듯 합니다만 이 포인트를 정확히 catch해야 연구를 깊게 할 수 있을 것 같습니다.
비젼 전공하신 분들의 시각은 분명히 다르고 제가 놓치고 있는 부분이 분명히 있을 것 같은데 이 부분에 대한 조언을 주변에서 얻기가 어려워 이렇게 여쭤보고자 글을 올립니다. 도움 주시면 감사하겠습니다~~!
카카오 계정과 연동하여 게시글에 달린 댓글 알람, 소식등을 빠르게 받아보세요
댓글 9개
2022.04.17
실제로 그런 연구가 많고.. reproduce 안되는 경우도 너무 많음
저는 그런 방향이 바람직하게 느껴지지는 않네요.
2022.04.17
궁금한게 ligthweigth robot이라하면 어떤걸 말씀하시는건가요? micro robot??
로봇관련 연구하는 사람으로써 그냥 궁금해서요.
대댓글 1개
2022.04.17
아 요새 lightweight 작업에 집중하고 있어서 해당 용어를 사용한 것 같네요. 산업용 모바일 소형 로봇이라 생각하시면 될 듯 합니다.
2022.04.17
공감합니다
2022.04.17
제 생각이 크게 틀리지 않았다는게 개인적으로는 다행이라 생각되지만 연구 방향을 잡기는 더 막막해진 느낌이....ㅠㅠ 고견 감사드립니다.
2022.04.18
이론이 좋아도 성능이 부족하면 안되는 경우가 많으니 어쩔수없이 극한으로 튜닝해서 잘나온거 기준으로 써야됨. 이론과 성능이 따로노는 경우가많은듯. 근데 어쩔수가없지않음? 리뷰어들이 한마디로 컷해버리는데.
이론은 좋으나 large scale 데이터에 실험이 부족함 리젝, 왜 최신 baseline보다 안좋냐? 리젝, 데이터셋 왜 이거밖에 안했냐? 리젝
이런식으로 서너줄 리뷰던져주고 리젝줘버리니까 이론보다는 성능이 되어버림
씩씩한 로버트 후크
IF : 1
2022.04.18
사실 논문들이 그렇게 되는 이유가 AI 논문수가 너무 많이 팽창해서 인플레이션이 가속화되었기 때문인 듯..
관련 컨퍼런스 내보신 분들은 알겠지만, 기껏 논문 가져갔더니 'SOTA 아니네? 리젝' 한 마디 리뷰 받으면 정말 허탈하죠.
그런데 리뷰어들 입장에서는 넘쳐나는 논문을 다 리뷰하고 컷하려고 하다보면 저 핑계로 걍 리젝시키는게 가장 속 편하기 때문. 레딧 등지에서도 CVPR 리뷰 복불복인거야 정말 악명높고, AAAI는 제출 편수가 10000편이 넘었다는데, 이거 다 누가 리뷰할까요? 기존에 온 세상에 그렇게 인공지능 전문가들이 이렇게 많았나요?
2022.04.19
아이디어가 좋아도 튜닝 죽어라 하고 벤치마크 표도 가득 채울 수 있는 컴퓨팅 리소스를 가진 자만 논문 쓸 수 있는...
2022.04.20
음... 개인적인 경험으로는 조금 고인 분야들 (classification같은) 곳은 그런 경향이 심했고최근에는 structure도 scalable한 종류만 많이 연구합니다. 특히 이런 류는 산업에도 많이 진출하기도 하고 가장 직관적인 예제다 보니 그런 의미없는 연구들도 많이 보였습니다만, nas 뜨고 나서는 그런 연구가 많이 줄지 않았나요? 그리고 모든 비전 분야가 그런 것은 아닙니다. 예를 들면 3D 분야는 이제 발전 되는중이라 아이디어 싸움이 대부분이고 structure 탐구는 잘 없습니다. 찾아보면 그런 분야들이 많습니다. 아마 robotics쪽에 매번 쓰는 분야만 서치하시다 보니 그런 것 아닐런지 감히 추측해봅니다
2022.04.17
2022.04.17
대댓글 1개
2022.04.17
2022.04.17
2022.04.17
2022.04.18
2022.04.18
2022.04.19
2022.04.20