2학기 시작하고부터 본격적으로 랩실 인턴 시작한 새내기인데 인턴연구하다 느끼는 점이 생겨서 현역 석박생분들이나 졸업자분들은 어떻게 느끼는지 궁금해서 글 써봅니다
랩실 들어가고 교수님이 추천해주신 연구주제로 인턴연구를 시작했습니다(AI/ML 분야). 교수님이 추천해 주신 논문은 작년 메이저 컨퍼런스에 나온 논문이었는데 읽어보니 노블한 아이디어도 있고 성능도 sota보다 좋더라구요. 그래도 아직 완벽한 성능을 내는건 아니라서 이 논문의 결과에서 단점을 찾고 그런 단점들을 보완하기 위한 새로운 네트워크 구조를 교수님께 제안했고 교수님도 긍정적으로 평가해주셔서 이제 실제 구현을 할 준비를 하고 있습니다
근데 제가 제안한 프레임워크를 보니 뭔가 저만의 노블한 아이디어가 없는것 같아(물론 학부수준에서, 혼자 진행하는 연구에서 대단한 아이디어를 뽑아낼수 있겠냐만은) 제가 읽은 논문을 인용한 후속 연구들을 찾아보게 되었는데 진짜 많더라구요. 불과 1년 남짓한 시간에 제가 읽은 논문의 성능을 뛰어넘는 네트워크들이 많이 나왔더라구요. 물론 제가 아직 학부생이고 혼자 연구를 하지만 이런걸 보니 뭔가 거대한 벽을 마주한 느낌이었습니다. 결국에 제가 제안한 네트워크가 저들의 성능을 뛰어넘지 못하면 그저그런 연구가 되는게 아닌가라는 생각이 들었습니다. 물론 학부생 신분인 지금으로서는 논문의 결과보다 연구를 설계하고 진행해 결과를 도출하는 과정들을 경험하는게 중요하다고 생각은 합니다. 그런데 제가 본격적으로 대학원에 들어갔을 땐 저 벽을 넘을 수 있을까라는 막연한 걱정이 듭니다. 이게 그 흔히들 말하는 재능의 벽인가 싶은 생각도 들었습니다. 한 문장으로 정리하면 '내가 지금 하고있는 이 연구가 좋은 결과를 내지 못할 수도 있다는 불안감 혹은 걱정'정도로 정리 할수 있겠네요. 지금 학위 과정에 계신 분들이나 졸업생 분들은 이에 대해 어떻게 생각하시는지 궁금하네요
카카오 계정과 연동하여 게시글에 달린 댓글 알람, 소식등을 빠르게 받아보세요
댓글 4개
2021.10.20
깜냥안되면 못하는거지 뭐
2021.10.20
저도 ML분야를 학부생때 부터 했고, 비슷한 고민을 했었습니다.
논문을 읽고, 구현을 하고 현재 상황을 잘 파악하는 것만 해도 대단합니다.
현재 Neural Net 아키텍쳐에 대한 아이디어를 내신 것 같은데, 꼭 task specific하나요? 먼가 장점이나 향후 활용도 등은 고민해 보셨나요?
SOTA를 찍기위한 연구를 하기 보다는, 입증하고 싶은 논리를 만들고 그 논리를 수학적으로 (가능하다면) 혹은 실험적으로 증명한다고 생각하세요. 일단 ML도 컴퓨터 과학이니까요.
입증하고 싶은 논리가 확립된다면, 중간에 SOTA를 뺏겨도 만회할 길이 많습니다. 중간에 SOTA를 뺏은 방법과 현재 실험중인거를 믹스해도되구요 (논리가 깨지지 않는다는 가정하에).
논문이 빨리나온다는 것을 경험했으니, 유사시 비슷한 연구들이 나왔을 때도 유연하게 대처가능하게 주제를 설정하는 것이 좋습니다. 탑컨퍼에 낸다면 리젝도 많이 나오게되는데, 그럴경우 SOTA는 쪼 뺏겨있겠지요.
ML분야에서 재능의 벽은 존재합니다만, 소위 말하는 탑컨퍼에 가는 수준은 노력과 열정으로 충분히 커버가 가능합니다. 지금처럼 열정잃지않고 하시면 충분히 빛 보실거에요
2021.10.20
2021.10.20
대댓글 2개