인공지능(자연어처리) 대학원 진학에 관심이 생겨, 관련 랩실에 학부연구생으로 지원했는데요.
교수님께서 프레임워크을 안쓰고 기본기 기르는 걸 중요시여기어, <밑바닥부터 딥러닝 1>이라는 책을 읽고, 2주(최대 3주) 내로 20분가량의 PT를 준비해서 다시 연락달라고 하시네요. 당연히 코드를 그대로 따라치는 건 의미없고, 공부하면서 느낀 실험/경험 등을 중점적으로 준비하면 된다고 하십니다.
그런데 책을 다 읽었음에도, 책 내에 나와있는 기법들(초기화, 활성화함수 등)을 바꿔가면서 결과물 비교하기 정도밖에 실험할 거리가 생각이 안나서요. 또 선술했듯 프레임워크를 사용하는 걸 지양하시기에 GPU가속화 등도 어려워, 직접 모델을 구현하거나 딥러닝으로 학습시키는 데에도 한계가 있을 것 같더라구요. 차라리 프레임워크 사용 제한이 없으면 아예 최신논문 위주로 간단하게 모델이라도 구현해볼텐데요.
관련해서 1. 이런 식으로 학부연구생 전에 PT를 진행하는 경우가 많은지 궁금합니다. 2. 위와 같은 경우, PT를 어떤 식으로 준비하면 될지 조언해주시면 감사하겠습니다!!
밑바닥부터 시작하는 딥러닝 1이 다루는 범위가 대략 퍼셉트론과 같은 기초 알고리즘부터 CNN까지를 다루죠. 맨 뒤에 있는 ResNet 등의 알고리즘을 바닥부터 구현해보거나 해당 논문에서 파생된 현재 SOTA 모델의 공개된 코드를 읽고 실행해본다던지, 방법은 많을 것 같네요.
2023.08.28
대댓글 3개
2023.08.28
대댓글 1개
2023.08.28