카카오 계정과 연동하여 게시글에 달린
댓글 알람, 소식등을 빠르게 받아보세요

가장 핫한 댓글은?

인공지능쟁이 선배님들 한테 질문

2025.02.12

8

604

혹시 모델 짜실 때 cuda나 triton으로 개발해서 사용해보신 경험 있으신 분 있을까요?

재밋어서 해보고 있긴한데 ,
Cuda 단에서 설계하는건 xlstm이나 flash attention mamba , ring attention 정도에서나 봤지 대부분은 그냥 torch 써서 개발하시더라구요.

혹시 인공지능 과제에서나 논문에서 개발해보신 경험 있으신 분들 있을까요??

카카오 계정과 연동하여 게시글에 달린
댓글 알람, 소식등을 빠르게 받아보세요

댓글 8개

2025.02.13

최근 triton으로 커스텀 커널 개발했는데, 문서화도 잘 안되어있고 제약이 많아서 꽤 고생했습니다.
c++익숙하시면 cuda가 차라리 편할것 같아요

대댓글 1개

해당 댓글을 보려면 로그인이 필요합니다. 로그인하기

2025.02.13

산업에선 성능이 중요한 특수한 경우 아니면 그냥 pytorch 씁니다.
CUDA나 triton은 성능 튜닝할때 쓰는거고 논문용으로 커스텀 kernel 짜는건 취미생활에 가깝죠.

대댓글 2개

해당 댓글을 보려면 로그인이 필요합니다. 로그인하기

해당 댓글을 보려면 로그인이 필요합니다. 로그인하기

2025.02.13

그냥 pytorch로 개발해서 cuda로 돌아가게 하는게 대부분이죠.

해당 댓글을 보려면 로그인이 필요합니다. 로그인하기

해당 댓글을 보려면 로그인이 필요합니다. 로그인하기

댓글쓰기

게시판 목록으로 돌아가기