LLM, 이미지 연구하는데 서버 구성어떻게 해야할까요

2024.07.14

1299

이번에 5천만원정도? 장비비를 사용할 수 있게 되어서 서버를 구축하려고 하는데요.

예전엔 VRAM이 더 커야한다던가... 그런 필요성을 못느껴서 A5000*8 서버를 2개 가지고 있는데, 요즘엔 좀.. 크게 느끼고 있습니다.

연구비야 이후에도 나올 수 있으니 확장 가능성을 염려해 두고
1. A100 한장 + 새 서버
2. A5000 빼고 H100 한장 장착
3. A6000 ada 4장 + 새 서버

어떤게 가장 좋아보이시나요?

카카오 계정과 연동하여 게시글에 달린
댓글 알람, 소식등을 빠르게 받아보세요

댓글 6개

2024.07.14

요즘 A100이 시중에 나와있는게 있나요

대댓글 1개

해당 댓글을 보려면 로그인이 필요합니다. 로그인하기

2024.07.14

가성비는

A6000 Ada 4장이 가장 좋아보이고요

A6000 Ada 8장 들어갈 수 있는 렉을 먼저 구매하시고,

A6000 Ada 4장으로 시작하는게 가성비적으로 좋아보입니다.

A100을 사기에는 너무 가성비가 ㅠㅠ

2024.07.15

A100은 중고로도 구하기어려울거구요, 6000 ada를 8장 장착가능한 서버들이 있으니, 예산 가능한대로 GPU를 장착하시길 권합니다. 물론 system memory도 gpu memory의 2-3배 로 미리 장착하시길.

해당 댓글을 보려면 로그인이 필요합니다. 로그인하기

댓글쓰기

게시판 목록으로 돌아가기

아무개랩 게시판에서 핫한 인기글은?

아무개랩 게시판에서 최근 댓글이 많이 달린 글

🔥 시선집중 핫한 인기글

최근 댓글이 많이 달린 글