카카오 계정과 연동하여 게시글에 달린
댓글 알람, 소식등을 빠르게 받아보세요

가장 핫한 댓글은?

Chat GPT 사용 시 주의할 점

2023.03.17

16

12802

연구관련해서 찾아볼 게 있어서 챗gpt에 질문을 했더니 구글링으론 3시간 정도 걸려 찾을 내용들을 바로 요약까지 해주길래 진짜 편하다 라고 생각했음.

더블체크를 위해 해당 내용들 레퍼런스 알려달라고 했더니 레퍼런스랑 doi까지 알려주길래 검색해봤더니 아무리 찾아도 해당 논문들이 나오지 않음. 10개정도 레퍼런스 모두 다 존재하지 않는 레퍼런스였음. 저널 사이트 들어가서 vol. Issue. Page로까지 검색 해 봐도 존재하지 않았으며, 해당 넘버들은 다른 논문이었음.

이쯤 되니 chat gpt가 요약해 준 내용이 진짜인지 의심이 가기 시작했음. 예를 들어 내가 'A라는 물질이 B라는 실험에 사용된 적이 있냐?' 라고 물어보면 적당히 짜집기해서 레퍼런스까지 그럴싸 하게 만들어서 질문자가 듣고싶어하는 답변을 허위로 만들어 주는 거 같다는 느낌을 받았음.

그래서 결국 직접 구글링해서 확실한 정보를 찾아봤더니 Chat gpt가 답해준 내용은 거짓이었음.

결론
Chat gpt 너무 맹신하지 말고 꼭 레퍼런스 체크에 더블체크까지 하길바람

카카오 계정과 연동하여 게시글에 달린
댓글 알람, 소식등을 빠르게 받아보세요

댓글 16개

놀란 플라톤*

2023.03.17

이거랑 똑같은 글 한 1~2주전에 올라옴.
그사람 왈 GPT챗의 가장 큰 단점은 "없는 자료를 있는 것 처럼 만들어내는 창조성에 있다"

즉, 기존에 있는 데이터를 단순히 짜집기해서 만들어내는 수준이 아니라 실제로는 없는 논문을 마치 있는것처럼 꾸며내는
흔히 말하는 가짜뉴스를 만들어 낼 수도 있는 부분에 문제가 있음

대댓글 1개

2023.03.17

해당 글 읽어봤는데 문제가 많군요..ㅋ
저는 이제 검색용도로는 챗gpt 안쓸거같네요
착한 프랜시스 베이컨*

2023.03.17

이번 새로운 버전은 이런 문제 어느 정도 해결된 거 같던데.

대댓글 1개

눈치보는 버지니아 울프*

2023.03.17

근본적으로 해결은 어려워서,, 결국 검증하는 루틴 자체를 없앨 순 없을 것.

IF : 5

2023.03.17

딱 블로그글 제목학원 경위서 시말서 용임
울적한 제임스 와트*

2023.03.17

bing에 있는 chat gpt쓰면 레퍼런스까지 달아줌
순수한 게오르크 헤겔*

2023.03.17

빙챗쓰면됨 ㅇㅇ

2023.03.18

언어모델이지 검색엔진이 아님.

IF : 2

2023.03.18

ㅎㄷㄷ 미래가 걱정이 되게 하네요....

너무 빤히 보이는 거짓뉴스도 개개인단계가 아니더라도 벌써 사회전체에 여러 고통을 안기고 있는데...
이렇게 김박사넷처럼 고학력에게도 "어?" 하고 한번 속게 만든다면 진짜 걱정이네요.

맞게 쓰고자 하는 사람들은 잘 쓸수 있는 툴이고 앞으로도 개발자들도 이런 문제가 없이 개선하겠지만...
이런 툴들을 의도적으로 악용하는 사람들이 분명 있을꺼고...
그러면 그 빤히 보이는 거짓 뉴스도 이젠 "어?"한번 하게 되는 거짓뉴스로 진화할듯....

암울합니다.
재치있는 존 필즈*

2023.03.19

거의 리플리 증후군이던데요

대댓글 1개

2023.03.22

ㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋㅋ

2023.03.19

자기가 무슨 말을 하는지도 모르는 애 아닌가요
그냥 이상한말 치고 어떻게 창조적으로 대답하나 보면서 장난치는 정도가 가장 적당한 것 같습니다

2023.03.19

전 소설 읽고 궁금한 점 물어보는 데 종종 쓰는데 고전문학처럼 데이터가 많이 쌓인 책이 아닌이상 내용조차 제대로 파악하지 않더군요...연구에 쓸 생각은 애초에 없었습니다

2023.03.19

pdf파일 엣지로 열람하시고 bingchat으로 영어로 내용요약이나 물어보기 요청해보세요.. 그림도 이해하고 상당히 요긴하게 쓸 수 있습니다.

긴 사업 지침파일 읽으라고하고 영리기관 사업비에서 간접비항목 몇프러로 설정해야해? 이런것도 될 것 같은데 아직 안해봐서 몰겠네여

2023.03.20

사칙연산을 틀리는걸 본 기억이..

2023.10.10

기초적인게 문제가 많더라구요...

댓글쓰기

게시판 목록으로 돌아가기

김박사넷의 새로운 거인, 인공지능 김GPT가 추천하는 게시물로 더 멀리 바라보세요.

반도체/AI 게시판에서 핫한 인기글은?

반도체/AI 게시판에서 최근 댓글이 많이 달린 글

🔥 시선집중 핫한 인기글

최근 댓글이 많이 달린 글