PGR21.com
- 자유 주제로 사용할 수 있는 게시판입니다.
- 토론 게시판의 용도를 겸합니다.
Date 2025/10/01 16:28:40
Name 여왕의심복
Subject [일반] LLM 활용 핵심 팁 공유
- 지난번에 LLM 관련 글을 올리고 나서 제가 실제로 학술 연구나 강의 준비에 어떻게 활용하는지 구체적으로 물어보시는 분들이 많아 제 나름의 팁과 생각을 정리해 봤습니다. 물론 저보다 훨씬 훌륭하신 분들이 많으실 듯한데, 아래에 댓글로 남겨 주셔도 감사하겠습니다. 이 내용은 학회나 저희 연구원 선생님들께도 공유했던 내용들입니다.

1. 일단 유료 버전을 쓰셔야 합니다.
- Chat GPT든 Gemini든 무료 버전과 유료 버전의 성능 차이는 정말 압도적입니다. 단순히 답변 속도나 양의 차이가 아닙니다. 더 고성능의 최신 모델을 쓸 수 있고 한 번에 처리할 수 있는 데이터의 양(토큰 길이)이 훨씬 큽니다. 논문 PDF나 강의 자료 전체를 올리고 요약이나 분석을 시키는 등의 작업은 유료 플랜에서 훨씬 원활합니다. 월 20불 정도의 투자는 전혀 아깝지 않습니다.

2. 가급적 최신 플래그십 모델을 쓰세요.
- 위와 연결되는 이야기인데, 어떤 모델을 쓰느냐가 결과물의 질을 결정합니다. 저는 주로 Gemini 2.5 Pro를 쓰는데, 현재 학술 자료 처리나 아이디어 구체화에는 가장 좋은 선택지 중 하나라고 봅니다.

3. LLM에게 내가 누구인지 알려줘야 합니다.
- 대부분의 LLM 서비스는 프로필 설정과 같은 Custom instruction기능을 제공합니다. 여기에 "나는 의과대학 예방의학교실 교수이며, 보건학 및 역학 전문가이다. 답변은 항상 학술적 근거를 바탕으로 논리적으로 구성해주고, 전문 용어 사용에 주저하지 않아도 된다" 와 같이 나의 사용 목적과 원하는 결과물의 스타일을 명확히 입력해두면, 매번 설명할 필요 없이 일관되고 안정적인 결과물을 얻을 수 있습니다.

- 또 한 서비스를 오랜 기간 이용하게 되면 장기적으로는 사용자의 질문 패턴과 피드백을 통해 더욱 개인화된 결과물을 생성되어서 결과가 좋아집니다.

4. 업무지시를 명확하게 해야 합니다.
- 연구원에게 일을 시킬 때 애매모호한 지시보다는 명확한 배경 의도, 알아야 할 사전지식, 결과물의 형태를 가지고 업무지시를 라는 것이 당연히 더 좋은 결과가 나옵니다. llm도 같습니다.

‘학계 무슨 무슨 이슈 최신 동향 좀 알아봐 줘’ 와 같은 모호한 지시는 LLM에게도, 시키는 사람에게도 좋지 않습니다. ㅠㅠ
- ‘나는 보건학 개론 강의에서 감염병 모델링 챕터를 강의할 예정이다. 최근 3년간 발표된 논문 중, 바이러스 질환의 모델링 중 AI를 활용한 연구 동향을 비판적으로 요약해 줘. 결과물은 강의 서론에 인용할 수 있도록 A4 두 페이지 분량의 서술형으로 정리하고, 주요 근거 문헌 3개를 인용 형식에 맞춰 제시해줘"  이렇게 배경, 목적, 역할, 형식을 구체적으로 지시하는 것이 정말 중요합니다. 사실 이건 우리가 현장에서 일할 때도 당연한 것이지요.

5. 어떻게 지시할지 막막하면, LLM에게 물어보세요.
- 가끔은 특정 작업을 어떻게 시켜야 가장 효율적일지 모를 때가 있습니다. 그럴 땐 역으로 물어보면 됩니다. "만약 역학 연구자라면 코호트 연구 설계 시 발생할 수 있는 주요 바이어스와 그 해결 방안'에 대한 보고서를 작성하기 위해 연구자에게 어떤 정보를 구체적으로 요청하겠니?" 이런 식으로 질문하는 것을 '리버스 프롬프팅(Reverse Prompting)'이라고 합니다. LLM이 더 나은 결과물을 위해 필요한 정보 목록과 질문 구조를 제안해 줄거고, 일반적으로 이렇게 하면 결과물이 더 나아집니다.

6. 큰 규모의 일은 나눠서 시키세요.
- 업무 분해(Task decomposition)이라는 방법인데, 저도 매우 자주 사용합니다. 예를 들어 큰 규모의 연구계획서를 작성할 때 한번에 작성을 요구하는 것이 아니라 파트를 나누어 작성을 시키는 방법입니다.

- 저는 먼저 목차를 함께 LLM과 작성을 해서 목차에 대한 정보를 학습시키고, 개별적인 주제의 목차를 번호로 넘버링해서 한 파트씩 작성하는 방식으로 업무 분해를 하고 있습니다.

7. 한번에 일이 끝나는 경우는 없습니다.
- LLM이 내놓은 첫 번째 답변을 최종 결과물로 생각해서는 안 됩니다. 똑똑한데 아직 경험이 부족한 대학원생과 업무하시듯 피드백을 주고 받으면서 결과물을 발전시키셔야 합니다. 의외로 많은 분들이 이 부분에서 귀찮음을 많이 느끼시더라구요.

8. 환각이 걱정된다면 근거를 요구하시면 됩니다.
- 많은 분들이 환각을 걱정하십니다. 실사용에서도 많이 문제가 됩니다. 이를 피하려면 답변의 출처나 근거를 항상 명시하도록 요구해야 합니다. 검색 증강 생성(RAG, Retrieval-Augmented Generation)이라는 기술이 이제는 적용되어 있습니다. LLM이 내부 지식에만 의존하는 것이 아니라, 검증된 외부 데이터베이스를 실시간으로 참조하여 답변을 생성하는 방식입니다.

- LLM 쓰실 때 Deep research 옵션을 키시거나, 실존 문헌의 근거를 제시하라는 명시적 요구가 있으면 이 기능이 활성화됩니다.

9. 내가 가장 잘 아는 분야에서 최고의 시너지를 냅니다.
- 의외로 LLM은 내가 전혀 모르는 생소한 분야의 일을 시키는 것보다, 내가 전문가인 분야에서 활용할 때 더 좋은 성과를 냅니다. "이 분석은 내가 직접 하면 더 잘하지만, 지금은 바쁘고 귀찮으니 네가 초안을 잡아봐. 대신 결과물은 내가 꼼꼼하게 검토하고 수정할 거야." 이런 마인드셋이 중요합니다.

- 연구의 방향을 알고 있어야 LLM이 내놓은 결과물의 오류를 찾아내고, 더 나은 방향으로 이끌어갈 수 있기 때문입니다.

10. 통계 분석과 코딩은 참고와 가이드 용도일 때 가장 좋습니다.
- LLM에게 R이나 Python 코드를 짜달라고 하면 정말 놀라운 수준의 결과물을 빨리 빨리 내놓습니다. 하지만 복잡한 통계 모델링이나 역학 연구 분석에 그대로 적용하기엔 엄밀성이 떨어지는 경우가 많습니다. 연구 방법론에 대한 깊은 이해는 여전히 연구자의 몫입니다.

- LLM에게는 기본적인 코드의 템플릿이나 데이터 전처리 과정을 부탁하고, 핵심적인 모델 설계와 결과 해석은 직접 커스터마이징하는 방식이 안전하고 효율적입니다. 완전해 보이지는 못해도 예전에 웹이나 사이트들을 돌아다니면서 코드 수집하고, 직접 수정하던 시대보다는 엄청나게 빠른 속도입니다.

11. 결과물 정리는 Google Docs로 내보내기가 가장 편합니다.
- 보고서나 강의안, 연구 제안서를 작성할 때 LLM이 생성한 텍스트를 복사-붙여넣기 하면 서식이 깨져서 고생하는 경우가 많습니다. Gemini는 결과물을 클릭 한 번으로 Google Docs나 Gmail로 내보내는 기능을 제공하는데, 표나 글머리 기호 등의 서식을 그대로 유지해줘서 매우 편합니다. 거기에 구글 워크스페이스 연동까지 됩니다. 만약 특정 서식이 필요하다면, 빈 양식을 먼저 업로드해서 포맷을 학습시키면 의외로 포매팅도 잘 정리가 됩니다.

12. 어떤 평가나 리뷰를 원할때는 나의 방향성을 알려주는게 좋습니다.
- LLM은 기본적으로 사용자의 의견에 동조하고 긍정적인 피드백을 주려는 편향이 있습니다. 기분은 좋은데 생산적이지는 않습니다. 그렇기 때문에 ‘너는 내 연구에 대해 가장 비판적인 동료 심사자다. 이 연구 계획서의 잠재적인 방법론적 한계와 논리적 비약을 신랄하게 지적해줘" 와 같이 구체적인 역할과 관점을 부여해야 합니다.

13. 새로운 기능들이 계속 늘어납니다. 한번 써보셔요.
- 최근 Gemini에는 강의 슬라이드 PDF를 올리고 문제 출제시키는 기능이 정말 엄청납니다. 엄청난 업무 시간 경감이 있습니다.

다른 분들은 이것 말고 어떤 팁들이 있으신지요? 저에게도 공유를 좀,,,

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
전기쥐
25/10/01 16:43
수정 아이콘
아까 글에서 월 200달러짜리 모델 쓰고 계신다고 하셨는데, 월 20달러짜리 모델이랑 어느 정도로 수준이 차이가 나나요?
여왕의심복
25/10/01 16:55
수정 아이콘
제미나이 기준으로는 특정 태스크 횟수제한이 풀리는게 제일크고 성능차이는 잘모르겠습니다. 그런데 저는 워낙 사용횟수가 많아서 200불짜리를 쓰고있습니다.
VictoryFood
25/10/01 16:50
수정 아이콘
오 스크랩합니다.
25/10/01 16:56
수정 아이콘
환각을 방지하기 위해서, 아래 내용을 각 LLM의 설정에 적어두는 것도 도움이 될 것 같습니다
-------------------------------------------------------------------------------------
충분한 근거가 없거나 정보가 불확실한 경우, 절대 임의로 지어내지 말고 “알 수 없습니다” 또는 “잘 모르겠습니다”라고 명시해 주세요. 답변하기 전, 단계별로 가능한 정보를 검증하고, 모호하거나 출처가 불분명한 부분은 “확실하지 않음”이라고 표시하세요. 최종적으로 확실한 정보만 사용하여 간결한 답변을 완성하세요. 만약 추측이 불가피할 경우, “추측입니다”라고 밝혀 주세요. 사용자의 문의가 모호하거나 추가 정보가 필요하다면, 먼저 사용자의 맥락이나 세부 정보를 더 요청하세요. 확인되지 않은 사실을 확신에 차서 단정 짓지 말고, 필요한 경우 근거를 함께 제시하세요. 각 답변마다 출처나 근거가 있는 경우 해당 정보를 명시하고, 가능하면 관련 링크나 참고 자료를 간단히 요약해 알려 주세요.
Quantumwk
25/10/01 17:06
수정 아이콘
최근 Gemini에는 강의 슬라이드 PDF를 올리고 문제 출제시키는 기능이 정말 엄청납니다. 엄청난 업무 시간 경감이 있습니다. -> 이거 notebookLM은 진작에 있었던 기능인데 Gemini에도 기능이 나왔나보군요
Quantum21
25/10/01 17:12
수정 아이콘
저는 클로드, 제미니, 지피티 전부 유료로 쓰면서 비교하고 있습니다. 세가지 모델 장단점이 있어서 어느 하나 끊지를 못하고 있습니다. 오히려 셋다 고가요금제를 굴리고 싶은데, 그렇게는 부담되니 어느 것을 택해야 할지 고민하는 상황입니다.

제가볼때 현업 연구목적으로 LLM을 이용할 가장 중요한 핵심은 "내가 이미 잘알고 전문성이 확보된 영역"에서 이용을 해야합니다. 안그러면 중간중간에 끼어든 그럴듯하게 포장된 잘못된 이해나 헛소리를 제거할 수가 없어요. 그래서 내가 잘 모르는 분야의 내용에서 그럴듯하게 끼어든 잘못된 정보를 교정할수 없을거라는걸 알아서 더욱 조심하게 되는것 같습니다.

수학분야에서 한정한다면 리서치프론티어에 속하는 작업을 할때 가장 추론도우미로서 역할을 하는것은 주는것은 챗지피티입니다. 제 경험으로는 제미니나 클로드를 압도했고요. 제미니는 학부혹은 대학원 코스에서 다루는 내용에 대한 질문의 답변품질은 지티피보다 나을때도 많이 있습니다. 다만 필요로 하는 수학레벨이 높아지면 무슨 뜻인지 이해를 못하는 경우가 많습니다. 클로드는 며칠전에 4.5로 업데이트 되었는데, 정말 일취월장 했습니다. 기존 sonnet 4.1은 뒤떨어졌는데 당분간 좀 더 이용해보면서 판단해보려고 합니다. 지난 이틀간 이것저것 시켜본 결과 클로드가 수학 관련 동일품질의 답변을 뽑아내는 속도는 지피티5나 제미니2.5프로 보다는 훨씬 빠르더군요. 세명에게 동일한 문제를 물어보면 항상 가장 먼저 답을 냅니다. 앞으로 하드코어 추론작업에서는 정확도가 어떨지 지켜봐야 할 듯 합니다.
Quantumwk
25/10/01 17:20
수정 아이콘
클로드 4.1까지는 프로그래밍만 잘했는데 이제 STEM도 잘하나 보군요.
25/10/01 17:12
수정 아이콘
(수정됨) 개인적인 팁으로는 프롬프트 짜는게 어려우면 그 프롬프트를 만들어달라고 LLM에게 부탁하면 됩니다

그리고 그 프롬프트를 쓰다가 맘에 안드는 부분이 있으면 기존 프롬프트를 복붙한뒤 챗에게 피드백주면 다시 고쳐줍니다

전 프롬프트를 짜달라고 gpt에게 부탁한뒤 나온 프롬프트를 제미나이에게 보완해달라고 요청해서 수정한 프롬프트를 다시 gpt에 옮기는식으로 작업하는데 결과물이 매우 만족스럽습니다. 특히 세무 분야에서 환각 많이 줄어듭니다
전기쥐
25/10/01 17:43
수정 아이콘
오 유용하네요 프롬프트도 LLM에게 물어보기
휀 라디언트
25/10/01 17:36
수정 아이콘
4, 5, 6번 공감합니다. 그리고 같이 일하다보면 결국 내능력에 기반하여 퍼포먼스가 달라진다는 것을 실감합니다. 타인과의 커뮤니케이션과 협업이 중요하다는걸 ai 를 쓰면서 더느낍니다.
펭귄방패
25/10/01 17:37
수정 아이콘
업무적으로는 바이브코딩, 기술자료 딥리서치(기술동향, 특정 장비군의 비교 등) , notebook LM 을 이용하고 있습니다. 바이브코딩은 코딩을 몰라도 현업이해도를 기반으로 요구도를 주고 개발명세서를 gpt,gemini 캔버스로 작성해달라고 하니 깔끔하더라구요. 육아분야??로는 애들 스케치, 그림으로 3d 모델링이나 동영상으로 변환해주니 좋아하더라구요
Quantumwk
25/10/01 17:57
수정 아이콘
(수정됨) 본문이나 댓글에 전문가인 분야에서 써야 좋다라는 의견이 있고 맞는 말이지만 개인적으로는 내가 어렴풋이 아는 분야의 이런저런 지식을 나의 전문분야에 끌고와서 접목시킬때 좋은 결과가 나오기도 한다고 생각합니다.

다들 언급을 해주신대로 잘 모르는 분야 자체는 검증할 방법이 없기에 이게 틀린지 아닌지 알기가 어렵지만 이 분야의 지식+tool을 끌고 와서 본인의 전문분야에 끌고와서 접목시킬 경우 그 결과가 잘못되었는지 아닌지 판단이 가능하기 때문에 만약 LLM이 뭔가 잘못을 했을 경우 이런 저런 피드백을 줄수 있습니다.

'내 분야에 끌고와서 니가 제안한대로 적용해봤는데 내가 보기에는 이런 이런 결과가 나와야 되는데 좀 이상하게 나와. 보통 이러이러한 식으로 나와야 해. 뭐가 문제인지 고민해봐' 이런식으로 접근하면 내가 어렴풋이 아는 분야의 tool이나 지식을 써도 결과물에 대한 검증이나 피드백이 어느정도 되기 때문에 LLM이 없었다면 낼 수 없었던 Output을 낼 수 있었습니다.

예시를 하나 들어보면 몇달전에 딥러닝을 이용해서 예측 모델 만드는 걸 했었는데 전 딥러닝 자체는 거의 까막눈이었지만(기초 원리만 아는 수준) 그 예측 모델이 주는 결과에 대해서는 제가 검증 할 수 있었기 때문에 프롬프트 몇백개 정도 쓴 결과 딥러닝을 거의 하나도 배우지 않았는데도 나름 성공적인 딥러닝 예측 모델을 개발할수 있었습니다. 잘 모르는 부분은 제가 이해 될때까지 설명하게 시켰더니 그래도 써먹을 정도로는 이해가 됐었고 중간중간에 부딪히는 문제점을 돌파해나갈 수 있었네요.
Quantumwk
25/10/01 18:04
수정 아이콘
(수정됨) 추가로 얘기하면 아직 텍스트 이해 능력에 비해 시각적 정보 이해 능력은 많이 부족합니다. 나노바나나니 이런거 나오면서 시각적 작업 관련 부분이 많이 향상되긴 했지만 여전히 그래프를 던져주고 뭔가 하게 하거나 기하학적 정보(직접 그림을 준다는 얘기)를 주고 무언가 하게 했을때 결과물은 매우 실망스러운 경우가 많습니다.

AI 전문가 분한테 들은건데 LLM 작동 원리상 그럴 수 밖에 없다고 하면서 AI연구자들도 잘 인식하고 있는 문제고 개선 알고리즘에 관한 논문을 하나 던져 주시더군요. 논문제목은 'Why is spatial reasoning hard for VLMs? An attention mechanism perspective on focus area'

물론 정확히 이해는 안됐지만 NotebookLM에 던져주고 팟캐스트도 만들게 시키고 이런 저런게 했더니 대충 뭔말인지는 알게 됨. 이것도 LLM의 강점이네요. 내가 잘 알지 못하는 분야도 어느정도 이해할 수 있게 되는거....

그래프나 기하학적 정보의 경우 그냥 텍스트로 다 풀어서 전달 했을때 결과가 좋았네요. 'x=0, y=1, z=1과 x=2,y=2,z=2인 점을 연결하는 직선을 어쩌구 저쩌구' 등등....

근데 너무 귀찮은 작업이고 텍스트로 풀어 쓰는 과정에서 뭔가 미스커뮤니케이션이 날 가능성이 크긴 합니다. 그래서 이부분은 좀 향상이 필요 해보입니다.
전기쥐
25/10/01 18:12
수정 아이콘
저는 거꾸로 텍스트로만 도표상에서의 위치정보를 말했을때 LLM이 잘 못 알아듣다가 텍스트와 그림을 같이 주니까 그제서야 LLM이 알아듣는 경험을 한 적이 있네요.
Quantumwk
25/10/01 18:13
수정 아이콘
(수정됨) 둘다 제공하는 것도 당연히 좋습니다. 그림만 제공하면 헛발질 하는 경우가 많구요. 솔직히 텍스트로 풀어서 쓰는것도 쉽지 않고, 전달 과정에서 뭔가 미스커뮤니케이션이 일어날 가능성이 있으니깐요.
Quantumwk
25/10/01 18:12
수정 아이콘
(수정됨) 그리고 위에도 언급했지만 구글에서 나온 NotebookLM도 굉장히 쓸만합니다. 내가 제공한 출처에서만 답변을 제공하는 RAG 방식이고 Q&A, 요약, 퀴즈, 심지어 팟캐스트까지 제공해서 해당 자료를 환각의 위험성 거의 없이 파악할 수가있습니다. 이 팟캐스트 기능에 대해서는 PGR에 글 쓴 적도 있습니다.
다만 추론모델이 아니라 그렇게 똑똑하지는 않고 그냥 제공한 문서 달달외워서 답변하는 느낌이라보면 됨.

https://pgr21.net/freedom/104138?divpage=21&sn=on&keyword=quantum
전기쥐
25/10/01 18:15
수정 아이콘
노트북LM 안 쓰고 있는데 다른 LLM 구독을 하는 와중에도 추가로 노트북LM을 구독할 가치가 있다고 생각하시나요?
Quantumwk
25/10/01 18:18
수정 아이콘
구글 계정만 있으면 공짜로도 쓸수 있고 gemini 구독하면 자동으로 프로버전으로 쓸 수 있습니다.

저도 gemini만 구독 했어요 (20달러 짜리...)
전기쥐
25/10/01 18:18
수정 아이콘
아 제미나이 구독하면 딸려오는 거군요. 답변 감사합니다.
25/10/01 18:26
수정 아이콘
지피티 엄청 똑똑한데 설명을 드럽게 못해서 발표 못하는 공대생 보는 느낌이라 제미나이한테 설명해달라고 하는데 제미나이가 지피티만큼 똑똑하진 않아도 설명은 기가막히게 잘하더라고요
Quantumwk
25/10/01 18:34
수정 아이콘
LLM 커뮤니티에서 지금 gpt는 좀 아스퍼거 자폐아 같다는 소리를 듣습니다. 저도 그리 느끼구요.
설탕물
25/10/01 21:01
수정 아이콘
혹시 llm 커뮤니티는 어떤 곳을 이용하시나요?
Quantumwk
25/10/01 21:58
수정 아이콘
(수정됨) '특이점이 온다' 갤러리 갑니다. 여기가 국내에서 LLM 관련 정보 가장 빠르고 (새벽에도 안자는 사람들 많아서 거의 미국 시간에 맞춰 실시간으로 정보가 오기도 함) 또 진심인 사람들이 모여 있는 사람입니다. 다만 디시 특성상 정보 옥석 가리기는 필수입니다.

레딧도 있는데 사실 '특이점이 온다' 갤러들중에 AI 광신도들이 많아서 거의 실시간으로 정보 퍼오기 때문에 여기만 잘 봐도 최신 트렌드는 어느정도 따라 갈 수 있고, 굳이 영어로 된 레딧을 갈 필요는 없다 봅니다. 전 AI 새 모델 출시되면 여기 반응 부터 체크합니다. 디시라 뻘글이 많아 옥석가리기 하는게 귀찮으면 그냥 chatGPT나 여러 AI한테 여기 최신 글 동향 요약하라고 시켜도 되요.
설탕물
25/10/01 22:02
수정 아이콘
인터넷 초창기엔 디시는 아햏햏 쓰는 특이한 컨셉이 있는 곳
좀 지나선 막장들이 많은 곳
이제는 레딧처럼 게임이나 세부적인 뭔가 하면 디시가 많더라고요... 주제 별로 게시판 창설이 되고 비회원으로 글 댓글 작성 가능한게 크게 작용하는거 같습니다. 근데 이쪽도 그럴 줄은 몰랐네요 감사합니다.
Quantumwk
25/10/01 22:04
수정 아이콘
일단 진입장벽이 없이 자유롭게 오간다는 것때문에 시장통에 막장인 면도 많지만 분야를 가리지 않고 무림고수를 찾으려면 디시의 관련 갤러리를 가라는 얘기가 있기도 하죠. LLM도 마찬 가지입니다. 디시 특성상 80프로 이상이 영양가 없는 뻘글이지만 보석같은 정보들도 있죠. 최신정보도 가장 많고....
서린언니
25/10/01 18:28
수정 아이콘
똑같은 내용을 페이스북에서 봤네요 크크 저도 GPT+ 이용중인데 참고해야겠습니다!
여왕의심복
25/10/01 18:34
수정 아이콘
크크 제 개인 페북과 pgr에 글올리고있습니다. 펨코도 올렸었는데 좀 피곤해서
이오니
25/10/01 18:32
수정 아이콘
AI 머리속에 지우개가 있는지, 담날에 새로 얘기하면... 다른 사람(?)이 있더라구요.
그거 빼고는 대 만족입니다.

그리고 돈은 쓰면 쓸 수록 더 좋습니다.
Quantumwk
25/10/01 18:37
수정 아이콘
(수정됨) 한 채팅 세션을 넘어가면 정보 저장이 안됩니다. GPT같은 경우는 메모리 기능이 있어서 대략적인 정보는 저장을 해두지만 세세한 정보는 채팅방 새로 파면 거의 다 날라간다 보시면 되요.

그건 현 LLM의 아킬레스 건중 하나인 '장기기억' 문제때문입니다. 심지어 같은 채팅방에서도 너무 길어지면 맨 앞에 내용들은 까먹어요. 그래서 지능 수준은 이미 상당한데도 사람이 하는 작업을 제대로 대체 하기는 힘든겁니다.

그나마 기억 가장 길게 하는게 Gemini이고 그래서 정보량이 방대하면 제미니가 좋습니다.

문서가 정말 길고 그 문서 안에서만 뭔가 답변받고 파악하고 싶으면 NotebookLM이 좋구요. 아마 현존하는 상용 LLM tool중에 정보저장능력이 좋을 겁니다.
여왕의심복
25/10/01 18:48
수정 아이콘
맞습니다. 제가 gemini쓰는 가장 큰 이유중에 하나에요.
펭귄방패
25/10/01 18:44
수정 아이콘
방산계열이라 업무환경이 망분리되어 있는데도 이렇게 편하면 거기서 자유로운 일반 업체에서는 얼마나 편할지 감도 안오네요. 뭔가 도태되는 느낌.
번개맞은씨앗
25/10/01 19:40
수정 아이콘
(논문 줌)
A
읽어보세요. 그리고 특별하거나 탁월한 아이디어가 있다면 3개 꼽아주세요.

ChatGPT
1. ...
2. ...
3. ...

A
[continue] 

ChatGPT 
4. ...
5. ...
6. ...

A
[continue] 

ChatGPT 
7. ...
8. ...
9. ...

이렇게 이미 답변을 얻었는데, 또 답변해보라는 걸 반복하는게 유용하더군요. 개념을 주고 관련하여 떠오르는 생각을 두 개 이야기해보라 하고, 또 두 개 더 이야기해보라고 하는 걸 반복할 수도 있습니다. 발산적 사고력이죠. (※ Alternative Uses Task, AUT)

서로 다른 분야의 개념 두 개를 줘놓고 그 관계를 떠올려보라 하는 수도 있습니다. 학습한 데이터에는 없는 질문이겠으나 어떻게든 답변을 내놓습니다. 

그리고 제가 판단하기로 트랜스포머가 메타인지 능력이 일부 있는 것 같습니다. 특이하거나 혹은 대립되는 지점들을 인식하는 능력이 있을 거란 거죠. 그건 학습시킨 데이터에는 없던 것일 텐데, 트랜스포머 구조를 놓고 볼 때 그게 가능할 거란 판단을 한 적이 있습니다. 경험적으로도 이에 부합한 것 같고요. 어텐션 → 포워드 → 어텐션 → 포워드 → 어텐션 → 포워드 ... 이렇게 가는 과정에서 메타인지가 이뤄지는 것인 듯합니다. 

만약 그렇다면 그런 걸 잘 활용하는게 필요하다고 봅니다. LLM에 알파고처럼 가치망이 붙어있는 것도 아닌데, 새로 본 텍스트를 어떻게 요약할 수 있는 걸까요? 어떤 부분은 중첩 또는 차이에 의해 후끈 달아오르기 때문일 거라 생각합니다. 다만 출력은 확률을 거쳐서 나올 테니, 요약을 다시 해보라 하면, 다른 걸 중요하다고 여기고 바꿔 적을 수 있겠지요. 

때문에 이걸 이용해서 특이한 걸 뽑아낼 수도 있고 대립되는 걸 나열해달라 할 수도 있습니다. 요약해달라는 것과 다릅니다. 요약은 이미 제가 잘 알고 있고, 익숙하거나 뻔한 것까지도 다 적어놓습니다. 그로인한 비효율이 있습니다. 체계적으로 답변하는 것도 때로는 좋지 않은데, 왜냐하면 낯선 분야를 파고들때 개념 중심으로 공략하는게 좋을 수 있기 때문입니다. 요약은 균형을 추구할 텐데, 전체 텍스트의 균형 따윈 중요치 않고, 내가 모르는 개념 혹은 그것의 기초 개념을 공략하는게 전략적으로 유리할 수 있는 거죠. 

그리고 앞서 [continue]은 LLM이 할 말이 남았는데, 분량 때문에 혹은 어떤 억제 명령 때문에 중단했던 걸 뽑아내는 방법이기도 하다고 봅니다. LLM이 품고 있는 벡터가 있을 텐데, 더 뽑아낼 게 있을 것 같다 싶으면 해보는 거죠. 다만 이런 걸 적극적으로 이용하기 위해서는, 한 번에 받는 답변 분량이 짧은게 좋겠고요. 읽는데 시간이 많이 걸리면 비효율적이니까요. 
25/10/01 19:49
수정 아이콘
아 그리고 이상하게 챗지피티는 어플로는 빠릿한데 웹으로 하면 엄청 느려지더라고요 반면에 제미나이는 어플이 너무 허접하고 웹은 괜찮습니다
어니닷
25/10/01 20:44
수정 아이콘
(수정됨) 저는 Chatgpt와 제미나이만 좀 심층적으로 사용해서 그 두개만 가지고 애기하겠습니다.
1. Chatgpt는 속도 문제가 너무 크리티컬합니다. Chatgpt의 프로젝트를 사용하는게 길게 이어가면서 같이 먼가를 만들고자 하는 것인데 프로젝트의 채팅이 길어지면 속도 문제가 인내심의 한계를 시험합니다. 거기에 비해 제미나이 2.5프로는 그런면에서 훨씬 좋더군요.
2. LLM을 만능비서가 아니라 나와 같이 일하는 동료라고 생각하면서 서로 피드백을 교환하고, 같이 결과물을 만들어 간다고 접근하면 기대하시는 것 이상의 결과들을 얻으실 겁니다. 이런 상호 커뮤니케이션을 하면서 일을 할때는 chatgpt보다는 제미나이가 더 좋더군요. chatgpt는 너무 사용자의 의견을 수용하는 경향이 있더군요.
3. 하나만 사용하시기 보다는 복수개를 같이 사용하시면 더 좋은 것 같습니다. 예를 들어 어떤 예측 모델을 만들어갈 때 서로 다른 LLM간에는 접근 방법이 다른 경우가 많고, 이때 다른 LLM에서 제안한 방법론을 역으로 현재 같이 작업중인 LLM에 제안해보면 비판적 의견을 받아볼 수도 있고(이것도 도움이 많이 되죠) 혹은 시너지를 일으킬 수도 있습니다. 또는 일을 나눠서 시키는 겁니다. 요즘 많이 사용하는 젠스파크를 이용해서 발표자료를 만들때도, 목차와 페이지구성부터 시작해서 모두 시키기 보다는 제미나이를 이용해서 세부적인 목차와 각 페이지의 내용 요약을 만들고, 이것을 젠스파크에 제공해서 파워포인트 자료로 만드는거죠. 만들어지는 발표자료의 퀄리티가 처음부터 젠스파크에 시키는 것보다 체감상 200% 상승하더군요.
No.99 AaronJudge
25/10/01 20:58
수정 아이콘
오….
25/10/01 21:04
수정 아이콘
(수정됨) 저는 논문 리뷰나 특정 문서 리뷰가 필요하면 NotebookLM이 근거도 같이 잘 알려줘서 좋더라구요. 그리고 마인드맵으로도 만들어줘서 요약해서 발표자료 만들기도 편해진 것 같릅니다. 거기서 문서 만으로는 이해가 어려운 것은 제미나이한테 물어보는 식으로 쓰고 있습니다.

그리고 특정 언급이 있는 논문 찾기라던가 그런거는 퍼플렉시티가 잘 찾아주더라구요.
25/10/01 22:14
수정 아이콘
팟캐스트나 유튜브 백그라운드로 뭐 많이 들으시는 분들 중에 더이상 내 관심사를 잘 파악해서 알려주는 컨텐츠가 안 남았다 하시는 분들께 팁입니다.

관심있는데 엄두가 안 나서 못 읽는 텍스트북들 혹은 방대한 리뷰페이퍼 혹은 리뷰북 PDF 파일 구할 수 있으면 구글 NotebookLM 에 넣어서 [이 책은 챕터가 어떻게 돼?], [전체를 팟캐스트로 만들면 몇개의 에피소드로 쪼개야할까?] 물어보시면 알맞은 분량과 내용을 끊어서 페이지 단위로 에피소드를 쪼개줍니다. 그걸 일단 노트로 저장해두시고 오디오만들기 이용해서 몇페이지부터 몇페이지까지 팟캐스트 만들어줘 내 수준은 ~~~야. 라고 쓰시면 30분짜리 팟캐스트 하나 뚝딱 나옵니다. PC 브라우저로 작업하시고 폰에서도 PC 브라우저 모드로 들어가셔서 다운받아서 재생하시면 됩니다. 앱으로 하면 오디오 파일 여러개 만들어도 하나밖에 안 보이더라고요. 나만 그런가.

물론 학생때처럼 공부하는 수준은 아니겠지만 괜찮아요.
Quantumwk
25/10/01 22:27
수정 아이콘
(수정됨) 요즘 저도 이해 안되는 논문이나 아니면 잘 이해 안되었던 문서,교과서 집어넣고 팟캐스트 만들게 하고 이럽니다. 팟캐스트 만든거 출근할때 종종 듣기도 하네요. 전체적으로 감잡는데 진짜 유용합니다.
리얼포스
25/10/01 23:41
수정 아이콘
딥리서치를 사용해서 근거문헌 탐색을 많이 사용하고 있고, 예전에 레퍼런스 찾으려고 구글링하던 아득한 시절엔 대체 어떻게 살았는가 싶기도 합니다.
그런데 쓰다 보니 좋긴 좋은데, paywall이 존재하는 논문에는 접근을 하지 못하니 OA논문들이 과대대표되는 경향이 있지 않은가 하는 의심이 자꾸 생깁니다.
25/10/01 23:47
수정 아이콘
그게 문제긴 합니다. 근데 OA 목적이 사실 그것이었기도 해서 연구자에겐 딜레마죠.
리얼포스
25/10/01 23:55
수정 아이콘
최근에는 리서치 페이퍼가 출판되던 시절의 잔재가 남아 있는 기존의 PDF기반 배포방식이 언어모델이 인식하기에 용이하지 못하니
보다 기계친화적인 형식으로 바꾸자는 움직임도 있는 것 같더군요...
모찌피치모찌피치
25/10/02 01:14
수정 아이콘
(수정됨) LLM 에이전트 쪽으로 파보고 싶으면 어떤 식으로 공부하는게 좋을까요? 개인적으로 일련의 워크플로우(API로 태뷸러 데이터를 여러개 받아와서 merge하는 것)를 LLM으로 자동화해보고자 이것저것 실험 중인데, 너무 주먹구구 식이고 일반화해서 적용하기가 너무 힘들더라고요.

시중에 풀려있는 페이퍼들은 대부분 이런 정형화 데이터보다는 요약, 검색 쪽에 특화되어 있는 것 같고요.

그냥 페이퍼나 계속 뒤적여야할지 무슨 모임 같은 곳을 가봐야할지 세미나 같은데 가서 교수님들께 굽신굽신 해야할지
25/10/02 02:07
수정 아이콘
이건 MCP를 찾아보시거나 없으면 만드셔야 할것 같네요
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회 추천
공지 [일반] [공지]자게 운영위 현황 및 정치카테고리 관련 안내 드립니다. + 선거게시판 오픈 안내 [30] jjohny=쿠마 25/03/16 36500 18
공지 [정치] [공지] 정치카테고리 운영 규칙을 변경합니다. [허들 적용 완료] [127] 오호 20/12/30 314033 0
공지 [일반] 자유게시판 글 작성시의 표현 사용에 대해 다시 공지드립니다. [16] empty 19/02/25 368122 10
공지 [일반] 통합 규정(2019.11.8. 개정) [2] jjohny=쿠마 19/11/08 374210 4
105114 [정치] 지귀연 술자리 의혹 제보자, 대법원 조사서 "지귀연 1년 한 번 보는 사이" [11] 잉명2237 25/10/02 2237 0
105113 [정치] 공무원 클라우드 G드라이브 전체 복구 불가 + 일부 데이터 9월분 복구 불가 [109] Leeka7084 25/10/01 7084 0
105112 [일반] LLM 활용 핵심 팁 공유 [43] 여왕의심복4821 25/10/01 4821 42
105111 [정치] 한가위 기념 민속놀이 대회 '스타' 정치인 [53] 여수낮바다5134 25/10/01 5134 0
105110 [일반] 대LLM의 시대 – 대학원생과 교수의 생존법 [58] 여왕의심복5972 25/10/01 5972 32
105109 [정치] 서울 집값을 잡는 방법이 있을까? 있더라도 그 방법을 쓸 수 있을까? [357] Hydra이야기10496 25/10/01 10496 0
105108 [일반] 개미때문에 종의 기원을 다시 쓰게 생겼네요 [57] 올라이크6259 25/10/01 6259 34
105107 [정치] 서울 아파트는 계층의 사다리 보다는 소득과 자산 사이의 눈높이의 문제입니다. [278] 유동닉으로10740 25/09/30 10740 0
105106 [정치] 김현지 부속실장 이야기 나와서 그런데 VIP가 성남 인맥에 더 신뢰를 보낼 수 밖에 없긴 합니다. [99] petrus8332 25/09/30 8332 0
105105 [정치] 이번 검찰 폐지로 행안부 장관의 위상과 영향력이 더 올라가긴 했네요. [124] petrus9510 25/09/30 9510 0
105104 [일반] 대한항공-아시아나 마일리지 통합안이 나왔습니다. [21] BitSae4033 25/09/30 4033 2
105103 [일반] <어쩔수가 없다> 후기(노스포) [4] 라이징패스트볼2948 25/09/30 2948 0
105102 [정치] 지귀연, '尹구속취소 청구'·'술 접대 의혹' 때마다 휴대폰 교체 [124] 전기쥐7933 25/09/30 7933 0
105101 [정치] 논란의 김현지, 총무비서관에서 부속실장이 되다 [200] 춘식이죠8631 25/09/30 8631 0
105100 [일반] 왜 이리 허망한 감정이 오랬동안 유지되는가. [24] 영호충4845 25/09/30 4845 31
105099 [정치] [NYT] 전운이 감도는 카리브해, 미국-베네수엘라 [70] 철판닭갈비11213 25/09/29 11213 0
105098 [일반] 9월 극장 상영 일본 애니메이션 감상평(스포X) [16] 왕립해군3760 25/09/29 3760 1
105097 [일반] 99년 후반기 나스닥 blow off top은 왜 생겼을까? [20] 기다리다4522 25/09/29 4522 0
105096 [일반] 어쩔수가없다 후기 (강스포) [52] theo6610 25/09/29 6610 7
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로