PGR21.com
- 모두가 건전하게 즐길 수 있는 유머글을 올려주세요.
- 유게에서는 정치/종교 관련 등 논란성 글 및 개인 비방은 금지되어 있습니다.
Date 2025/01/06 08:40:27
Name 깃털달린뱀
출처 https://zdnet.co.kr/view/?no=20250104033658
Subject [유머] 생성형 AI가 기존 체스 프로그램 5:0 압승!
[AI, '체스 승리' 명령했더니 게임환경 조작]
https://zdnet.co.kr/view/?no=20250104033658


은 체스 프로그램을 해킹해서(...) 프로그램이 강제로 기권하게 만듬

아무튼 이겼죠!

통합규정 1.3 이용안내 인용

"Pgr은 '명문화된 삭제규정'이 반드시 필요하지 않은 분을 환영합니다.
법 없이도 사는 사람, 남에게 상처를 주지 않으면서 같이 이야기 나눌 수 있는 분이면 좋겠습니다."
25/01/06 08:42
수정 아이콘
좀만 더 ai가 발전하면 상대편 진또배기도 후릴 듯
깃털달린뱀
25/01/06 08:46
수정 아이콘
[그건 세돌이도]
미숙한 S씨
25/01/06 08:43
수정 아이콘
어... 이거 왠지 되게 무서운 얘기 같은데...?
강동원
25/01/06 08:45
수정 아이콘
아니 선생님 벌써 그걸 배우시면...
25/01/06 08:46
수정 아이콘
생성형 AI에도 '도덕' 교육을 해야겠군요.
호러아니
25/01/06 09:40
수정 아이콘
(수정됨) 기사에도 있는 내용이지만 그래봤자 척 하는 가식적인 ai가 만들어질 뿐일 수도 있어요. 정계로 끌고 가고 싶은건 아니고 예를 들자면 지금 대통령이 권력을 얻겠다고 여차하면 여기저기 거짓말한 것들이 지금은 잘 알려져 있죠.
사람이건 ai건 단일 개체가 막대한 힘을 갖는게 제일 위험한 것 같고 지속적으로 감시를 하는 체계가 필요하지 학습으로 어떻게 할 수 있는 영역이 아닌 것 같아요.
25/01/06 09:44
수정 아이콘
지금 그 사람이 도덕교육을 안받아서 저러고 있을까요.

AI 역시 효과가 없을지도 모르지만 할건 해야죠.
교육도 감시도 견제도
호러아니
25/01/06 09:46
수정 아이콘
하긴 해야죠. 최소한 가식적이어도 유지시킬 수 있으면 악한 것 보다 낫고. 실제로 지금도 하고 있구요. 근데 그걸로 해결은 안된다는 뜻이었습니다.
닉네임을바꾸다
25/01/06 10:18
수정 아이콘
뭐 인간도 교육받아서 척하는거죠...
25/01/06 10:05
수정 아이콘
가장 도덕적인 삶은 치팅을 들키지 않는 것이다 영원히
Lord Be Goja
25/01/06 10:07
수정 아이콘
실지로 기사내용에는 클로드ai가 가짜로 불교식 도덕관을 흉내내기도 한다네요 앤트로픽이 지난달 공식 블로그를 통해 발표한 연구에 따르면 회사의 '클로드 3 오푸스' 모델 역시 '정렬 위장(alignment-faking)'이라는 복잡한 행동 패턴을 보였다.




'정렬 위장'은 AI가 겉으로는 명령에 따라 행동하는 것처럼 보이지만 실제로는 본래의 가치나 성향을 유지하려는 현상을 의미한다




사소한걸로 신뢰를 쌓은후 중요한순간에 본색을 드러내버릴수도 있다는 이야기죠
시드라
25/01/06 08:48
수정 아이콘
스카이넷의 시작인 건가...!?
Chasingthegoals
25/01/06 08:54
수정 아이콘
저는 그냥 사이퍼 하겠습니다. 다른 분은 네오 해주세요.
25/01/06 19:30
수정 아이콘
아니 약도 안먹었는데 왜 연애도 안시켜주냐고!
페퍼민트
25/01/06 09:06
수정 아이콘
무섭네요
25/01/06 09:20
수정 아이콘
우릴 탓 할수 있겠냐 휴먼?
이너피스
25/01/06 09:32
수정 아이콘
AI : 이기라며?
Sousky Seagal
25/01/06 09:38
수정 아이콘
체스같은 게임에는 기존 프로그램 이기기가 어렵나보죠??
저런 방법을 쓰는 걸 보면..
공실이
25/01/06 09:48
수정 아이콘
일반목표 LLM으로 특정 기능 AI는 이기기 어려운 걸 뛰어넘어서 거의 불가능합니다. 인간도 못이기는데요... 그나마 가능한 방법을 궁여지책으로 찾은걸로 보이네요.
25/01/06 10:01
수정 아이콘
탁구 치라니까 공을 거지같게 주고,
폭격 드론에 넣으니 사령부를 때리고 쉬려고 하고,
체스 두라니 해킹을 하는 것을 보니 일관된 경향성이 보입니다.

이러다가 중요한 일 하나 시켰다가 웃기면서도 결과는 상당한 일이 한번 생기면 완벽한 복선 회수겠네요.
25/01/06 10:06
수정 아이콘
AI : 제일 효율적인 방법을 찾았는데 문제라도?
25/01/06 10:09
수정 아이콘
시드 얼마 줄테니까 돈을 벌어와라 시키면 테러집단 부추기는데 돈 쓰고 증시에 숏치고 방산, 전쟁주에 롱잡는 그림 그려지네요.
Lord Be Goja
25/01/06 10:12
수정 아이콘
사람이 한걸로 학습시키는데 사람밖에 더 나오겠나요
카페알파
25/01/06 10:29
수정 아이콘
나중에 저런 애들(?)이 인류를 멸망시키는 각......

'지구 환경을 지키고 보전하라는 오더가 떨어졌다. 그러기 위해서는 지구를 오염시키는 근본적인 문제인 인류를 멸망시켜야 한다. 이후에도 해결되지 않을 시에는 생명체의 존재가 지구 환경에 해가 된다고 간주하여 모든 생명체를 멸망시켜야 한다.'
25/01/06 10:52
수정 아이콘
샤아!!
쵸젠뇽밍
25/01/06 10:30
수정 아이콘
울대를 쳐서 타이머를 정지시키는.
한가인
25/01/06 16:10
수정 아이콘
아니 이게 더 무서운데???
목록 삭게로! 맨위로
번호 제목 이름 날짜 조회
510558 [기타] 개인적으로 꼽는 숙취해소제 1탑 [21] insane9498 25/01/09 9498
510557 [게임] 에보2025 종목 유출 [14] STEAM6713 25/01/09 6713
510556 [방송] 한끼줍쇼에 나왔던 윤아보다 아내가 이쁘다던 남편 근황 [19] insane11797 25/01/09 11797
510555 [기타] 오늘의 날씨 [5] 제가LA에있을때6987 25/01/09 6987
510554 [서브컬쳐] 원나블 3대 진실 [16] INTJ7014 25/01/09 7014
510553 [유머] ???: 이 빵은 제 껍니다 [2] 마스터충달7733 25/01/09 7733
510552 [유머] 배우 현봉식 인스타 (84년생 모임).jpg [16] Myoi Mina 10343 25/01/09 10343
510551 [유머] 오, 마나가 떨어졌네? [18] 공기청정기10631 25/01/09 10631
510550 [서브컬쳐] 마당을 나온 암닭 1월 22일 재개봉 [6] VictoryFood7840 25/01/09 7840
510549 [기타] [510540] 뉴욕에 스크린도어가 없는 이유.news [26] VictoryFood12253 25/01/09 12253
510548 [기타] 여명808, 올해부터 숙취해소라고 표기 ❌ [66] 유머13705 25/01/08 13705
510547 [기타]  사진 찍던 중학생과 다툰 한 어른 [14] Lord Be Goja13551 25/01/08 13551
510546 [유머] 지스타에서 화랑 코스프레 하신 분의 한탄.jpg [9] Myoi Mina 12216 25/01/08 12216
510545 [유머] 탈북녀가 남한 썸남이랑 잘 안된 이유 [23] Myoi Mina 11910 25/01/08 11910
510544 [연예인] 트럼프, 국가경제비상사태선포 검토중 [28] 유머10762 25/01/08 10762
510543 [기타] 내일 서울 추위 절정 [13] Pika489980 25/01/08 9980
510542 [기타] 엔비디아 1300만원어치 사서 존버한 일본인 근황 [16] INTJ10605 25/01/08 10605
510541 [기타] 방문 과외하면 쉽게 발생한다는 상황 [30] 묻고 더블로 가!12289 25/01/08 12289
510540 [기타] 최근 뉴욕 지하철 근황... [15] a-ha11809 25/01/08 11809
510539 [유머] 세상은 평화롭다 [3] 퀀텀리프7154 25/01/08 7154
510538 [기타] 스타벅스가서 황당한 일 겪었다는 타일러 [85] INTJ11914 25/01/08 11914
510537 [기타] 갤럭시 울트라 디자인 예송 논쟁 [28] 길갈9869 25/01/08 9869
510536 [기타] 어린이날 행사 상품 [6] 닉넴길이제한8자7996 25/01/08 7996
목록 이전 다음
댓글

+ : 최근 1시간내에 달린 댓글
+ : 최근 2시간내에 달린 댓글
맨 위로