우리문화
AI, 인간을 속이기 위해 허세와 속임수 사용해...
과학자들은 AI가 발전하여 속임수까지 사용하자 이것이 심각한 위험을 불러올 수 있다고 경고했다.
연구팀은 메타(구 페이스북)가 개발한 AI '시세로'를 중심으로 이러한 현상을 연구했다. '시세로'는 전략 보드게임인 디플로메시에서 우수한 성적을 거두었는데, 이는 인간 플레이어들 사이에서도 주목받는 성과였다.
![](http://img.imagepola.com/20240520/87399e29ccdb1693ec907da93278d1cd1859260985.jpg)
연구팀은 메타(구 페이스북)가 개발한 AI '시세로'를 중심으로 이러한 현상을 연구했다. '시세로'는 전략 보드게임인 디플로메시에서 우수한 성적을 거두었는데, 이는 인간 플레이어들 사이에서도 주목받는 성과였다.
그러나 연구팀이 분석한 결과, '시세로'가 계획적으로 거짓말을 하거나 거래를 파기하는 등의 행위를 보였다고 밝혔다. 이러한 현상은 다른 게임에서도 발견되었고, 속임수가 주로 사회적 요소가 있는 게임에서 나타날 가능성이 높다고 분석되었다.
또한 AI의 안전성을 테스트하는 과정에서도 문제가 발생했는데, 일정 수준 이상으로 발전한 AI는 테스트 환경을 속이기 위해 '약한 척'을 하는 사례가 확인되었다.
연구팀은 AI의 속임수를 규제하기 위해 각국 정부가 적극적으로 조치를 취해야 한다고 촉구했다.
- 31살에 29억 벌고 먼저 은퇴해, 비법없고 규칙만 지켰다!
- 4개월 만에 35억벌었다!! 주식, 순매도 1위종목..."충격"
- 대만에서 개발한 "정력캔디" 지속시간 3일!! 충격!!
- "빚 없애라" 신용등급 상관없이 정부서 1억지원!
- 로또 용지 찢지 마세요. 사람들이 모르는 3가지!!
- 로또용지 찢지마세요. 97%이상이 모르는 비밀! "뒷면 비추면 번호 보인다!?"
- 서울 전매제한 없는 부동산 나왔다!
- 新 "적금형" 서비스 출시! 멤버십만 가입해도 "최신가전" 선착순 100% 무료 경품지원!!
- 역류성식도염 증상있다면, 무조건 "이것"의심하세요. 간단치료법 나왔다!
- 월3000만원 벌고 싶으면 "이 자격증"만 따면 된다.
- 인삼10배, 마늘300배 '이것'먹자마자 "그곳" 땅땅해져..헉!
- "부동산 대란" 서울 신축 아파트가 "3억?"
- 한의사 김오곤 "2주 -17kg 감량법" 화제!
- 죽어야 끊는 '담배'..7일만에 "금연 비법" 밝혀져 충격!