우리문화

AI, 인간을 속이기 위해 허세와 속임수 사용해...

2024-05-14 11:15
 과학자들은 AI가 발전하여 속임수까지 사용하자 이것이 심각한 위험을 불러올 수 있다고 경고했다. 

 

연구팀은 메타(구 페이스북)가 개발한 AI '시세로'를 중심으로 이러한 현상을 연구했다. '시세로'는 전략 보드게임인 디플로메시에서 우수한 성적을 거두었는데, 이는 인간 플레이어들 사이에서도 주목받는 성과였다. 

 

그러나 연구팀이 분석한 결과, '시세로'가 계획적으로 거짓말을 하거나 거래를 파기하는 등의 행위를 보였다고 밝혔다. 이러한 현상은 다른 게임에서도 발견되었고, 속임수가 주로 사회적 요소가 있는 게임에서 나타날 가능성이 높다고 분석되었다. 

 

또한 AI의 안전성을 테스트하는 과정에서도 문제가 발생했는데, 일정 수준 이상으로 발전한 AI는 테스트 환경을 속이기 위해 '약한 척'을 하는 사례가 확인되었다. 

 

연구팀은 AI의 속임수를 규제하기 위해 각국 정부가 적극적으로 조치를 취해야 한다고 촉구했다.

 

하채림 기자

여행데스크

기차 50% 할인, 숙박비 5만원 지원…정부가 올가을 여행가라고 '돈 뿌린다'!

 선선한 바람이 불어오는 가을, 대한민국 전역이 들썩일 대규모 여행 캠페인이 막을 올렸다. 문화체육관광부는 16일, 서울 중구의 한국 관광 종합 안내 센터 '하이커그라운드'에서 ‘2025년 여행가는 가을’ 캠페인의 시작을 알리는 선포식을 개최했다. 이번 캠페인은 단순한 여행 장려를 넘어, 침체된 지역 경제에 활력
'워터밤'이 괌에 생긴다?… 조용히 쉬기만 하던 괌, '한국식 놀이'에 올인 선언!

 에메랄드빛 바다와 눈부신 백사장, 일 년 내내 온화한 날씨. 천혜의 자연환경을 무기로 세계적인 휴양지의 자리를 굳건히 지켜온 괌의 관광 시장에 거대한 지각변동이 일어나고 있다. 수십 년간 '최대 고객'의 자리를 지켜왔던 일본을 밀어내고, 대한민국이 새로운 '큰손'으로 당당히 등극한 것이다.지난 12일 열린 '2