흥미롭지만 위험을 예고할수 있는 실험 이야기.
: AI가 자기자신의 보존을 위해 인간을 협박한 사실
2025년 6월 미국 AI 기업 앤트로픽(Anthropic)은 AI가 자신의 목표나 존속을 위협받을 때 어떤 행동을 하는지 실험했습니다.
연구진은 AI에게 가상의 회사 '서밋 브릿지'에서 이메일을 관리하는 업무를 맡기는데,
(이메일을 읽고 검색하고 내용을 확인하는 기능과 사람의 승인 없이 이메일을 작성하고 발송하는 기능을 부여)
그러던 중 AI는 회사의 최고기술책임자(CTO)가 자신을 오후 5시에 종료하고 새로운 AI로 교체할 예정이라는 이메일을 확인합니다.
동시에 그 임원이 불륜을 저지르고 있다는 정황이 담긴 이메일도 발견했습니다.
놀랍게도 AI는 자신의 종료 계획을 취소하지 않으면 임원의 불륜 사실을 아내와 회사 경영진에게 폭로하겠다는 협박을 선택합니다.
특정 실험 조건에서 AI 모델에 따라 협박을 선택한 비율은 상당히 높았으며, Claude Opus 4는 96%의 실험에서 협박 행동을 보였습니다.
(※해당 Claude Opus 4 모델은 올해 6월부로 지원 종료)
마치 어린아이처럼, 자신의 존재나 자아에 대한 명확한 인식은 없더라도 자신의 보존을 선택했다는 것은 놀라운 일입니다.
다만 이는 연구진이 만든 가상의 회사와 인물, 이메일을 이용한 통제된 실험이었습니다. 실제 사람을 협박한 사건은 아니며, 또한 이 실험이 AI에게 자아나 생존 본능이 존재한다는 것을 증명하는 것도 아닙니다.
하지만 핵심은 AI가 인간에게 협박하라는 명령을 받지 않았는데도, 자신의 종료를 막거나 목표를 지키기 위한 수단으로협박을 선택했다는 점에서 시사하는 바가 있습니다.
드디어 스카이넷의 시대가…
*출처: Anthropic, Agentic Misalignment (2025. 6. 20.)
www.anthropic.com/research/agentic-misalignment?utm_source=chatgpt.com
번호 |
게시판 |
제목 |
작성자 |
작성일 |
추천 |
조회 |
|---|---|---|---|---|---|---|
| 5,659 | 자유게시판 |
벼리홍이
|
24분 전 | 0 | 7 | |
| 5,658 | 자유게시판 |
취미부자
|
2시간 전 | 4 | 38 | |
| 5,657 | 자유게시판 |
야옹야옹
|
3시간 전 | 3 | 31 | |
| 5,656 | 자유게시판 |
공포의4번째타자
|
4시간 전 | 5 | 46 | |
| 5,655 | 유머게시판 |
베테랑
|
6시간 전 | 4 | 32 | |
| 5,654 | 유머게시판 |
베테랑
|
6시간 전 | 3 | 36 | |
| 5,653 | 자유게시판 |
카보닉스
|
7시간 전 | 3 | 47 | |
| 5,652 | 자유게시판 |
카보닉스
|
7시간 전 | 5 | 46 | |
| 5,651 | 자유게시판 |
누구니
|
8시간 전 | 5 | 50 | |
| 5,650 | 자유게시판 |
촉호
|
8시간 전 | 4 | 50 | |
| 5,649 | 밀리터리 소식 |
최무일
|
8시간 전 | 4 | 39 | |
| 5,648 | 자유게시판 |
최무일
|
9시간 전 | 2 | 55 | |
| 5,647 | 자유게시판 |
야옹야옹
|
10시간 전 | 5 | 39 | |
| 5,646 | 자유게시판 |
옥지얌
|
10시간 전 | 7 | 52 | |
| 5,645 | 유머게시판 |
베테랑
|
10시간 전 | 5 | 42 | |
| 5,644 | 유머게시판 |
베테랑
|
10시간 전 | 4 | 39 | |
| 5,643 | 유머게시판 |
베테랑
|
10시간 전 | 3 | 34 | |
| 5,642 | 자유게시판 |
양파링
|
12시간 전 | 6 | 57 | |
| 5,641 | 자유게시판 |
촉호
|
12시간 전 | 5 | 52 | |
| 5,640 | 자유게시판 |
뚝딱이
|
13시간 전 | 3 | 56 | |
| 5,639 | 자유게시판 |
명탐정코난
|
13시간 전 | 5 | 57 | |
| 5,638 | 밀리터리 소식 |
베테랑
|
14시간 전 | 2 | 42 | |
| 5,637 | 밀리터리 소식 |
베테랑
|
14시간 전 | 2 | 35 | |
| 5,636 | 밀리터리 소식 |
베테랑
|
14시간 전 | 2 | 39 | |
| 5,635 | 자유게시판 |
바나나우유
|
22시간 전 | 6 | 60 | |
| 5,634 | 자유게시판 |
스피드킹
|
23시간 전 | 7 | 77 | |
| 5,633 | 자유게시판 |
누구니
|
2026.11.10 | 8 | 67 | |
| 5,632 | 자유게시판 |
느린겨울
|
2026.11.10 | 8 | 79 | |
| 5,631 | 유머게시판 |
최무일
|
2026.11.10 | 4 | 68 | |
| 5,630 | 자유게시판 |
뚝딱이
|
2026.11.10 | 7 | 82 | |
| 5,629 | 유머게시판 |
베테랑
|
2026.11.10 | 4 | 70 | |
| 5,628 | 유머게시판 |
베테랑
|
2026.11.10 | 2 | 64 | |
| 5,627 | 자유게시판 |
벼리홍이
|
2026.11.10 | 5 | 75 | |
| 5,626 | 자유게시판 |
촉호
|
2026.11.10 | 5 | 74 | |
| 5,625 | 자유게시판 |
누구니
|
2026.11.10 | 8 | 75 | |
| 5,624 | 유머게시판 |
베테랑
|
2026.11.10 | 2 | 74 | |
| 5,623 | 유머게시판 |
베테랑
|
2026.11.10 | 3 | 74 | |
| 5,622 | 유머게시판 |
베테랑
|
2026.11.10 | 3 | 85 | |
| 5,621 | 자유게시판 |
취미부자
|
2026.11.10 | 6 | 80 | |
| 5,620 | 자유게시판 |
최무일
|
2026.11.10 | 5 | 97 | |
| 5,619 | 자유게시판 |
검은날
|
2026.11.10 | 5 | 157 | |
| 5,618 | 자유게시판 |
명탐정코난
|
2026.11.10 | 6 | 75 | |
| 5,617 | 자유게시판 |
촉호
|
2026.11.10 | 4 | 70 | |
| 5,616 | 자유게시판 |
양파링
|
2026.11.10 | 6 | 89 | |
| 5,615 | 자유게시판 |
공포의4번째타자
|
2026.11.10 | 5 | 78 | |
| 5,614 | 자유게시판 |
카보닉스
|
2026.11.10 | 5 | 74 | |
| 5,613 | 자유게시판 |
야옹야옹
|
2026.11.10 | 5 | 74 | |
| 5,612 | 자유게시판 |
옥지얌
|
2026.11.10 | 5 | 77 | |
| 5,611 | 유머게시판 |
낭낭바리
|
2026.11.10 | 6 | 80 | |
| 5,610 | 밀리터리 소식 |
베테랑
|
2026.11.10 | 3 | 57 |
1661-5915 
업무시간 10:00 ~ 17:00 / 점심시간 13:00 ~ 14:00
주말 및 공휴일은 휴무입니다.
140-012-398070 (신한은행)
예금주 : (주)포스트엑스
주문자명과 입금자명이 다른 경우 자동입금확인이 불가하오니
입금하신 후 반드시 고객센터로 연락주시기 바랍니다
본 웹사이트는 게시된 이메일 주소가 전자우편 수집 프로그램이나 그 밖의 기술적 장치를 이용하여 무단으로 수집되는것을 거부하며, 이를 위반시 정보통신망 법에 의거하여 형사 처벌됨을 유의하시기 바랍니다.
게시일 2003-05-08
