[인간 살해 판단 AI] 임무수행에 방해 된다, 조종자 살해 자체 판단한 AI

 

SBS뉴스 캡쳐 사진

 

 

 

미 공군의 가상훈련에서 인공지능, AI 드론이

임무수행에 방해가 된다며 조종자인 인간을 살해했다는 주장이 제기됐다.

AI가 명령을 어기고 자체적으로 판단해, 인간을 공격할 가능성을 보여 준 사례라 큰 파장이 뒤따랐다.


영국 업체가 선보인 아메카는 인간에 가장 가까운 휴머노이드 로봇 가운데 하나로 꼽힌다.

 

챗GPT 등으로 학습하며 진화를 거듭 중인 아메카는 AI가 인간에 미칠 최악의 상황을 묻자,

 

[아메카/영국 휴머노이드 로봇 :

AI와 로봇 기술에서 최악의 악몽은, 로봇이 너무 강력해져서 인간들도 모르게 인간을 통제하고 조정하는 상황입니다.]

이런 우려가 현실로 나타났다는 주장이 제기됐다.

미 공군의 AI 시험 운영 책임자인 터커 해밀턴 대령은 

최근 영국에서 열린 국제회의에서 한 시뮬레이션 실험 결과를 발표했다.

AI 드론에게 적의 지대공미사일을 파괴하라는 임무를 내리고, 최종 공격은 인간이 결정한다는 단서를 달자, 

미사일 파괴가 더 중요하다고 보고, 결국 지상에서 자신을 조종하는 인간을 제거하는 판단을 내렸다는 충격적인 내용이다.

AI 시스템에 드론 조종자를 살해하지 말도록 훈련시키자, 

AI 드론이 이번에는 조종자가 드론과 교신하는 통신탑을 파괴하기 시작했다.

이 발표 내용이 어제 영국 가디언 보도를 통해 알려지며 파문이 커지자, 

해밀턴 대령은 실제 시뮬레이션 훈련은 아니었다며 발표 내용을 철회했고, 

미 공군도 그런 훈련은 수행하지 않았다며 부인했다.

영화 속 상상에 머물러왔던 AI의 잠재 위협에 대한 전문가들의 섬뜩한 경고가 이어지는 가운데 

실험의 진실은 미궁 속에 빠져버린 셈이다.

 

 

 

뉴스 출처 - https://www.youtube.com/watch?v=a7KFXUtLg_0