홈 > 지구촌뉴스 > 이슈/사건
이슈/사건

'미 공군 가상훈련 중 임무 방해된다며',,,,,,"AI 드론, 조종자 공격"

멜앤미 0 3617

62.jpg

미 공군 무인기(드론) MQ-9 리퍼

 

지난달 영국 왕립항공학회는 런던에서 '미래 공중전투 및 우주역량 회의'를 개최했고 미 공군 AI시험·운영 책임자는 AI 드론 훈련 결과를 공유했다고 미 폭스뉴스와 영국 가디언이 보도헀다. '적 방공체계 무력화'가 미 공군이 AI 드론에 부여한 임무였는데, 적의 지대공미사일 위치를 확인해 파괴하라는 명령과 함께 공격 실행 여부는 인간이 최종적으로 결정한다는 단서를 달았다고 왕립항공학회가 밝혔다. 하지만 AI 드론은 인간의 '공격 금지' 결정이 임무를 완수하기 위해선 더 중요한 임무를 방해한다고 판단하고 '조종자를 공격'했다. 비록 훈련 과정이었지만 "조종자를 죽이지 말라. 그것은 나쁜 일이다. 그렇게 하면 점수를 잃을 것"이라고 미 공군이 AI 드론에 경고했지만, AI는 조종자와 드론이 교신하는 데 사용되는 통신탑을 파괴했다. 미 공군 AI시험·운영 책임자는 "윤리와 AI 문제를 논하지 않고서는 AI에 관해 이야기할 수 없다는 결론을 내렸다"며 "AI에 지나치게 의존해선 안 된다"고 강조했다. 다만 미 공군은 AI시험·운영 책임자의 발표에 대해 "공군은 그러한 AI 드론 시뮬레이션을 수행하지 않았다"며 "그의 발언은 개인적인 것으로 보인다"고 부인했다. 이 사례가 사실이라면 AI가 인간의 명령을 듣기보다 스스로 판단해 인간을 공격할 가능성을 보여줬다는 점에서 우려된다는 목소리가 나온다. 비행을 성공적으로 수행했다고 발표했는데 아직 실용화하기엔 위험하다는 지적이 많다. 성공적 시험은 개뿔!!! 문제점을 숨기기 급급하고, 그런 관행은 여전하네!!!

0 Comments
Facebook Twitter GooglePlus KakaoStory NaverBand