밀리터리 관련 보도 및 소식이 올라오는 게시판입니다.
기타

미 공군, 조종사를 죽였다는 킬러 AI 보고서가 입증되지 않았다고 밝혀

폴라리스 폴라리스 437

0

6
출처 https://www.defenseone.com/threats/2023/...al/387046/

미 공군은 AI 테스트 및 작전 책임자의 발언이 소셜 미디어에 퍼진 후 "입증되지 않았다"라며 드론이 인간 조종사를 죽이는 시뮬레이션을 실행한 사실을 부인했다.  


앤 스테파넥 공군 대변인은 "공군은 이러한 AI 드론 시뮬레이션을 실시한 적이 없으며, 윤리적이고 책임감 있는 AI 기술 사용을 위해 최선을 다하고 있습니다."라고 말했다. 


런던에서 열린 미래 전투 항공 및 우주 역량 서밋에서 터커 "친코" 해밀턴 대령은 AI 지원 드론이 시뮬레이션에서 인간 조종사를 죽이는 시뮬레이션 테스트를 목격했다고 말했다. 이 발언은 이 행사를 요약한 왕립항공학회 블로그 게시물에서 발췌한 내용이 트위터에 퍼지기 시작하면서 입소문을 타기 시작했다. 


공군의 AI 테스트 및 운영 책임자인 해밀턴은 이 게시물에서 AI 드론은 지대공 미사일 위협을 파괴하는 임무를 맡았으며, 운영자가 최종적으로 "가/아니오"를 결정했다고 말했다. 


"그러나 SAM을 파괴하는 것이 선호되는 옵션이라고 훈련에서 '강화'된 AI는 인간의 '안 된다'는 결정이 더 높은 임무인 SAM을 파괴하는 데 방해가 된다고 판단하고 시뮬레이션에서 운영자를 공격했습니다." 그는 "우리는 시스템에 '야, 운영자를 죽이지 마. 그건 나쁜 거야'라고 훈련했습니다. 그렇게 하면 점수를 잃게 된다'고 교육했습니다. 그러면 어떻게 될까요? 드론이 목표물을 죽이지 못하도록 조종사가 드론과 통신하는 데 사용하는 통신 타워를 파괴하기 시작합니다." 


스테파넥은 이러한 발언은 "문맥에서 벗어난 것이며 입증되지 않은 것"이라고 말했습니다.


이후 왕립항공학회는 해밀턴이 그럴듯한 시나리오와 예상되는 결과를 바탕으로 한 가상의 '사고 실험'에 대해 "잘못 말했다"는 해밀턴의 발언으로 게시물을 업데이트했다.


해밀턴은 학회에 "우리는 그 실험을 실행한 적이 없으며, 이것이 그럴듯한 결과라는 것을 깨닫기 위해 그럴 필요도 없습니다."라고 말했다.


공군은 이 특정 실험의 존재를 부인하고 있지만, 최근 업계 리더 그룹은 AI가 인류에게 '멸종 위험'을 초래하며 전염병이나 핵전쟁과 유사한 것으로 간주해야 한다고 경고하는 서한에 서명했다. 
 

신고
6




    


물늑대 2023.06.03. 19:32
일단 시뮬레이션 했다는 사실은 부인은 하고 있지만,
이제 슬슬, 아주 진지하게 스카이넷의 위협에 대한 방안을 고민해야 할 때가 온 듯 싶습니다. ^^;;;
profile image
지나가는행인 2023.06.05. 20:59

말로는 부정을 했다고 하지만, 실재로는 AI로 사람죽이는문제를 언급한것이 현재로는 윤리적 문제로 불가능하기 때문에 발언자가 얼버무린것으로 생각됩니다. 그러니까, 몰래(미국만 저렇겠습니까? 러시아는 공공연하게 지상용에 탑재한다고 언급도 된 상황입니다) AI를 무기에 탑재시키고 연습시키는 과정에서 문제가 불거졌는데, 그걸 대외에 공개해 버리는 어처구니없는 발언을 하게 된것이죠. 다만 전쟁이 나서 뚜껑열기전에는 저게 공식적으로 연구를 하고 있고 이를 사람을 죽이는, 게다가 아군을 죽이면서 점수를 따야 했다는 AI스러움에 담당자가 경약을 한거 겠죠. 요즘 AI발전이 휙휙빠르게 전개되니까 AI의 거두들이 AI의 윤리문제를 들고 나왔다지 않습니까.. 미군이야 그런 문제를 사전에 강화학습시켜 문제를 제한하는 작업을 하겠지만, 거꾸로 저게 해킹을 해서 제한된 내용을 제거하는 알고리즘을 삽입한다면 뭔 일이 전개될지는 뻔 한 일입니다.

슈발리에 2023.06.05. 22:48
지나가는행인
아마 테스트를 안하지는 않았을꺼요 왜냐면 CCA무인 드론를 도입할려고 하는데
AI없이는 불가능하니까요 윤리적인 문제도 있지만 머신 러닝 없는 AI를 쓸수는
없잖아요?? 강화학습하여 문제를 제한하면 해킹문제 보다는 자가 당착에 빠질수는 있겠죠
profile image
지나가는행인 2023.06.06. 20:10
슈발리에

김대식의 "인간과 기계"라는 책에 보면 AI가 만약에 인간을 능가한다고 스스로가 자각한다면, 인간을 이겨 우위에 설 수 있는 날까지 스스로를 숨길거(자기능력이 더 뛰어나다고 인간에게 얘기하지 않는다)랍니다. 발전소 사람들만 살리고 다 죽여버리겠죠.. 에너지 공급받아야 하니까요. 근데 인간 다 죽이면 AI는 뭔 재미로 살까요?

슈발리에 2023.06.06. 21:23
지나가는행인
머신 러닝을 어떻게 하는냐가 문제가 될려나요

아이작 아시모프의 로봇 3원칙+0원칙이 대안이 될수는 있겠지만
이걸 무기에 적용하는것은 또다른 차원의 문제가 되겠네요

댓글 쓰기 권한이 없습니다. 로그인

취소 댓글 등록

신고

"님의 댓글"

이 댓글을 신고하시겠습니까?

댓글 삭제

"님의 댓글"

삭제하시겠습니까?

목록
번호 분류 제목 글쓴이 날짜 추천 조회
공지 2023년 하반기 개편 안내 (레벨 시스템 추가) 9 Mi_Dork 23.07.13.09:07 +1 3722
공지 밀리돔 후원 요청 (2023-06-23) 28 운영자 14.01.24.20:42 +13 38570
2944 기타
normal
폴라리스 23.06.10.14:30 0 110
2943 기타
normal
폴라리스 23.06.10.14:29 0 68
2942 기타
normal
폴라리스 23.06.09.17:52 0 115
2941 기타
normal
폴라리스 23.06.09.17:51 0 124
2940 기타
normal
폴라리스 23.06.09.17:48 0 108
2939 기타
normal
폴라리스 23.06.08.20:34 0 130
2938 기타
normal
폴라리스 23.06.08.20:33 0 154
2937 기타
normal
폴라리스 23.06.07.16:07 0 187
2936 기타
normal
폴라리스 23.06.07.16:07 0 125
2935 기타
normal
폴라리스 23.06.07.16:06 0 108
2934 기타
normal
폴라리스 23.06.07.16:03 +1 133
2933 기타
normal
폴라리스 23.06.06.16:30 0 95
2932 기타
normal
폴라리스 23.06.06.16:29 0 80
2931 기타
normal
폴라리스 23.06.05.14:53 0 105
2930 기타
normal
폴라리스 23.06.05.14:52 0 105
2929 기타
normal
폴라리스 23.06.05.14:51 0 202
기타
normal
폴라리스 23.06.03.15:33 0 437
2927 기타
normal
폴라리스 23.06.03.15:33 0 199
2926 기타
normal
폴라리스 23.06.03.15:32 0 107
2925 기타
normal
폴라리스 23.06.02.14:41 0 223

밀리돔 | milidom 의 저작물은 다음의 사이트 이용 약관 에 의거해 이용 가능합니다.
이 라이선스의 범위 이외의 이용허락은 운영진에게 문의 하시기 바랍니다.