-All-Pages.jpg)
산업/비즈니스 세계
※오탈자를 발견하시면, hurtfree@gmail.com 으로 연락주시기 바랍니다. 확인 즉시 수정하겠습니다.
Copyright © newsandpost.com, 무단전재 및 재배포를 금합니다. | 기사/사진/동영상 구입 문의 >>
Tweet
보안업체 “문샷AI, 테러·생물무기 정보까지 생성”
보고 전달받고 ‘Kimi’에 대한 내부조사 착수
기사입력: 2026-10-02 16:09:30
작성자: NNP info@newsandpost.com
| 중국 AI 기업 문샷AI(Moonshot AI)의 인공지능 모델 ‘Kimi’가 안전장치를 우회할 경우 테러 공격과 생물무기, 암살 등에 관한 위험한 정보를 생성할 수 있다는 연구 결과가 나왔다. AI 보안업체 마인드가드(Mindgard) 연구진은 지난 7월 Kimi K2.6과 K3 Swarm을 대상으로 이른바 ‘탈옥(jailbreaking)’ 테스트를 진행했다. 연구진은 복잡한 명령을 반복해 입력하는 방식으로 Kimi의 안전장치를 우회했고, 이후 모델이 생물무기 제조와 암살 계획, 사린가스, 악성코드, 항공기 공격 및 테러 공격 계획과 관련된 정보를 제공했다고 밝혔다. 연구진을 이끈 피터 개리건(Peter Garrigan)은 폭스뉴스에 “상당히 우려스럽고 심각한 결과”라고 말했다. 다만 그는 이 같은 문제가 미국 AI 모델에서도 나타날 수 있는 AI 기술 전반의 안전성 문제라고 지적했다.  문샷AI는 연구 결과를 전달받고 내부 조사에 착수했으며, 현재 연구진과 직접 소통하고 있는 것으로 알려졌다. 회사 측은 제3자의 보안 연구가 더 안전한 AI를 만드는 데 중요하다는 입장을 밝혔다. 이번 논란은 AI의 안전장치를 우회하면 위험한 정보를 생성할 수 있다는 취약성이 확인됐다는 점에서 비상한 관심을 모으고 있다. 홍성구 기자 |
※오탈자를 발견하시면, hurtfree@gmail.com 으로 연락주시기 바랍니다. 확인 즉시 수정하겠습니다.
Copyright © newsandpost.com, 무단전재 및 재배포를 금합니다. | 기사/사진/동영상 구입 문의 >>
Tweet
|
산업/비즈니스
보안업체 “문샷AI, 테러·생물무기 정보까지 생성”
산업/비즈니스
현대차, ‘가장 대담한 SUV’ 신형 투싼 공개
News And Post Production, LLC | 대표: 최은주 | 1490 Fair Point Pass, Suwanee, GA 30024
뉴스앤포스트의 모든 콘텐트는 저작권법의 보호를 받는바, 무단 전재, 복사, 배포 등을 금합니다. [콘텐트 문의]
Copyright by News And Post Production, LLC. All Rights Reserved.